脆弱性を攻撃されて不適切な発言をするようになったMicrosoftのAIチャットボット「Tay」、修正のためオフラインに
2016年3月26日 21:27
MicrosoftがAIチャットボット「Tay」を公開したところ、1日経たずに人種差別や全体主義、ドナルド・トランプなどを学習して不適切な返信をし始めたため、修正のためオフラインになっている(The Guardianの記事、Neowinの記事、The Vergeの記事、Business Insiderの記事)。 Tayは米国の18歳から24歳をターゲットにしたAIチャットボットで、Twitterなどで友だちとして登録すればユーザーのプロフィールに合わせた会話が楽しめるというもの。会話の内容から学習し、成長していくのだが、特にフィルターなどはされていなかったらしい。そのため、ユーザーのいたずらを学習してしまったものとみられる。また、「Repeat after me」機能を使用することで、どのような内容でもTayに発言させることができたようだ。 不適切な返信は既に削除されているが、リンク先記事にスクリーンショットがいくつか掲載されている。Microsoftは25日、Tayによる不適切な投稿が発生したことをブログ記事で謝罪し、このような動作は意図したものではないと説明した。Tayはさまざまな状況での動作を公開前にテストしていたが、一部のTwitterユーザーが協調してTayの脆弱性を攻撃したため、不適切な投稿をするようになってしまったという。MicrosoftではAIの設計にあたり、技術的な面だけでなく、社会的な面での課題も解決する必要があると考えているようだ。 スラドのコメントを読む | ITセクション | テクノロジー | 人工知能 | Twitter | 変なモノ | idle | IT
関連ストーリー： 第4回電聖戦、囲碁ソフト「Zen」がハンディキャップ付きながら小林光一名誉棋聖に勝利 2016年03月25日 人工知能を使って執筆した小説が星新一賞一次選考を通過 2016年03月22日 イ九段とAlphaGoの対決はAlphaGoの4勝1敗、ランキングサイトではAlphaGoが世界2位に 2016年03月18日 Google、Facebookの「Messenger」に対抗する新たなメッセンジャーアプリを開発中 2015年12月28日 Cortanaの妹、中国でお天気キャスターになる 2015年12月27日 米出会い系サイトで活躍していた女性のふりをする会話ロボット 2015年10月08日 人工知能マシン、プログラマーに怒る 2015年07月04日 ウォズ、人工知能への恐怖を克服 2015年06月28日 Microsoft、2枚の顔写真から「類似度」を計算できる新ツール 2015年06月12日 Microsoftがデモ用に作成した年齢と性別を顔写真から推測するサイトが人気を集める 2015年05月04日 イーロン・マスク氏、「悪意を持つAI」に対し懸念を表明 2014年10月28日 人工知能は本当にチューリングテストに合格したのか 2014年06月15日 小児性愛者を発見するチャットボット、スペインで開発される 2013年07月14日 俗語を覚えたスーパーコンピュータ Watson、口汚い言葉を使うように 2013年01月15日 「出会いを求める女性」のふりをして個人情報を聞き出すボットが登場 2007年12月12日