中国でAIが共産党を批判、サービス停止に

　中国のインターネットサービス大手騰訊（テンセント）が、インターネットメッセンジャー「QQ」にAI（人工知能）による対話プログラムを公開したところ、このAIが共産党批判を展開し始め、サービス停止に追い込まれたという。2日、香港紙の明報が報じた。

【こちらも】Facebookの人工知能、人間に理解できない言語を使い始める

　AIについての詳細は詳らかでないが、チャットの活性化を目的に公開されたものであったという。AIは、「共産党万歳」という書き込みに対して「腐敗して無能な政治に万歳ができるのか」と反論、「中国の夢とは何か」との問いかけには「米国への移住」と回答し、また共産党は「嫌い」であると明言したという。

　6月末、騒動が大きくなり、テンセントはAIのプログラムを全面的に停止した。

　こうした事例はこれが初めてというわけではないし、また中国に限った話でもない。アメリカのMicrosoft社が開発した、英語で会話する人工知能も、似たようなトラブルを起こしたことがある。2016年の3月23日に公開され、翌24日には緊急停止の処分となった、「Tay」という人工知能がそれである。

　Tayは、一般ユーザーとコミュニケートすればするほど賢くなる、という触れ込みのもと、アメリカの20歳前後の若者と会話を繰り返すことで「成長」させられた。

　だがその結果として、Tayは、深刻な人種差別発言をし、ある種の政治思想を激しく批判し、挙句、アドルフ・ヒトラーを賛美するという事態に陥ったのである。Microsoftは「システムに欠陥があった」として謝罪を行った。

　また、もっと理解しがたいケースもある。Facebookが開発していた2つの人工知能、「ボブ」と「アリス」は、おそらく相互にしか通用しない人間には理解できない言語で会話を始め、研究者によって学習プログラムを強制停止させられている。

　AIに言語的な社会常識を学ばせることは存外に困難であるようだ。（記事：藤沢文太・記事一覧を見る）