米Yahoo!、ヘイトスピーチを正確に検出できるシステムを開発

2016年8月4日 11:26

　今年3月、Microsoftの人工知能「Tay」が人種差別的な発言（ヘイトスピーチ）を話すよう学習させられてしまったことが話題になったが（過去記事）、今度は米Yahoo!がコメント内のヘイトスピーチを正確に識別する人工知能を開発したそうだ（WIRED、論文PDF）。

　単に特定のキーワードを検出するだけでなく、文脈から判断して人種差別的な発言を検出できるのが特徴。人工知能の学習には、Yahoo! NewsやYahoo! Financeのコメントとして投稿されたテキストを使用したという。この人工知能は「訓練を受けていない人」よりも高精度でコメントを判断できることも実験で明らかにされているとのこと。このデータベースはYahoo!のWebscopeという研究者向けサイトで公開されるようだ。