グーグルの新サービス、AIが文脈を読み有害コメントを判定
2017年3月10日 09:49
ニュースサイトやSNSでは誹謗中傷など悪質なコメントが溢れており、読者や投稿者に不快な思いを与えるとして問題視されている。コメント欄やタイムラインが有害コメントで汚染されてサービスの質が低下するのを避けるため、パブリッシャー側はコメント欄の閉鎖や人力による評価システムの導入など、対策を講じるのに必死だ。こうしたなかGoogleがサイトのコメント汚染への新たな解決策を提示した。
Alphabetの子会社で問題解決型テクノロジー開発のJigsawは、AIによって有害コメントをリアルタイムで見分けるサービス「Perspective」を公開した。同サービスはAPIの形式で提供され、コメントの有害性を判断してフラグを立てる。有害と判断されたコメントの処理方法はパブリッシャー側での運営方針に基づくプラットフォームの設計次第となっており、フラグが立ったコメントを隠すことも、コメントした本人にフィードバックすることも、人によるレビューの補助として活用することも選択肢として持つことができる。これによりコメントの中立性を損なわない運営が可能となる。
Perspective開発にあたってはThe New York Timesから提供された、1日、1万1000件にものぼる同紙へのコメントを使って機械学習を実施。特定のキーワードからのみでなく文脈からの判断能力を実装した。人間のレビュアーが評価した数十万ものコメントを学習しており、学習を重ねるごとにコメント選別精度が上がる。現在は英語のみの対応となっており、まずは読者が不快に感じて会話から離れてしまうような「毒性のある」コメントを検出する機械学習モデルをリリースし、年内には他の傾向のコメントを検出するモデルも公開していく予定。
Googleは、Google Newsで事実確認済みの記事を見つけやすくするための「ファクトチェック」タグの導入や、Jigsawによるファクトチェックツールの開発、低品質なサイトの検索順位を下げるアルゴリズムの実装などを次々と打ち出している。有害コメントやデマニュース、質の低い情報に触れる機会を減らすことは読者の不快な思いの軽減だけでなく、誤った信念の形成を防ぐことにもつながることから、サービス適用範囲の拡大や選別精度の向上など今後の動向に注目したい。(編集担当:久保田雄城)