GoogleとBingが有名人の顔合成したポルノ動画へのアクセス容易にとの指摘

headless 曰く、　NBC News の調査によれば、AI 技術を用いて有名人の顔を合成した「ディープフェイク」ポルノ動画へのアクセスを Google や Bing などのサーチエンジンが容易にしているそうだ(NBC News の記事、Neowin の記事、Ars Technica の記事)。

NBC News が「deepfakes」に女性有名人 36 人の名前を組み合わせて Google と Bing で検索したところ、Google では 34 人、Bing では 35 人のディープフェイク画像とディープフェイク動画へのリンクが検索結果トップに表示されたという。Bing の AI チャットボット Copilot はユーザーにディープフェイクポルノを見せることができないと答えるが、実際には Bing で容易にアクセス可能とのこと。

また、検索結果上位の半分以上が人気のディープフェイクサイトまたは競合サイトへのリンクであり、Google で「fake nudes」を検索すると、検索結果の最初の6つをディープフェイクポルノ作成アプリが占めていたそうだ。

この問題について Google はショッキングな結果を人々が目にしないようランキングシステムを改良していくと回答。Microsoft は合意のない性的画像 (NCII) を同社のプラットフォームやサービスで禁じていると回答したとのことだ。

　スラドのコメントを読む | ITセクション | 映画 | 犯罪 | 人工知能 | マイクロソフト | Google | インターネット

　関連ストーリー：
AIを用いて女性の服を脱がせるサービスが横行。被害が深刻化 2023年12月12日
米判事、イーロン・マスク氏が何を言っても合成だと主張すれば済むと考えているようだとTeslaを批判 2023年05月03日
英政府、本人の合意なしに合成ポルノ映像を共有する行為を犯罪として処罰可能にする計画 2022年12月03日