豪政府機関、Facebookでのリベンジポルノ拡散を未然に防ぐ取り組み開始

オーストラリア政府機関Office of the eSafety CommnissonerがFacebookと提携し、Facebookのプラットフォーム上でリベンジポルノや不正アクセスにより第三者の手に渡ったヌード写真/動画の拡散を防ぐ取り組みを開始したそうだ(メディアリリース、Facebook Newsroomの記事、ABC Newsの記事、The Guardianの記事、The Vergeの記事)。

Office of the eSafety Commnissonerでは画像による嫌がらせ(Image-based abuse: IBA)の防止に取り組んでいる。今回の取り組みはFacebookが実施するパイロットプログラムに参加して行われるもので、オーストラリアのほかに3か国が参加するという。The Timesの記事によれば、米国・英国・カナダの3か国のようだ。

拡散が懸念されるヌード写真/動画のあるユーザーがWebフォームを通じてOffice of the eSafety Commnissonerに連絡すると、FacebookのMessengerアプリで自分自身あてに問題の写真/動画を送信するよう求められる。あとはユーザーが送信した写真/動画からハッシュ(フィンガープリント)が生成され、一致する写真/動画がFacebookやMessenger、Facebook Group、Instagramでブロックされるという仕組みだ。

ハッシュ生成後、FacebookはOffice of the eSafety Commnissonerを通じてユーザーにMessengerのスレッドから写真/動画を削除するよう通知し、ユーザーが削除するとサーバーからも削除される。なお、ブロッキング処理では生成したハッシュのみが使われるが、ハッシュ生成前には特別な訓練を受けたFacebookスタッフによる写真/動画の確認が行われるとのこと。
Facebookでは画像マッチング技術を用い、4月からFacebookおよびMessenger、Instagramで報告されたリベンジポルノをブロックしている。今回のパイロットプログラムは事前の報告という仕組みを追加し、対象を拡大するものとなる。なお、FacebookのAlex Stamos氏のツイートによれば、画像のリサイズといった単純な変更程度ではブロッキング処理に影響しないそうだ。

The Guardianの記事ではMicrosoftと米ダートマス大学が共同で開発した画像マッチング技術「PhotoDNA」を使用しているような記述になっているが、詳細は不明だ。Facebookでは米National Center for Missing and Exploited Children(NCMEC)のPhotoDNAプログラムに2011年から参加し、児童ポルノ拡散防止の取り組みを行っている。

　スラドのコメントを読む | ITセクション | オーストラリア | Facebook | IT | プライバシ

　関連ストーリー：
米国における「リベンジポルノ」の実態調査結果が発表される、約1000万人が被害経験あり 2017年01月03日
米サウスカロライナ州、パソコンなどのデバイスにわいせつコンテンツブロック機能の搭載を義務付ける法案 2016年12月23日
Facebook、濃淡2色のピンク色で描かれた同心円をアダルトコンテンツと判断・削除・謝罪 2016年10月23日