Amazonの顔認識システム、米国会議員28名を逮捕歴のある人物と誤判定

米市民自由連合(ACLU)がAmazonのリアルタイム映像分析サービス「Rekognition」を用いて米国会議員全員の顔写真を処理したところ、28名が過去に逮捕歴のある人の写真に一致すると誤判定されたそうだ(ACLUのブログ記事、VentureBeatの記事、The Vergeの記事、Ars Technicaの記事)。

ACLUでは公開されている逮捕者の写真25,000人分を用い、Rekognitionで顔写真データベースと検索ツールを作成。Amazonによるデフォルトの一致検出設定で現職の米国会議員全員(下院429、上院100)の顔写真を処理させたという。使用した顔認識システムはAmazonが一般に提供しているものと同じで、実行に要した費用は12ドル33セントだったそうだ。

現在、非白人の米国会議員は20%だが、逮捕者写真データベースに一致すると誤判定された国会議員28名のうち、39%が非白人だったという。非白人は警察から不利な扱いを受けがちであり、その傾向をRekognitionが強めるのは想像に難くないとのこと。
既に米国各地の警察はRekognitionを使用した市民監視を行っており、ACLUなどを中心としてAmazonに監視ビジネス中止を求める運動が広がっている。今回の実験結果を受け、ACLUでは国会議員が問題を深刻に受け止め、捜査機関による顔認識の使用を一時停止するなどの対策をとるべきだと述べている。

この問題を受け、ジミー・ゴメス下院議員が代表して誤判定された議員3名による超党派の質問状をAmazonのジェフ・ベゾス氏に送っているほか、エド・マーキー上院議員は誤判定されなかったロン・ワイデン上院議員らとともに39の連邦捜査機関に顔認識の使用ポリシーに関する質問状を送るなど、波紋は広がっている。　

スラドのコメントを読む | YROセクション | YRO | 政治 | 変なモノ | アメリカ合衆国 | プライバシ

　関連ストーリー：
Microsoft、政府による顔認識技術の規制を求める 2018年07月16日
Amazonのリアルタイム顔認識システムを米警察が利用。Amazonが積極的に営業か 2018年05月26日
中国の顔認識システム、数万人の観客を集めたコンサート会場で指名手配中の容疑者を特定 2018年04月15日