Amazonの顔認識システム、米国会議員28名を逮捕歴のある人物と誤判定
2018年7月29日 23:48
米市民自由連合(ACLU)がAmazonのリアルタイム映像分析サービス「Rekognition」を用いて米国会議員全員の顔写真を処理したところ、28名が過去に逮捕歴のある人の写真に一致すると誤判定されたそうだ(ACLUのブログ記事、VentureBeatの記事、The Vergeの記事、Ars Technicaの記事)。 ACLUでは公開されている逮捕者の写真25,000人分を用い、Rekognitionで顔写真データベースと検索ツールを作成。Amazonによるデフォルトの一致検出設定で現職の米国会議員全員(下院429、上院100)の顔写真を処理させたという。使用した顔認識システムはAmazonが一般に提供しているものと同じで、実行に要した費用は12ドル33セントだったそうだ。 現在、非白人の米国会議員は20%だが、逮捕者写真データベースに一致すると誤判定された国会議員28名のうち、39%が非白人だったという。非白人は警察から不利な扱いを受けがちであり、その傾向をRekognitionが強めるのは想像に難くないとのこと。 既に米国各地の警察はRekognitionを使用した市民監視を行っており、ACLUなどを中心としてAmazonに監視ビジネス中止を求める運動が広がっている。今回の実験結果を受け、ACLUでは国会議員が問題を深刻に受け止め、捜査機関による顔認識の使用を一時停止するなどの対策をとるべきだと述べている。 この問題を受け、ジミー・ゴメス下院議員が代表して誤判定された議員3名による超党派の質問状をAmazonのジェフ・ベゾス氏に送っているほか、エド・マーキー上院議員は誤判定されなかったロン・ワイデン上院議員らとともに39の連邦捜査機関に顔認識の使用ポリシーに関する質問状を送るなど、波紋は広がっている。