米国全州の検事総長、AIが生成するCSAMの問題調査と規制を議会に求める

米国の 50 すべての州と首都ワシントン、3 海外領 (北マリアナ諸島・プエルトリコ・米領バージン諸島) の検事総長が連名で、AI が生成する CSAM (児童性虐待素材) の調査と規制を求める書状を米上下院の主要役職者 (上院仮議長・下院議長・各院多数派および少数派のリーダー) に送った(書状: PDF、The Verge の記事、Ars Technica の記事、The Register の記事)。

書状では AI を使用することで実在する児童の写真を合成した CSAM イメージや、実在する児童に似た CSAM イメージが容易に生成できるようになり、児童が実際に性虐待を受けているかどうかにかかわらず、生成と流通が肉体的・精神的・感情的な被害を与えると指摘する。

実在しない児童を描いたアニメーションなどでも 1) AI が虐待を受けた児童のイメージをソースにしていることが多い、2)ソースとなった児童が実際に虐待を受けていなくても実際の児童に似た CSAM イメージ流通が被害につながる、3) 現実の児童に全く似ていなくても児童虐待市場の成長につながる、4) AI ツールにより容易に短時間で生成できるといった点で問題があるという。

そのため、AI 生成による CSAM の問題を調査する専門家による委員会の設立と、AI が生成した CSAM イメージを明確にカバーするよう CSAM 規制を拡大するなど、児童の性虐待を防ぐための対策を委員会の勧告に基づいて行うよう求めている。　

スラドのコメントを読む | ITセクション | グラフィック | 人工知能 | 政治 | IT | アメリカ合衆国

　関連ストーリー：
週刊プレイボーイからAI生成モデルのグラビア写真集発売 2023年06月02日
Apple、子供を守る取り組みに関する Web ページから児童虐待コンテンツへの言及をすべて削除 2021年12月18日
Apple、デバイス上での児童性的虐待素材スキャンなどの計画を延期 2021年09月05日