画像系の生成AIの弱点をついたハック

画像系の生成AIで人物の画像などを生成すると指の数を間違えやすいといった問題が起こりやすい。最新の論文でもAIが間違えやすい「指の数」を修正する技術などに触れられているものもあるという。テクノエッジで紹介されている「Concept Sliders」は、拡散モデルを使用し、画像の特定コンセプトを微調整するツールで、画像品質を損なわずに被写体の年齢、化粧、髪の色、表情の変更や、指の本数の調整、天気や季節のスタイル変更などが実現できるという（テクノエッジ）。

そんな生成AIを用いたハックがSNSのX上で話題になっていたようだ。大元は今年2月にMisterCh0c氏がポスト（当時はツイート）した内容で、犯罪者が新たな6本目の指が生えたようなアクセサリを身につけて犯罪を行うことで、撮影された写真をAI生成と主張し、証拠写真を無効化するというアイデアとなっている。X上では写真を証拠として使う価値が下がる可能性や「悪いことをする時だけ頭が回るのは万国共通なのか」といったさまざまな意見が見られたようだ（Togetter）。　

スラドのコメントを読む | ITセクション | テクノロジー | 犯罪 | ソフトウェア | グラフィック | 人工知能

　関連ストーリー：
Google、AIが生成した画像を使用してイメージ通りのアパレル製品を検索する機能を米国でテスト 2023年11月18日
OpenAI、より安価なGPT-4 Turbo発表 2023年11月08日
伊藤園『お～いお茶 カテキン緑茶』TVCMに生成AIタレントを起用 2023年10月18日
ChatGPTの考える「メモリを食う」「サーバーが落ちる」「やば、全データ飛ばしてもうた」 2023年10月17日