中国製の画像生成AI、天安門広場は生成できず

最近では画像生成AIが流行っているが、中国のBaiduが新たに開発した画像生成AI「ERNIE-ViLG」では、既存のAIよりも正確に中国固有の歴史的なモノや有名人を示す画像を生成できるそうだ。MIT Technology Reviewの記事によれば、DALL-E 2やほかの欧米製画像生成AIよりも優れたアニメ絵が作れるという。ERNIE-ViLGは同社の自然言語処理の大規模プロジェクトであるWenxinの一環として開発された。この画像生成AIでは1億4500万の画像とテキストのペアのデータセットでトレーニングされたとされる（MIT Technology Review）。

8月下旬にこのソフトウェアのデモ版が公開されると、ユーザーたちはすぐに政治指導者の名前が含まれた単語や、政治的かつ議論を呼びそうな単語などを入力する実験がおこなわれたようだ。その結果、こうした特定の単語は「センシティブ」というラベルを付けられて、結果を生成できないようになっていたことが判明したとのこと。記事では中国の高度なネット検閲システムは、AIの最新トレンドにも及んでいるようだと述べている。

具体的にダメだった単語としては「天安門広場」や「革命」、中国でVPNサービスを使用するための暗喩である「壁を登る」といった言葉、BaiduのCEOであるYanhong (Robin) Li氏の名前などがあった模様。なお「民主主義」や「政府」などの単語自体は入力できるが、「民主主義中東」や「英国政府」などを組み合わせた場合はアウトであるらしい。　

スラドのコメントを読む | YROセクション | 検閲 | YRO | グラフィック | 人工知能 | 中国

　関連ストーリー：
画像生成AI「Midjourney」が美術品評会で1位を取ってしまい騒動に 2022年09月03日
アップロードされた絵と同じ特徴の絵を生成するAIサービスが登場も1日でサービス停止に 2022年09月01日
画像生成AIサービスが人気に、オープンソースのモデルも登場 2022年08月24日
画像生成AI『DALL·E 2』、データセットの偏りを補正するための単純なハック実施 2022年08月03日