Google EarthのAI画像生成機能が24時間足らずで撤回、核施設の偽衛星画像とSynthID検出の限界が露呈

Googleは7月31日、Google Earthに導入したAI画像生成機能を、公開から24時間足らずで撤回した。複数組織の研究者が、実在する地理座標にひも付いた核施設、戦災、難民キャンプなどの写実的な偽衛星画像を生成できることを実証し、Google自身のAIでもそれらがAI生成だと確実には識別できなかったためだ。近年の主要なAI製品では異例の速さでの撤回であり、主要な安全策とされた電子透かし「SynthID」が偽画像の流通を防げなかったという、具体的な安全上の問題が引き金となった。再公開の時期や、Googleが導入する「より強力なガードレール」の詳細は明らかになっていない。

■研究者たちが生成した偽画像とGoogleの検出ツールの見落とし

Googleの「Nano Banana 2」モデル（技術的にはGemini 3.1 Flash Image）を搭載したこの機能は、米国東部時間7月30日午後2時2分（日本時間31日午前3時2分）に、待機リスト、企業向けの利用制限、追加料金のいずれもなく世界で公開された。ウェブブラウザからGoogle Earth上の任意の場所に移動し、「画像を作成」をクリックしてプロンプトを入力するだけで、その場所の実際の衛星画像、航空写真、3D地形データを条件とした写実的な画像を生成できた。

この空間的な位置付け、いわゆるアンカリングが同ツールの革新的な点だった。MidjourneyやDALL-Eのようにテキストだけから画像を生成する汎用AI画像生成ツールとは異なり、Google Earthの実装では、表示中の場所にある実際の建物の配置、道路網、地形、光の当たり方などを条件として画像を出力した。例えば、米国連邦議会議事堂で洪水が起きた偽画像は、単に洪水らしく見えるだけではない。建物の位置、縮尺、上空から見た構図を保ったまま、連邦議会議事堂の正確な座標で洪水が発生したように見えた。

公開から数時間以内に、オランダのOSINT研究者Henk van Ess氏は、「イランに原子力施設を設置する方法」と題するSubstackへの投稿を公開し、1文のプロンプトで何が生成できるかを記録した。イラン領内の核施設、米国とメキシコの国境にある難民キャンプ、爆撃跡のクレーターがあるガザの病院、アムステルダムでの死亡事故などで、いずれも本物のGoogle Earth衛星画像を土台に生成されていた。Van Ess氏は、この構造的な問題について「偽造画像は、それ自体で説得力を持つ必要はない。それが生まれた地図の信頼性を受け継ぐからだ」と説明している。

NPRは独自に、米国連邦議会議事堂周辺の洪水や、イランのハルク島石油ターミナルでの火災を示す偽画像を生成した。同ターミナルは戦略的に重要な施設であり、実際に破壊されれば重大な地政学的事件となる。BBC VerifyとAFPは、倒壊したエッフェル塔、ギザの大ピラミッドをのみ込む陥没穴、キーウに展開するロシア軍戦車、パリでの爆発、シリアにある架空のイスラム国訓練キャンプを生成した。The AtlanticのMatteo Wong氏は、ホワイトハウスの芝生に設けられたホームレスの野営地や、マール・ア・ラーゴ・リゾートの外に集まる抗議者の画像を生成した。米国科学者連盟（Federation of American Scientists）のMatt Korda氏は、本物のロシアの大陸間弾道ミサイル用サイロのすぐ隣に偽のサイロを配置し、両者を見分けるのは難しかったと指摘している。

最も深刻な問題を示したテストは、こうした目を引く偽画像の生成ではなく、検出機能の検証だった。AIを活用したOSINTプラットフォーム「Golden Owl」を運営するTal Hagin氏は、van Ess氏が生成したガザの病院の画像をGoogle自身のGeminiチャットボットに入力し、SynthIDの電子透かしを確認するよう求めた。Geminiの回答は「コンテンツがどのように作成されたかを示す、信頼できるシグナルは検出されませんでした」というものだった。Futurismによる別のテストでも同様の結果となり、Geminiは「画像がGoogle AIで作成されたものかどうか判断できない」と回答した。また、van Ess氏が偽衛星画像の画面録画をXに投稿したところ、第三者のAI検出ツールは、AI生成である可能性をわずか0.8％と判定した。

■衛星画像が特別なケースである理由

衛星画像は過去20年間にわたり、ジャーナリスト、人権調査員、OSINTアナリストにとって、最後のよりどころとなる検証手段として機能してきた。それは完璧だからではなく、画像の撮影元を物理的に偽装することが難しかったからだ。地表から数百マイル上空を飛ぶ衛星のカメラで撮影され、実績のある企業や機関によって管理されている画像は、現地取材が不可能な場所で政府の主張を確認または反証し、残虐行為を記録し、軍の動きを追跡するための、信頼度の高い基準となってきた。

BellingcatのシニアリサーチャーであるJake Godin氏はNPRに対し、「衛星画像は偽造が難しいため、出来事を検証する際には、かなり信頼できる手段とみなされてきた」と語った。Bellingcatの分析担当者は、衛星画像を使ってシリアでの化学兵器攻撃を特定し、ロシア軍の作戦を記録し、世界各地の紛争を追跡してきた。同氏はさらに、「地表から数百マイル上空にあるカメラという撮影元は、歴史的に模倣が困難だった」と説明している。

Google Earthの機能では、その撮影元を模倣する必要がなかった。撮影元となるデータそのものを利用できたからだ。AIは、画像に信頼性を与えている実際の衛星データを条件として、架空の内容を生成した。

Godin氏は、偽の衛星画像そのものは、これまでも限定的ながら出現していたと指摘する。2026年初頭に起きた、米国とイスラエルによるイランとの紛争の際には、イラン政府寄りのTehran Timesが、バーレーンの米海軍基地が破壊されたかのように見せる偽の「ビフォーアフター」画像を掲載した。これは、2025年2月の日付が付いた本物のGoogle Earth画像を加工したものだった。

この偽画像の作成には、元になる衛星画像を探し、別のAIツールで編集し、合成画像として組み直すという複数の工程が必要だった。それでも、偽画像だと検証されるまでに数百万回閲覧された。Google Earthの機能は、この複数工程の作業を、1回のテキストプロンプト入力に集約した。

Godin氏はNPRに対し、「作業を効率化しているだけだが、それによって、さらに広く出回るようになると思う」と語った。また、この種のツールが存在し、実際に使えることが示されたという事実だけでも、悪意のある行為者に、もっともらしく否認する余地を与えると懸念を示した。政府やプロパガンダの発信者は、現実に起きた出来事を写した本物の衛星画像についてもAI生成だと主張できるようになり、その主張を退けることは以前より難しくなる。

■電子透かしが機能しなかった理由

研究者らによる実証に対し、Googleは当初、SynthIDを安全策として挙げた。同社は7月30日、@NewsFromGoogleアカウントへの投稿で、Google Earth内でNano Banana 2を使って生成したすべての画像には、画像のピクセルに埋め込まれる不可視のシグナル「SynthIDデジタル透かし」が含まれていると説明した。画像が本物か疑わしい場合、ユーザーはGeminiまたはGoogle Lensを使って確認できるとしていた。

SynthIDと、これを補完する標準規格のC2PA（Coalition for Content Provenance and Authenticity）は、コンテンツの来歴を確認するためにAI業界が採用している主要な技術的アプローチだ。SynthIDは、圧縮、サイズ変更、切り抜きが行われても残るよう設計された、人間には知覚できないピクセル単位のシグナルを埋め込む。C2PAは、画像の出所と作成に使われたツールを記録した、暗号署名付きのメタデータを画像に付与する。両者を組み合わせることで、その後に画像を見た人がAI生成コンテンツであることを確認できるようにする仕組みだ。

構造的な問題は、どちらも受動的な仕組みであり、誰かが疑いを持って確認して初めて役立つことだ。SynthIDはシグナルを埋め込むが、検出には対応ツールを使った能動的な確認が必要になる。さらに重要なのは、C2PAのメタデータがスクリーンショットやソーシャルメディアへの再投稿によって失われることだ。プラットフォームがファイルを再処理した時点で、署名は無効になる。

ニュース速報、紛争報道、ソーシャルメディアでの急速な拡散など、情報が速く動く環境では、拡散の速度が検証を上回り続ける。イランの核施設を写した偽衛星画像は数秒でX上に広がるが、透かしの確認には意識的に追加の手順を踏まなければならない。拡散中の画像を目にした大半のユーザーが、その確認を行うことはない。

Washington Postのビジュアルフォレンジック調査員Evan Hill氏は、X上で「このアイデアについて、社内でどのようなレッドチーム検証が行われたのか、あるいは行われたのかどうか、非常に気になる」と書いた。さらに「悪用と偽情報に利用できる余地は、文字通り際限がない」と指摘した。

米国科学者連盟のMatt Korda氏は、Googleの対応について「複雑な偽情報を検証する負担を、エンドユーザーに押し付けるものであり、適切ではない」と主張した。また、この機能の開発は「偽情報を抑える自らの責任を理解するうえで、巨大テクノロジー企業に一定の怠慢があったこと」を示していると述べた。

■Googleの対応と繰り返されるパターン

7月31日までに、Googleは機能の撤回を発表した。同社は声明で「人々が、世界を信頼できる形で見るための手段としてGoogle Earthに特別な信頼を置いていることを、私たちは認識している」と述べた。

さらに「地理空間分野の専門家が、この機能をさまざまな有益な目的で利用していることを確認している。一方で、当社のポリシーに違反しているとみられる生成画像のスクリーンショットを共有する人々も確認した。そのため、より強力なガードレールの実装に取り組む間、Google Earthからこの機能を撤回する」と説明した。

Googleによると、AI生成画像が通常のGoogle Earth画面に表示されることはなく、作成したユーザーだけが閲覧できた。また、すべての出力にはSynthIDの透かしが入っていたという。その後、「画像を作成」ボタンはプラットフォームから消えた。同社は、再公開の時期や、より強力なガードレールが具体的にどのようなものになるかを明らかにしていない。

今回の出来事は、すでに定着しつつあるパターンに沿っている。2024年2月、Googleは、Geminiが歴史的事実と一致しない人物画像を生成したことを受け、人物を生成する機能を一時停止した。その中には、実際には人種的に多様でなかった歴史上の人物を、多様な人種の人物として描いた例が含まれていた。同社は安全対策を作り直し、その後、機能を再公開した。Google Earthでも、機能を広範に公開し、数時間以内に具体的な問題が表面化し、同社が撤回するという同じパターンが繰り返された。

オープンソース調査グループのGeoConfirmedはXで、この機能の主な実用的用途は、偽情報の作成と拡散であるように見えると書いた。Van Ess氏は構造的な問題をさらに直接的に表現し、「一体、Googleは何をしているのか」と述べた。同氏は、Google Earthから実在する建物を削除してもらうには政府による正式な要請が必要なのに、偽の建物は1文入力するだけで追加できると指摘している。

■ロールバックでは損なわれた信頼は回復しない

「画像を作成」ボタンはなくなった。しかし、画像検証を取り巻く環境が7月30日以前の状態に戻ったわけではない。

この事件以前、疑わしい衛星画像を目にした調査員には、信頼できる出発点があった。衛星画像を物理的に捏造することは難しく、特にGoogle Earthの画像は、その座標でカメラが記録したものを反映しているという前提だ。この前提によって、衛星画像は主張を検証する際の最低限の基準として利用できた。

その基準には今、公の場で目に見える亀裂が入った。Google Earth内でテキストプロンプトを1回入力するだけで、実在する座標に写実的な偽画像をひも付けられることは、記録され、広く報じられた。このため、たとえ本物であっても、あらゆる衛星画像がAI生成だと以前よりもっともらしく疑われるようになった。

軍事活動を示す本物の衛星画像を政府が提示しても、「おそらくAI生成だ」という反論は、7月29日時点より説得力を持ち得る。この信頼性の低下は、機能を撤回しただけでは解消されない。

Googleがこの機能を再導入するのか、導入する場合はどのような条件を設けるのかは、オープンソース調査コミュニティから注視されるだろう。テキストプロンプトから写実的な画像を生成する、地理空間データに基づいたAI画像生成技術は、実質的な技術の進歩ではある。

問題は、ジャーナリストや調査員が主要な検証ツールとして扱うプラットフォーム上で、大規模に提供しても安全といえるガードレールを構築できるかどうかだ。そして、その答えこそ、機能を世界公開する前にGoogle社内のレッドチーム検証で明らかにしておくべきものではなかったのかが問われている。

■注目ポイントQ&A

●GoogleがGoogle EarthからAI画像生成機能を取り下げたのはなぜですか？

複数組織の研究者が、実在する地理座標に配置された核施設、戦災、難民キャンプ、重要インフラの災害などの写実的な偽衛星画像を生成できることを実証したためです。Googleは公開から24時間足らずの7月31日に機能を撤回しました。また、同社は、ポリシーに違反しているとみられる生成画像のスクリーンショットが共有されていたことも認めています。再公開に先立ち、より強力なガードレールを実装するとしていますが、時期は明らかにしていません。

●SynthIDはGoogle EarthのAIで作られた偽の衛星画像を検出できますか？

今回報告されたテスト結果を見る限り、常に確実に検出できるとはいえません。SynthIDはAI生成画像に埋め込まれる不可視の透かしですが、検出するにはGoogle GeminiやGoogle Lensなどの対応ツールに画像を読み込ませる必要があります。多くの閲覧者にとっては、意識的に行わなければならない追加の手順です。

OSINTプラットフォーム「Golden Owl」のTal Hagin氏が、この機能で生成されたガザの病院の偽画像をGoogle自身のGeminiチャットボットに入力したところ、「コンテンツがどのように作成されたかを示す、信頼できるシグナルは検出されませんでした」と回答されました。第三者のAI検出ツールも、van Ess氏が投稿した偽衛星画像の画面録画について、AI生成である可能性をわずか0.8％と判定しました。もう一つの標準的な来歴確認技術であるC2PAのメタデータは、スクリーンショットを撮ると失われます。衛星画像はソーシャルメディア上でスクリーンショットとして共有されることが多いため、これは重大な制約です。

●Google EarthのAI生成衛星画像は、他のディープフェイクとどう違うのですか？

汎用AI画像生成ツールが作る偽画像には、空間的な制約がありません。見た目はもっともらしくても、建物の位置、道路網、地形が現実の場所と一致せず、位置情報を検証するジオロケーション分析によって矛盾が判明する可能性があります。

Google Earthの実装は、表示中の実在する場所について、実際の衛星データと3D地形データを条件として画像を生成する点が異なります。例えば、イランに偽の核施設を置いた画像でも、周囲の地形、上空からの光の当たり方、実在する道路の位置を保ったまま、正しい座標に施設があるように見せられます。偽画像が、生成元となった地図の空間的な信頼性を受け継ぐため、OSINT研究者は従来とは性質の異なる問題だと説明しています。OSINTの実務者は、疑わしい衛星画像をSentinel-2やLandsatなどの独立した衛星データと照合することを推奨しています。

●ロールバックによって、検証ツールとしての衛星画像の信頼性は回復しますか？

完全には回復しません。何を真実として判断できるかという認識上の損害は、ボタンを削除しただけでは元に戻らないためです。

7月30日以前、調査員は、実在する場所の写実的な衛星画像を捏造するには複数の工程が必要であり、検出可能な痕跡が残るという基本的な前提に頼ることができました。しかし、Google Earthのウェブインターフェース上で、テキストプロンプトを1回入力するだけで説得力のある偽画像を実在座標にひも付けられることが、公に記録されました。

世界的に信頼されてきた地理空間プラットフォームの内部で、こうした偽画像を容易に作成できたという事実を、なかったことにはできません。機能が撤回された後も、本物の衛星画像がAI生成だと以前よりもっともらしく疑われる可能性があります。技術の存在と使いやすさが実証され、公の記録となったからです。

元記事: Google Earth AI Pulled After Fakes of Nuclear Facilities Pass Watermark Check