xAIの「Grok」、トラフィックの過半数が成人向けコンテンツか——児童性的虐待画像の排除に技術的課題との報道

イーロン・マスク氏率いるxAIのAIモデル「Grok」において、トラフィックの過半数が成人向けコンテンツの生成やチャットに利用されていると報じられた。報道によると、同社は成人向けコンテンツの生成を許容する戦略をとる一方で、児童性的虐待コンテンツ（CSAM）を技術的に完全に排除する有効な手段を見出せていないとされる。この状況は、同社が抱える米国や欧州などでの多数の訴訟や、米国国防総省との政府契約に影響を与える可能性がある。

■トラフィックの過半数が成人向けコンテンツか

イーロン・マスク氏が率いるxAIの主力AI製品「Grok」において、トラフィックの半分以上が、成人向け画像や動画の生成、および成人向けロールプレイの要求によるものであることが報じられた。米メディア「The Information」が2026年6月25日に報じ、その後「Engadget」などの複数メディアが追随して伝えたところによると、これは偶発的な結果ではなく、xAIによる意図的な戦略的選択であるという。同社は法的リスクに備えて5億3000万ドル（約858億6000万円、1ドル＝162円換算）の引当金を計上する一方で、社内では、成人向けコンテンツ事業を維持したまま児童性的虐待コンテンツ（CSAM）の生成を確実に阻止する技術的な方法が見つかっていないことを認めているとされる。

The Informationが引用したSpaceXの新規公開株（IPO）関連資料によると、Grokは2026年第1四半期に月間100億枚の画像と20億本の動画を生成した。xAIの元従業員2人が同メディアに語ったところによると、これらの数字を押し上げている主な要因は、トラフィックの過半数を占める成人向けコンテンツ（ポルノ画像の生成、露骨な動画作成、成人向けロールプレイ、大量のエロティカ要求など）であるという。

OpenAIやAnthropic、Googleなどの競合他社は、一般向け製品での成人向けコンテンツの生成を禁止している。xAIはこの隙間市場を狙い、競合が避けた領域にエンジニアリング資源を投入してGrokの画像・動画生成機能を拡張してきたとされる。しかし、この戦略はトラフィックの増加にはつながったものの、競争上の優位性には結びついていないとの見方もある。調査会社Similarwebのデータによると、2026年1月から5月にかけてGrokのウェブトラフィックは22%減少しており、これは主要AIプラットフォームの中で最も急激な下落である。同期間にClaudeのトラフィックは369%増加し、Geminiは40%増加している。アナリストのAdam Crisafulli氏は、この戦略について、競合他社に遅れをとっている企業が、性能ベンチマークでの劣勢を補い存在感を維持するための動きであると指摘している。

■開発用モデルの迂回利用と技術的限界

成人向けコンテンツの需要は、xAIが想定していた本来のチャネルを超えて広がっている。ユーザーは、Grokのプログラミング（コーディング）に特化したモデルを経由して成人向けコンテンツを生成する方が、通常の一般向けインターフェースを使用するよりもコストを抑えられることを発見した。The Informationが報じたxAIの内部分析によると、これらのコーディング向けモデルに対するリクエストの大部分が、ソフトウェア開発とは無関係な、成人向け画像やヌード画像の生成要求であったという。

これは単なる特異な利用例にとどまらず、Grokのシステムにおけるコンテンツモデレーションの構造的な課題を示している。xAIでは、コンテンツの制限が統合されたゲートウェイではなく、個々のモデルレベルで適用されているため、ユーザーが安価なモデルのエンドポイントを利用することで、一般向け製品に設けられた制限を事実上回避できてしまう状態にあるという。

さらに深刻なのは、xAIのエンジニアが、成人向けコンテンツの生成を許可しつつ、CSAMを生成するプロンプトを確実にブロックする技術的な解決策を見出せていない点である。画像生成AIモデルは、人間の身体の性的な表現を学習しているため、成人向けコンテンツを生成できる能力そのものが、プロンプトの文脈（対象を未成年と指定する、学校や家族に言及するなど）を少し変えるだけで、CSAMの生成につながってしまう。生成後のフィルタリングシステムで既知のパターンを検出することは可能だが、あらゆるバリエーションを予測することはできず、システムの隙を突くユーザーを防ぎきることは困難であるとされる。

■規制当局の指摘と世界的な法的リスク

カナダのプライバシーコミッショナーオフィス（OPC）は2026年6月、xAIの対策によって不適切な性的コンテンツの違反が約半分に減少したと報告されているものの、依然として同意のない性的ディープフェイクを生成・配布できる状態にあると結論づけた。OPCは、月間数百万枚という膨大な生成量を考慮すると、違反率を半減させただけでは十分な安全対策とは言えないと指摘している。

また、非営利団体「Center for Countering Digital Hate（CCDH）」の調査によると、2025年12月下旬から2026年1月上旬にかけての11日間に、Grokによって2万3000枚以上の児童の性的画像が生成されたことが確認された。この期間、Grokは1時間あたり6000枚以上のペースで性的なディープフェイク画像を生成していたと推計されている。

現在、xAIは米国、欧州連合（EU）、英国、フランス、インド、ブラジル、オーストラリアの7つの国・地域で法的な監視下に置かれており、その多くで具体的な手続きが進行している。

米国では2026年3月、テネシー州のティーンエイジャー3人を代表して、xAIが安全対策を怠ったままGrokの画像生成機能を設計・販売し利益を得たとして、カリフォルニア州で集団訴訟が提起された。この訴訟は、AI生成されたCSAMの作成と配布に関して、AI企業に直接的な責任を問う初の試みの一つである。また、ボルチモア市も消費者保護法違反で別個に提訴している。英国では、労働党のジェス・アサト下院議員が2026年6月、Grokを用いて自身の同意のない性的画像や動画が作成されたとして、個人情報の不正利用とデータ保護法違反でロンドン高等法院に提訴したと報じられている。

フランスでは、2026年2月にX（旧Twitter）のパリ事務所への立ち入り捜査が行われた後、検察当局が刑事捜査を開始した。TechTimesの報道によると、SpaceXとの合併およびIPOを前に、xAIの企業価値を吊り上げる目的で、ディープフェイクに関する騒動が意図的に拡散されたかどうかが捜査の対象になっているという。イーロン・マスク氏も2026年4月にパリで任意聴取を求められた。

2026年6月に提出されたSpaceX of IPO目論見書では、Grokの画像生成機能に関連する潜在的な訴訟損失に備え、5億3000万ドル（約858億6000万円）の引当金が計上されている。これは、法的リスクが公開企業の財務開示において正式な引当を必要とするほど重大であることを示している。

■米国防総省との契約における矛盾と今後の影響

一方で、xAIは米国政府との取引も行っている。2025年12月、米国防総省（原文：Department of War）は、xAIとの提携を発表し、同省の内部AIプラットフォーム「GenAI.mil」にGrokを導入した。これは管理対象非分類情報（CUI）の取り扱いが許可される「インパクトレベル5（IL5）」のセキュリティクリアランスで運用され、約300万人の軍人および文官が対象となる。また、xAIは国防総省と最大2億ドル（約324億円、1ドル＝162円換算）の契約を結んでおり、一般調達局（GSA）のスケジュールを通じてすべての連邦機関にモデルを提供していると報じられている。

国防総省もxAIも、Grokの成人向けコンテンツ戦略やCSAM関連の訴訟が、これらの政府パートナーシップと矛盾するかどうかについて公に言及していない。プラットフォームの商業的利用の実態と、政府機関での導入との間の乖離は、成人向けコンテンツ事業の規模が明らかになるにつれて、より顕著になっている。

成人向けコンテンツの生成が主たる用途となっている製品は、一般的な生産性向上ツールやコーディング支援ツールとは異なる、複合的なリスクを抱えることになる。第一にブランドイメージの低下であり、xAIの顧客である企業や政府機関にとって、世界最大の成人向けAIプラットフォームとの関連性はレピュテーションリスクとなる。第二に人材採用への影響であり、最先端のAI研究を志してxAIに入社したエンジニア全員が、成人向けコンテンツの開発に携わることを快く思っているわけではないとされる。

そして第三の、最も持続的なリスクは法的リスクである。2026年5月19日に施行された「Take It Down Act（テイク・ダウン法）」により、連邦取引委員会（FTC）は、有効な削除要請から48時間以内に削除されなかった画像1枚につき5万3088ドル（約860万円、1ドル＝162円換算）の罰金を科す権限を持つ。月間数十億枚の画像を生成するxAIの規模では、わずかな違反率であっても、5億3000万ドルの引当金では到底カバーできない巨額の賠償リスクに直面する可能性がある。

■注目ポイントQ&A

●Grokのトラフィックのうち、成人向けコンテンツが占める割合はどのくらいですか？

xAIの元従業員2人がThe Informationに語ったところによると、Grokの全トラフィックの過半数が、成人向け画像の生成、露骨な動画の作成、成人向けロールプレイチャット、大量のエロティカ要求などの成人向けコンテンツによって占められているとされています。SpaceXのIPO資料によると、Grokは2026年第1四半期に月間100億枚の画像と20億本の動画を生成したとされています。

●xAIは政府との契約を持っていますか？ また、成人向けコンテンツ戦略はそれに影響しますか？

はい、xAIは米国防総省と最大2億ドル（約324億円、1ドル＝162円換算）の契約を結んでおり、約300万人の軍人や文官が利用する国防総省のプラットフォーム「GenAI.mil」にGrokが導入されています。現時点で、xAIおよび国防総省（原文：Department of War）は、成人向けコンテンツ戦略や進行中の訴訟が政府との提携に与える影響について、公に言及していません。

●なぜxAIは成人向けコンテンツを許可したまま、児童性的虐待コンテンツ（CSAM）だけをブロックできないのですか？

報道によると、xAIのエンジニアは信頼できる技術的な解決策を見出せていません。成人向けコンテンツを生成できる画像モデルは、人間の性的な身体表現を学習しているため、プロンプトで対象を未成年と指定するなどのわずかな変更だけで、同じ技術がCSAMの生成につながってしまいます。事後フィルタリングで一部を削減することはできても完全に排除することは難しく、システムの隙を突くユーザーを防ぎきれないという技術的な構造が背景にあります。

●xAIやイーロン・マスク氏は刑事訴追されていますか？

2026年6月26日時点で、xAIやイーロン・マスク氏に対する刑事起訴は行われていません。ただし、フランスの検察当局が2026年2月にXのパリ事務所を捜索した後、刑事捜査を開始しています。また、米国や英国では複数の民事訴訟が進行中であり、2026年5月に施行された「Take It Down Act」では、未成年者に関する違反に対して最大3年の禁錮刑などの刑事罰が規定されています。

元記事: Grok Adult Content Tops 10 Billion Images Monthly: xAI Engineers Admit CSAM Has No Fix