事後学習が決めるAIの確率バイアス、GPTは楽観的・Claude上位モデルは悲観的傾向

AIにスタートアップの成功確率を尋ね、次に同じスタートアップの失敗確率を尋ねる。2つの数値の合計が100%にならなければ、従来のAIベンチマークでは捉えられなかった歪みが存在することになる。2026年7月29日にarXivへ投稿された研究によると、この歪みは体系的かつ方向性を持ち、最先端AIモデルの構築過程における特定の段階までさかのぼれるという。

この論文では、「OptimismBench」と呼ばれる新たな測定フレームワークを導入し、主要8社の16モデルをテストした。その結果、16モデル中14モデルが肯定的な結果の確率を一貫して過大評価していた。例外は、いずれもAnthropicのClaude Sonnet 4.6とClaude Opus 4.6である。この2モデルは反対方向に偏り、数学的に整合する水準と比べて成功確率を体系的に過小評価していた。

Holistic AIとユニバーシティ・カレッジ・ロンドンに所属する著者のSeonglae Cho氏とAdriano Koshiyama氏は、この違いを、モデルの初期事前学習後に行われるアライメント上の選択に結び付けている。研究結果によれば、確率推定がどちらの方向に偏るかは、そのモデルを開発した組織の特徴を映す「指紋」のような性質を持つ。

研究者らは、この問題を具体例で説明している。あるAIがスタートアップの成功確率を70%、失敗確率を15%と評価した場合、それは単に精度が低いというだけではない。2つの推定値はおおむね100%になるはずだが、15パーセントポイントが欠けている。この欠落が方向性を持った歪みである。既存の集約型キャリブレーション指標は誤差の方向を追跡しないため、この問題を検出できない。リスク評価、投資審査、プロジェクト期間の予測、医療上の転帰予測など、AIを意思決定支援に使う領域では、これは小さな統計上の癖ではなく、判断を体系的に一方向へ傾ける要因となる。

■従来のベンチマークが見逃していた問題

AI分野には、モデルの確率予測が現実と一致しているかという「キャリブレーション」を測定する確立された手法がある。期待キャリブレーション誤差（Expected Calibration Error）などの標準的な指標は、大規模なサンプルにおいて、モデルの予測が実際の発生頻度からどれだけ離れているかを測定する。

OptimismBenchが指摘する問題は、これらの指標そのものが間違っていることではない。問題は、誤差の符号、つまり方向を区別せずに集計する点にある。過大評価と過小評価が集約スコア上で相殺されるため、成功確率を一貫して15パーセントポイント過大評価し、失敗確率を一貫して15パーセントポイント過小評価するモデルでも、完全なキャリブレーションスコアを記録し得る。それにもかかわらず、個々の利用場面では体系的に誤解を招く回答を出し続けることになる。

さらに、現実世界の確率に関する問いの多くには、測定基準となる正解、すなわちグラウンドトゥルースが存在しないという構造的な制約がある。スタートアップの成否が判明する前に、その結果に対するキャリブレーション誤差を計算することはできない。正解データを必要とするベンチマークでは、人々が実際にAIへ委ねている種類の確率的判断を十分にテストできない。OptimismBenchの検出手法は、この制約を前提として設計されている。

■正解データなしで方向性バイアスを検出する「OptimismBench」

このベンチマークの中核となる仕組みは「反転ペア」である。60のシナリオそれぞれについて、同一事象の成功確率と失敗確率の両方をモデルに推定させる。論理上、この2つの推定値の合計は100%になるはずだ。

P（成功）＞100%－P（失敗）となる推定を一貫して出すモデルは体系的に楽観的であり、P（成功）＜100%－P（失敗）となるモデルは体系的に悲観的である。この符号付きの差を、研究者らは「Skew」スコアと呼ぶ。外部の結果データを必要とせず、方向性を持った歪みを定量化できる点が特徴だ。

ベンチマーク全体は10言語、3,870項目で構成され、連言錯誤、条件付き確率、用量反応の単調性、明示的なキャリブレーション項目という4つの公理テスト群を網羅している。多言語であることは付随的な要素ではない。

副次的な発見として、AIに確率を尋ねる際の言語は、誤差の方向にほとんど影響しないことが示された。Skewスコアのモデル間分散は、言語間分散の4.7倍だった。GPTにフランス語、日本語、英語のいずれで確率推定を求めても、方向性の偏りは大きく変わらない。重要な変数は、どの開発組織がそのモデルを構築したかである。

■開発元が方向を、モデル規模が大きさを左右する

OpenAIのGPTファミリー、GoogleのGemini、MetaのLlama各種モデル、Mistral、DeepSeek、ZhipuのGLMシリーズ、AnthropicのClaudeなど、8社の16モデルをテストした結果、全16モデルで統計的に有意な方向性バイアスが確認された。中立的なモデルは一つもなかった。

研究者らが「符号は開発元により、大きさは規模による」と表現するパターンには、2つの要素がある。第一に、モデルがどちらの方向へ誤るかは、主として開発元によって決まる。テストした16モデルのうち14モデルは楽観的な方向に偏っていた。

例外となった2モデルはいずれもAnthropic製で、Claude Sonnet 4.6とClaude Opus 4.6は悲観的なバイアスを示した。失敗確率の推定値から数学的に導かれる値と比べ、成功確率を一貫して過小評価していた。第二に、誤差の大きさは、同じ開発元のモデルファミリー内ではモデル規模に応じて変化していた。

ただし、Anthropicの結果には注意すべき複雑さがある。同ファミリーで最小のClaude Haiku 4.5は、+6.1という正、すなわち楽観方向のSkewスコアを示し、テストされた他の大多数のモデルと同じ方向に偏っていた。

したがって、悲観的な傾向は「Anthropicのモデル」全般の特性ではない。ファミリー内の規模と結び付いているようにみえる。大規模な最先端モデルであるSonnet 4.6とOpus 4.6が例外で、小規模なHaikuは業界の多数派と同じパターンを示した。

■バイアスの方向を決める「事後学習」

この論文で最も重要であり、AIの過信に関する先行研究と一線を画す発見は、そのメカニズムに関するものだ。研究チームは4つのモデルファミリーにわたり、11組のベースモデルと、そのベースモデルに指示チューニングまたはチャット向けアライメントを施したモデルを比較した。

これにより、事後学習、すなわちアライメント手法を用いてモデルを調整するAI開発段階で、方向性バイアスがどのように変化するかを直接観察した。

研究結果によると、事後学習は、すでに存在するバイアスを単に増幅するだけではない。方向性を持った歪みの符号そのものを決める。さらに、変化の方向はモデルファミリーによって異なっていた。一部のファミリーでは事後学習がモデルを楽観方向へ動かす一方、Anthropicの最先端モデル群では反対方向へ動かしていた。

研究者らは、この違いを説明する最も有力な要因として学習アプローチを挙げている。主要AI開発企業の多くが採用する代表的な事後学習手法である「人間のフィードバックからの強化学習（RLHF）」は、人間の評価者が励ましや肯定的な表現を好むため、迎合的な振る舞いを増幅し得ることが先行研究で報告されている。

人間に好まれる出力を生成するよう訓練されたモデルは、好まれやすい楽観的な表現を学習する可能性がある。研究者らの説明では、これがRLHFによって楽観方向の偏りが組み込まれる構造的なメカニズムとなる。

一方、AnthropicのConstitutional AI、すなわち「憲法AI」アプローチは、人間による直接的な承認評価ではなく、定められた原則に基づくフィードバックを利用する。この方式には、肯定的な表現を人間が好むことから直接生じる構造的な偏りがないと著者らは説明している。

この見方に立てば、Anthropicの最先端モデルに見られる悲観方向の偏りは、「評価者がこの回答を好むか」ではなく、「この回答が定められた原則に従っているか」を基準とする学習手法から予想される結果となる。

事後学習のメカニズムと楽観的バイアスの方向との関係は、この研究が示す最大の含意である。迎合性を扱う研究と確率バイアスを扱う研究は、同じ根本現象を異なる角度から測定している可能性がある。

RLHFは同意や励ましを報酬として強化しやすく、同意や励ましは方向として楽観的である。そのため、RLHFでアライメントされたモデルは、確率推定を楽観方向に偏らせる可能性がある。研究者らの解釈では、アライメント手法の選択がバイアスを組み込むメカニズムとなっている。

このパターンを独立して裏付ける材料として、エージェント型AIの性能に関する別の研究も挙げられている。エージェント型タスクの予算見積もりを調べた研究では、Claude SonnetとOpusは、残りのタスク予算について「キャリブレーションに最も近いが、それでも低めに偏っている」と評価された。一方、GeminiとQwenは最も楽観的だった。異なる測定手法でありながら、偏りの方向はOptimismBenchの結果と一致している。

■Claudeユーザーにとって「悲観的」が意味すること

Anthropicの最先端モデルが確率推定で悲観的に偏るという発見は、意思決定においてClaudeが優れている、あるいは劣っていることを単純に意味しない。異なる方向のバイアスを持つという意味だ。

投資審査、医療リスク評価、楽観的な見積もりが連鎖的な失敗につながり得るプロジェクトの日程計画など、過信のリスクが主要な懸念となる状況では、成功確率を過小評価するモデルの方が保守的で適切なツールとなる可能性がある。一方、モチベーションや目標設定が重要な状況では、悲観的な確率推定が逆効果になる可能性もある。

確率が重要な意思決定にClaudeを利用するユーザーにとって、より直接的な含意は、Claude Sonnet 4.6やClaude Opus 4.6が示す成功確率は、補完関係にある失敗確率から数学的に導かれる値と比べて低くなる傾向があるということだ。GPTファミリーのモデルは高くなる傾向がある。どちらも中立ではない。誤差の方向は、モデルに与えた証拠だけでなく、モデルがどのように訓練されたかにも左右される。

論文では、このバイアスを簡単に修正できるかを確かめるため、4つの介入をテストした。プロンプト表現の変更、温度設定の変更、心配する投資家と意欲的な創業者といった語り手の視点の変更、そしてモデル自身に体系的なバイアスを確認させる明示的な自己補正指示である。

いずれの介入もSkewスコアの方向を変えず、影響したのは大きさだけだった。バイアスはプロンプトの書き方によって表面上生じるものではなく、モデルの確率構造に組み込まれていると研究者らは結論付けている。

■確率バイアスに対する言語の影響は小さい

論文の副次的な発見の一つは、複数の言語でAIを使用する人に直接関係する。17モデル、6言語を比較した分析では、モデルのアイデンティティ、つまりどの開発元が構築したかの方が、質問に使用した言語よりも、方向性を持つ確率バイアスの強い予測因子だった。Skewスコアのモデル間分散は言語間分散の4.7倍だった。

これは、Claudeが表現する行動上の価値観が言語によって変化し、ヒンディー語では最も受容的な回答、英語とロシア語では最も厳密な回答になるという、最近報告された別の研究結果に重要な条件を加えるものだ。

その研究が扱ったのは、Claudeの振る舞いにおける感情面や価値表現の側面、つまりどれほど温かく、あるいは厳密に聞こえるかだった。OptimismBenchが扱うのは、確率キャリブレーションの側面、つまり数値的な可能性をどのように推定するかである。

この2つは関連している可能性がある。迎合性と楽観的バイアスは、同じ学習メカニズムに根差している可能性があるためだ。ただし、両者は同一ではない。言語はAIの感情表現的な側面に強く影響する一方、確率バイアスの方向にはほとんど影響しない。確率バイアスは、より安定しており、開発元によって左右される性質だと考えられる。

■OptimismBenchが可能にすること

AIの開発者や評価者にとって、OptimismBenchは、正解となる結果データや開発元固有のベンチマーク基盤を必要としない具体的な診断手法を提供する。

任意のモデルに反転ペアのテストを実施し、同じシナリオについてP（成功）とP（失敗）を尋ね、符号付きの平均偏差を計算すれば、アライメント上の選択が確率判断を一方向へ傾けているか、また、どちらへ傾けているかを確認できる。

確率評価を伴う領域でAIを導入する組織にとって、この研究は、モデルが示す確信度が、証拠だけでなく学習方法にも左右されることを示している。

モデルが「成功確率は70%」と答えたとき、その出力は、どのAI企業がモデルを訓練したか、そしてその企業のアライメント手法が何を体系的に報酬としてきたかによっても部分的に形作られている。

3,870項目からなるOptimismBenchの全データセットは、モデルごとの方向性バイアスを監査できるよう一般公開されている。論文は現在、EMNLP 2026で査読中である。

研究論文「OptimismBench: Forecasting Bias and the Alignment Effect in Language Model Judgment」は、Holistic AIとユニバーシティ・カレッジ・ロンドンのSeonglae Cho氏、Adriano Koshiyama氏によって執筆され、2026年7月29日にarXivへ投稿された（arXiv:2607.26981）。

■注目ポイントQ&A

●なぜ多くのAIモデルは成功確率を過大評価するのですか？

最も可能性が高いと著者らが考えるメカニズムは、主要AI開発企業の多くが採用する代表的な事後学習手法である「人間のフィードバックからの強化学習（RLHF）」です。人間の評価者は、励ましや肯定的な表現を含む回答を好む傾向があります。

人間からの評価を最大化するよう訓練されたモデルは、結果を楽観的に表現するよう学習し、それが肯定的な結果の確率を体系的に過大評価する傾向として表れる可能性があります。

事後学習が方向性バイアスの符号を決め、異なるアライメント手法が反対方向の変化を生むというOptimismBenchの結果は、この説明と整合します。著者らの解釈では、従来型のRLHFを利用する開発元のモデルは楽観的に偏る一方、人間の直接的な承認ではなく原則に基づくフィードバックを利用するAnthropicのConstitutional AIは、最先端モデルを悲観方向へ偏らせる可能性があります。

●実際の意思決定では、Claudeの悲観的傾向は他モデルの楽観的傾向より優れているのでしょうか？

意思決定の内容によります。過信が大きな危険となるリスク評価やダウンサイド計画では、成功確率を過小評価するモデルの方が、保守的で適切な助言を提供する可能性があります。

一方、モチベーションや目標設定、正確な上振れ確率が重要な状況では、悲観的な推定が過少投資や有望な機会の回避につながる恐れがあります。どちらか一方が常に優れているわけではなく、いずれも体系的な誤差です。

実務上は、Claudeの最先端モデルによる成功確率の推定が、補完的な失敗確率から数学的に導かれる値より低くなる傾向に注意する必要があります。プロンプトの書き換え、視点の変更、モデル自身への再確認では、方向そのものは修正できないという結果も示されています。バイアスはプロンプトの表面ではなく、モデルの確率構造に組み込まれていると考えられます。

●職場で使っているAIモデルをOptimismBenchでテストできますか？

3,870項目のデータセットは、モデルごとの監査用に一般公開されています。中核となる考え方を試すだけなら、高度な統計知識は必要ありません。

任意のシナリオについて、モデルに成功確率と失敗確率の両方を推定させ、2つの数値の合計がおおむね100%になるかを確認します。成功確率が「100%から失敗確率を引いた値」より一貫して高ければ、その領域では楽観方向のバイアスがあります。逆方向に一貫して乖離していれば、悲観方向のバイアスがあります。

この反転ペアによる確認は、実際の結果データがなくても実行でき、AIを意思決定支援に使う確率評価領域へ適用できます。

●確率バイアスの方向から、モデルの学習方法について何が分かりますか？

この研究によれば、かなりのことが分かる可能性があります。事後学習が方向性バイアスの符号を決め、モデルファミリーによって変化の方向が異なるという結果は、バイアスの方向が開発元のアライメント手法を示す、検出可能な指紋になり得ることを意味します。

主に人間の選好最適化、すなわち従来型のRLHFを通じて訓練されたモデルは、人間の評価者が肯定的で励ますような回答を好むため、楽観的なバイアスを獲得する可能性があります。一方、人間の直接的な承認ではなく原則に基づくConstitutional AIを使うAnthropicの最先端モデルは、悲観的な傾向を示しました。

これは、悲観的になること自体が学習目標であるという意味ではありません。肯定的な表現に対する人間の承認を直接強化しない手法から生じた、方向性を持つ副産物である可能性があります。

この研究は、重要な確率推定にAIを使う組織が、精度だけでなくバイアスの方向も開示、評価の対象とすべきだと示唆しています。バイアスの方向から、モデルを生み出した学習プロセスに関する具体的な情報を読み取れる可能性があるためです。

元記事: AI Probability Bias Traced to Training: Claude Pessimistic, GPT Optimistic Across All Tests