Claude Fable 5、生物学関連の制限を大幅緩和　研究者向けアクセスは提供時期未定

Anthropicは8月7日、AIモデル「Claude Fable 5」の各サービスにおける生物学関連のフォールバック率を約85％削減したと発表した。6月9日の提供開始以来、同モデルの生物学セーフガードとしては最大の見直しとなる。これにより、患者や学生、医療従事者は、健康に関する質問でFable 5の高度な推論能力を直接利用できるようになった。一方、ウイルス学、毒性学、創薬に携わる専門研究者は依然として同モデルを利用できず、Anthropicが2カ月前に約束した専用アクセス経路についても、提供時期は示されていない。

この更新の前日には、スタンフォード大学とArc Instituteが、ゲノム言語モデル「Evo 1」と「Evo 2」を使って16種類の機能するウイルスゲノムをゼロから設計したとする研究成果をScience誌に発表した。AIが設計したウイルスの実験室環境での複製が確認された初の事例だという。同時に発表された論説では、ジョンズ・ホプキンス大学のバイオセキュリティ専門家が、こうした能力を安全に管理するためのガバナンスはまだ存在しないと警告した。Anthropicは、その状況に言及しないまま今回の発表を行った。

■医療・健康分野のユーザーにもたらされる変化

これまで日常的な健康に関する質問が、ユーザーに明示されないまま性能の低いモデルへ迂回されることがあったが、今後は血液検査結果の解釈、病気の症状の理解、細胞生物学の学習、医療現場での臨床支援業務など、幅広いトピックについてFable 5から直接回答を得られるようになる。Anthropicが8月7日に公開したFable 5の生物学セーフガードに関する更新では、こうした変更が詳しく説明されている。

この違いが重要なのは、Fable 5と、迂回されたリクエストを処理するClaude Opus 5が同等のモデルではないためだ。Anthropicは、Fable 5について、複雑な生物学的タスクの一部で人間の専門家を上回る能力があるとしている。一方、Opus 5は前世代のOpus 4.8から大幅に改善されたものの、Fable 5と同等の生物学的能力は備えていないと説明されている。希少な薬物相互作用についての質問が分類器に引っかかった場合、臨床医が受け取るのはAnthropicのシステムが提供できる最良の回答ではなく、同社が安全に提供できると判断した範囲での最良の回答となる。

ただし、日常的な健康について質問する大半のユーザーにとって、この違いは現在ではほぼ問題にならなくなった。今回の更新により、一般的な健康上の質問がフォールバックを引き起こす確率は大幅に低下している。Fable 5の生物学セーフガード更新の脚注によると、サイバーセキュリティなど、ほかの分類器が扱う分野を含めたフォールバック全体への波及効果は、Claude.aiで67％、Coworkで55％、Claude Codeで17％、Claude API Platformで7％の削減に相当する。

■2カ月経過も研究者向けの経路は未整備

一般ユーザーに実質的な改善をもたらした今回の発表は、別の状況も明確にしている。生物学者、ウイルス学者、毒性学者、創薬研究者などの専門家は、依然としてFable 5の最先端の生物学的能力を利用できず、Anthropicはその状況がいつ変わるのかについて期日を設定していない。

Anthropicは発表の中で、「現在もFableは、ウイルス学、毒性学、分子設計など、当社がデュアルユースとみなすリクエストについてOpus 5にフォールバックする。このため、専門的な生物学研究や創薬にはまだ利用できない」と説明した。さらに、「当社は、最先端の生物学的能力に対する信頼できるアクセス経路を通じ、この隔たりを解消することに取り組んでいる」としている。

この方針は新しいものではない。6月9日のFable 5提供開始時、Anthropicは、審査を通過した生物医学研究者が一部の制限を解除したモデルを利用できる「信頼できるアクセス」プログラムを「数週間以内」に提供すると述べていた。それから8週間が経過している。今回の発表は、提供開始後初となる生物学セーフガードの公開更新だが、信頼できるアクセス経路は発表内容に含まれず、スケジュールも示されなかった。

当初の過剰な制限による影響を直接受けた研究者たちは、形を変えただけの同じ状況に直面している。mRNAワクチン、がん生物学、基本的な細胞プロセスについての質問がFable 5から別のモデルへ迂回されるのを経験した科学コミュニティにとって、分類器の対象範囲は狭まったものの、専門研究との境界線そのものは動いていない。

■Anthropicの生物学分類器の仕組み

Fable 5と、制限付きの姉妹モデルであるClaude Mythos 5は、同じ基盤モデルの重みを共有している。実際の動作に違いを生んでいるのは、安全性分類器のレイヤーだ。これはFable 5が応答する前に、受信したすべてのリクエストを一定のルールに照らして審査する、小規模な自動AIシステムである。

生物学分野では、このルール群を分類器の「憲法」と呼んでいる。スクリーニング用モデルが、許可する内容とセーフガードの対象とする内容を区別するためのガイドライン集だ。血液検査の仕組みや細胞生物学を説明するような、明らかに無害な内容が一方の端にあり、病原体を設計しようとする人物に直接役立つ内容がもう一方の端にある。

その間に位置するのが、この問題を難しくしているデュアルユース研究だ。ワクチンや治療薬の開発に必要な知識は、危害を加えようとする人物が必要とする知識とも部分的に重なっている。

Anthropicはさらに、「安全マージン」を意図的に設けている。無害である可能性が非常に高いと分類される内容であっても、慎重を期して遮断する領域だ。Fable 5の提供開始時には、この安全マージンが広く設定されていた。

Anthropicによる分類器の図では、許可される領域と遮断される領域の間に境界線が置かれている。今回の更新では、その境界線を移動させ、これまで安全マージンに含まれていた内容を許可する一方、デュアルユースと明らかに有害な領域は変更していない。

再学習には数週間を要した。Anthropicは、無害な用途をより具体的に除外できるよう分類器の憲法を書き直し、社内外の生物学専門家から意見を集め、更新したルールに基づいて新たな学習データを生成した。そのうえで分類器を再学習させ、改訂版が有害な内容やデュアルユースの内容に対して引き続き作動することを確認した。

分類器が作動すると、リクエストはClaude Opus 5へ迂回される。Opus 5はFable 5の最先端の生物学的能力を備えていないため、悪用につながる可能性が抑えられる。

■研究者が利用できる代替手段

ウイルス学、毒性学、分子設計を扱う専門研究者にも、Anthropicのツールを利用する選択肢はある。ただし、その中にFable 5は含まれていない。

7月1日に提供が始まったAnthropicの研究ワークベンチ「Claude Science」は、すべての契約者がすでに利用できるClaudeモデル上で動作し、科学データベース、コーディング環境、コンピューティングリソースと研究作業を連携させる機能を提供する。ただし、Claude Scienceの提供開始時にAnthropicが明言したように、これは「新しいAIモデルではなく、生物学においてより高性能なモデルでもない」。Fable 5の最先端の生物学的能力は備えておらず、ほかのユーザーが利用できるものと同じClaudeモデルを使用している。

Anthropicは、条件を満たす研究プロジェクトに最大3万ドル（約474万円、1ドル＝158円換算）のコンピューティング助成を提供する「AI for Science」プログラムも運営している。応募期限は7月15日ですでに終了しており、採択結果は7月31日までに通知される予定だった。

8月8日時点で、Fable 5と同等の能力水準で創薬、ウイルス学、分子設計に利用できる代替手段として挙げられているのは、OpenAIの「GPT-Rosalind」とGoogle DeepMindの「Gemini for Science」である。GPT-Rosalindは、信頼できるアクセスプログラムを通じ、条件を満たす米国の法人顧客だけが利用できる。Gemini for Scienceには、AlphaFoldを含む独自の基盤モデルが組み込まれている。

■境界線の移動とAIバイオセキュリティの限界

なぜデュアルユースとの境界線は現在の位置に保たれているのか。率直に言えば、Anthropicの分類器はウイルスゲノム設計を技術的に阻止する障壁ではなく、ポリシーに基づく制限である。

今回の発表では、米国インテリジェンス・コミュニティの脅威評価が引用されている。この評価は、合成生物学とゲノム編集の進歩が「新たな生物学的脅威につながる可能性がある」と警告し、複数の国家主体が攻撃目的の生物・化学兵器プログラムを現在も維持している可能性が高いとしている。

しかし、Anthropicがその根拠を示したのと同じ週、スタンフォード大学の研究者らは、一般に利用できるゲノム言語モデルが、Fable 5を使わずに機能するウイルスゲノムを設計できることを示す査読済み研究を発表した。研究に使われたEvo 2は、安全性分類器の内側に置かれていない。

スタンフォード大学の論文とともに発表されたジョンズ・ホプキンス大学健康安全保障センターの論説は、DNA合成スクリーニングの義務化を求めている。これは、Anthropicの分類器が民間企業のポリシーによって埋めようとしているガバナンス上の空白そのものだ。

Anthropicの立場は、同社の特定モデルがもたらす追加的な能力向上に対し、分類器が実質的な保護を提供するというものであり、AIバイオセキュリティ全体に対する包括的な解決策だというものではない。

同社は、境界線を引くことの難しさを2つの例で示している。生ワクチンを開発するには、科学者が予防対象とする病原体そのものを培養する必要がある。また、広く使われている高血圧治療薬カプトプリルは、もともとヘビ毒の有毒成分から開発された。いずれのケースでも、研究の初期段階では有益な科学と有害な可能性を切り離すことができない。

The Next Webは今回の発表を取り上げた記事で、「同社はフェンスを動かしているのであって、撤去しているのではない」と表現した。この説明は構造的な現実を捉えている。分類器の更新は境界線の調整であり、問題の解決ではない。

■フォールバック先がOpus 4.8からOpus 5へ変更された経緯

Fable 5の展開を追ってきたユーザーの中には、フォールバックの仕組みについて古い理解のままの人もいるかもしれない。6月9日のFable 5提供開始時、生物学関連で遮断されたリクエストはClaude Opus 4.8へ送られていた。

この仕組みは、AnthropicがClaude Opus 5を提供開始した7月24日に変更された。Anthropicはこのリリースに合わせ、Fable 5で遮断された生物学関連のリクエストについて、Opus 4.8ではなくOpus 5へ送るよう変更したと発表している。

Opus 5は、科学的推論においてOpus 4.8から大きく改善している。Anthropicによると、自社のライフサイエンス評価のすべてでOpus 4.8を上回り、特に有機化学とタンパク質関連のタスクで大きな向上が見られた。

価格は入力100万トークン当たり5ドル（約790円）、出力100万トークン当たり25ドル（約3,950円）で、Fable 5の半額である。生物学関連のリクエストがフォールバックの対象となる場合でも、現在は6月時点より大幅に性能の高いモデルから回答を受けられる。8月7日の発表では明示されていないものの、これは残るフォールバックの実際の影響を変える重要な点である。

■注目ポイントQ&A

●以前はできなかった生物学に関するどのような質問を、現在Fable 5にできるようになりましたか？

以前はOpus 5へのフォールバックを引き起こしていた日常的な健康や教育に関する質問が、Fable 5へ直接届くようになりました。血液検査結果の解釈、症状の理解、病気の仕組みに関する質問、教育目的での細胞生物学や分子生物学の学習、医療従事者向けの臨床支援業務などが含まれます。Fable 5が回答できる範囲は広がりましたが、ウイルス学、毒性学、分子設計、専門的な創薬など、引き続き制限される分野は変わっていません。

●専門の生物学者は現在、Fable 5を研究に使用できますか？

いいえ。Anthropicは今回の更新で、Fable 5は「専門的な生物学研究や創薬にはまだ利用できない」と明言しています。ウイルス学、毒性学、分子設計に関する作業は、引き続きOpus 5へのフォールバックを引き起こします。審査を通過した専門研究者向けの信頼できるアクセス経路は、6月9日のFable 5提供開始時に「数週間以内」に用意するとされていましたが、まだ提供されておらず、新たなスケジュールも示されていません。

●なぜAnthropicは、正当な研究者であることを確認してフルアクセスを提供しないのですか？

それを実現するために予定されているのが、信頼できるアクセス経路です。提供の遅れは、正当な専門研究者と、研究者を装える高度な悪意ある利用者を区別するための検証基盤やポリシー基盤を構築することが、Anthropicの当初の想定より難しい可能性を示しています。

Anthropicは、「当社のモデルを使って危害を加えようとする高度な行為者は、この曖昧さを悪用して意図を隠し、危険な作業を通常の研究活動に見せかける方法を知っている」と説明しています。誤検知の問題を再び引き起こさず、両者を大規模かつ確実に区別する仕組みを構築することは、簡単に解決できる技術的課題ではありません。

●生物学関連のフォールバックが減ったことで、スタンフォード大学が発表したAIによるウイルス設計のリスクは高まりましたか？

いいえ。8月6日にScience誌で発表されたスタンフォード大学とArc Instituteの研究では、ゲノム言語モデルのEvo 1とEvo 2が使われており、Claude Fable 5は使われていません。この研究は、最先端のウイルスゲノム設計能力が、学術分野のオープンソースツールにすでに存在することを示しています。

Anthropicの分類器が制限するのは、Fable 5が具体的に支援する内容です。AIを利用した生物学研究全般を管理する包括的な仕組みではありません。今回の更新はFable 5の生物学関連制限を狭めましたが、AIが生物学分野で実現できる能力の上限は、Fable 5以外の場所でも引き上げられています。

元記事: Claude Fable 5 Opens Biology for Clinicians: Researchers Wait on Broken Promise