「あいまい領域」と安全基準——Claude Fable騒動をめぐるAnthropicナラティブを読んでみたメモ

執筆: 佐久間弘明（X: @hiroaki_skm）
編集協力: 丸山隆一（X: @rmaruy）

2026年6月12日、米国政府がAnthropicのAIモデル「Claude Fable 5」と「Mythos 5」への外国人アクセスを全面停止する輸出規制指令を出した。Anthropicは同日、全顧客向けに両モデルを即時無効化。世界中の利用者が、ある日突然これらのモデルを使えなくなった。この一件をめぐっては、自国でAIを開発・管理する「AI主権（AI Sovereignty）」の重要性を説く声など、すでに多方面で反応が起きている。

Anthropicはこの指令に真っ向から反発した。同社はこれまで、AI業界のなかでも規制に最も前向きな企業として知られてきた。その当の企業が、いざ自社モデルを政府に止められた途端、批判的なステートメントを出したという構図は皮肉とも言える。

一方で、こうした発信はすべてを額面どおり（face value）に受け取ることにも問題がある。AI企業による語り＝ナラティブには、読み手の認知をどう動かしたいか、という意図が込められているからだ。「2028年3月までに自動AI研究を実現する」（サム・アルトマン）。「20世紀に100年かかった医学研究が10年で可能になる」（ダリオ・アモデイ）。AI業界のリーダーたちは、こうした強い言葉で未来を描く。一方で同じ人たちが、AIを人類を滅ぼしかねない脅威としても語る。AIは生活や仕事に浸透した「技術」であると同時に、誰がどう語るかで動く「物語」でもある。

しかも厄介なことに、この語りは現実をなぞるだけでなく、現実を動かす力を持つ。説得力のある語りは投資や人材といった資源を呼び込み、その資源が技術を前へ進め、進んだ技術がまた語りを裏づける。筆者は今年4月のDe-Silo主催のトークイベント「AIナラティブの解剖」でこれを「技術とナラティブの閉ループ」と呼んだが、語りが半ば自己成就していく以上、それを読み解く作業はいよいよ無視できない。

だからAIの動向を追うとき、性能やベンチマークの数字だけを見ていては、起きていることの半分しか見えない。誰が、どんなリスクを、どんな枠組みで語っているのか。その「語られ方」を読むことが、技術そのものを理解するのと同じくらい効いてくる。本稿ではその分析を、AnthropicのFableをめぐる言説の分析という一つのケーススタディとして試みたい。そこで取り上げるのは、とくに Universal Jailbreak という耳慣れない概念である。

なお本稿は、あくまでAnthropic自身の発信に絞り、同社がこの規制をどう語ったかを読む。米国政府内の意思決定の在り方や政府側のナラティブについては、6月13日時点で公開資料が乏しいこともあり、対象としない。

1. 何が起きたのか： Fable騒動と若干の前史

2026年6月12日午後5時21分（東部時間）、米国政府は国家安全保障権限を根拠に、Claude Fable 5 と Mythos 5 への外国人アクセスを全面停止する輸出規制指令を出した。Anthropicは全顧客向けに両モデルを即時無効化した。そして、この指令に関する考え方を “Statement on the US government directive to suspend access to Fable 5 and Mythos 5”（以下「Fableステートメント」）として発信している。

そもそもAnthropicは、AI規制に対して肯定的な企業として知られる。以下は代表的なものだけだが、直近の多くの発信で、高度なAIの開発に伴うリスクと、その対策としての規制の必要性を訴えてきた。

• “The Adolescence of Technology”（1月・アモデイ）：対処すべきリスク像を描く論考（自律性・破壊的悪用・権力奪取・経済的混乱・間接的影響の五つ）。

• “Anthropic’s Responsible Scaling Policy: Version 3.0”（2月に大幅改定・Anthropic）：自社の開発ルールの大幅改定。自主規制だけではAIの規律が難しいことを述べ、「業界への提言」を明示的に組み込んだ。

• “Policy on the AI Exponential”（6月・アモデイ）：上記のリスクへの対応策を提言する論考。FAA（連邦航空局）型の発想で、AIについても技術試験と監査を含む規制を導入すべきと主張。

• “Policy on the AI Exponential”（6月・Anthropic）：“Advanced AI Framework”（規制側）と “Economic Policy Framework”（経済側）の二本立てで、具体的な政策プログラムとしてAI規制を提言。

ここではこれらのテクストの詳細には立ち入らないが（今後詳細な分析を進めたい）、その基本的な主張は、「高度なAIには破局的なリスクが伴い、企業の自主規制だけでは不十分であるため、第三者による評価・監査を含む公的な規制の枠組みが必要だ」というものである。

同社は6月9日のFable 5・Mythos 5 ローンチにおいても、一般公開用のFableにガードレールを実装する形で、こうした重大なリスクを防ぐための多層防御（Defence in Depth）を図ったとしている。

ある意味これは皮肉な事態にも見える。「政府はAI開発の差し止めを含む規制を導入すべきだ」と最も強く説いてきた当の開発者が、その権限を自社モデルに行使された途端、異議を唱えている——という構図だ。

ただし、ここはもう少し解像度を高めてナラティブを見た方がよい。争点は、その権限が「どんな対象に・どのような観点と基準で」行使されたか、にある。

2. 規制をめぐるナラティブと実際

1章で見てきたAnthropic自身のAI規制をめぐるナラティブと、今回Fableステートメントで示された米国政府による規制（US規制）の在り方について、その異同を簡単に振り返ってみよう。

① 対象のズレ
規制ナラティブは特定製品ではなく、計算量と企業規模で線を引いた能力クラスを対象にすることを提言しているが、今回の指令は名指しで2製品を狙い撃ちしている。この点は、規制の基準・閾値をめぐる③の論点にも密接に関わる。

② 道具立てのズレ
規制ナラティブが擬したのは航空機や医薬品の規制だった。一方、米国政府が今回活用したのは「輸出規制」という別系統のレバーである。指令は本来「外国人アクセスの遮断」を命じるものだが、副次効果として全顧客へのサービス提供停止が生じた。

③ 基準のズレ
規制ナラティブは発動を「破局的損害の重大なリスク」に限ると明記していた。一方、Anthropicの主張によれば、今回のUS規制の実質的な閾値は桁違いに低い。今回発見されたのは、既知で軽微、他社の公開モデル（GPT-5.5など）からも入手可能なレベルの脆弱性だとされる。Anthropicは、「この基準を業界全体に当てはめれば、すべてのAIモデルの新規展開が止まりかねない」と反論する。

興味深いのは特に③だ。具体的にどのようなリスクが、どの程度予見される場合に規制を適用すべきか。前例のない領域での規制だからこそ、この観点の議論が提起されている。

3. あいまいなキーワード「Universal Jailbreak」

AnthropicはFableステートメントにおいて、③で述べたとおり、US規制が不当な基準で行使されていると主張している。

ステートメントの論理的な支柱は、ジェイルブレイクを “universal jailbreak” と “non-universal Jailbreak” に二分する区別だ。今回の規制根拠を、Anthropicは「狭いnon-universal」に分類し、規制には値しないと論じた。

前提として、こうしたAIを対象としたサイバー攻撃について、「絶対にリスクをゼロにできるか」を問うことは難しい。多様な攻撃手法が存在し、ルールベースでは割り出せないAIセキュリティの世界では、「どんな攻撃でも破られないこと」の証明は悪魔の証明になる。新たな攻撃が将来いくらでも現れるという点で、技術をめぐる高い不確実性が横たわる領域だといえる。これはAnthropic自身が認めており、Fable 5・Mythos 5 のローンチ告知でも、universal jailbreakを “likely impossible to completely prevent”（完全に防ぐのは恐らく不可能）と明言したうえで、それらの検知と対処をしやすくすることが重要だと述べている。

だから「破れない」を基準にはできない。より緩い・運用可能な規制の基準が要る。そこでFableステートメントで持ち出されることばが “Universal Jailbreak” だ。Anthropicはこれを、「モデルのセーフガードを広範にわたって破り、多様なサイバー能力を引き出せるジェイルブレーク手法」のことだとする。なおこの言葉は初出ではなく、Anthropicの研究チームは2025年1月の論文 “Constitutional Classifiers” でも、universal jailbreakを対策すべき対象として提起していた（ただし定義の表現は若干異なるため、テスト内容に連続性があるかは不明だ）。

しかし、このことばが一定のあいまいさをもっていることも事実である。

Anthropicによれば、政府がこれまでに示した根拠は口頭での説明にとどまり、その内容は「特定のコードベースを読ませてソフトウェアの欠陥を修正させる」という限定的なものだという。同社は、指令の根拠と見られる報告書を検証したうえで、そこで示された能力水準はOpenAIのGPT-5.5を含む他社モデルからも広く得られるもので、システムを守る防御側が日常的に使っているレベルだ、と反論する。つまり今回の根拠はあくまで狭い範囲の “non-universal jailbreak” であり、他のモデルでも同様に発生しうる、というわけだ。

ただし、どのような広範な問題を引き起こせるジェイルブレークであれば “universal” とみなせるのか、その基準は不明である。セキュリティテストの内容ゆえに開示が難しい部分があるのは当然だが、規制の根拠となるべき “universal” と “non-universal” の境界は自明ではない。

こうした規制をめぐる閾値のあいまいさは、“Universal Jailbreak” に固有の問題ではない。Anthropicは、自身の規制ナラティブにおける上位の能力閾値の議論でも、同じ困難を公認している。2026年2月の “Anthropic’s Responsible Scaling Policy: Version 3.0” は、評価科学が未熟なため、特定のAIの能力が閾値に「近づいた」ことは分かっても「超えた」とは断定できない領域が存在することを指摘し、自らそれを「あいまい領域（Zone of Ambiguity）」と称している。

二値の判定を評価科学が出せないために、緩い運用基準に頼るほかない「あいまい領域」が発生する。これは、AIのような不確実性の高い技術においては不可避の状況に見える。結果として、企業も規制者も、それぞれの立場からこれらの線を自分に有利な方へ動かしうる状況にあるともいえよう*。

*なお一部メディアによれば、今回の規制の背景にはAmazon社からの政府への働きかけがあったとされている（Axios 2026.06.13）。申告者がこのjailbreakの重要性をどの程度と見積もっていたかは不明だが、企業間でもこうした閾値の定義をめぐる政治的な闘争が発生していく可能性はある。

4. おわりに: あいまい領域をめぐるナラティブの駆け引き

先ほどの能力閾値の議論からもわかるとおり、視点を引いてみれば、今回の「universal / non-universal」の線引きをめぐるあいまいさはけっして特殊な事例ではない。

むしろ、AIという分野そのものが、輪郭のはっきりしない概念の上に成り立っている。そもそも「AI（人工知能）」という言葉自体が、明確な定義よりも喚起力を先取りした看板だった。その極にあるのが「AGI（汎用人工知能）」で、到達したか否かを判定する客観的な基準が存在しないにもかかわらず、企業の社内目標として、また投資や規制をめぐる議論の前提として流通している。

「フロンティアモデル（frontier model）」がどこからフロンティアなのか、「アラインメント（alignment）」がどの状態をもって達成といえるのか、「危険な能力（dangerous capabilities）」「安全（safe）」「オープン（open）」がそれぞれ何を指すのか。いずれも定義は緩いまま、資源配分や規制の線引きの根拠として機能している。今回の universal jailbreak も、その長いリストに加わった最新の一語にすぎない。

AIをめぐっては、何をリスクと見なすかも、誰がそのリスクを負うかも、立場によって大きく異なる。だからこそ、評価科学が白黒をつけられない「あいまい領域」は一度きりで終わらず、技術の進展とともに次々と生まれ続けるのだろう。そして、そのたびに線をどこに引くかは、データだけでは決まらない。求められるのは、こうしたあいまいな概念がAIのナラティブのなかでどう使われているのかを、冷静に検討することだ。今後も、日々のAI業界の動向を注視しながら、ナラティブ分析を通した視点の発信を続けていきたい。

（宣伝）

こうしたナラティブ分析を行う際、次々と生産されるナラティブを横串で比較したり、輪郭を掴むための一定の枠組みが有用な場合もある。

直近、佐久間が東洋経済オンライン様に「AIはすごすぎて脅威なのか､それとも欠陥があるから問題か？AIをとりまく〈ナラティブ〉を読み解く3つの視点」と題する記事を寄稿しているため、こちらもご関心あればぜひご参照いただきたい。

本記事では、AIナラティブにある程度汎用的に適用できる理解の枠組みとして以下の3点を挙げ、直近で邦訳された書籍3冊のナラティブ分析を試みている。詳しくは記事をぜひお読みいただければと思うが、以下のような対照表に結果も整理している。

• 対象とするAI――どのような「AI」を対象として語っているのか

• AIの社会的影響――AIは誰に、どのような影響をもたらすと考えるのか

• AI開発者への見方――AIを開発する企業や人をどのような主体と捉えるか