Anthropic、最上位「ミュトス」級モデルを一般提供 悪用防ぐ保護機能を備えた「Claude Fable 5」
米Anthropicは6月9日(現地時間)、新AIモデル「Claude Fable 5」の一般提供を始めた。同社がOpusクラスを上回る能力を持つと位置付ける最上位の「Mythos(ミュトス)クラス」に属するモデルで、これまでセキュリティ上の懸念から一般公開を見送ってきた水準の能力を、悪用を防ぐ保護機能(セーフガード)とともに初めて全ユーザーに開放した。同時に、保護機能の一部を解除した上位版「Claude Mythos 5」を、サイバー防衛などの信頼できる限られたパートナー向けに提供する。 【一覧】Fable 5/Mythos 5と他社主要モデルの性能比較表
封印されていた最上位モデルを一般解放
Mythosは、同社のOpusシリーズのさらに上に位置する最上位のモデルだ。その第1弾「Claude Mythos Preview」は4月、世界の重要ソフトウェアの安全性を高める取り組み「Project Glasswing」を通じて、サイバー防衛者や重要インフラ事業者などごく限られた相手に提供されたが、ゼロデイ攻撃の自律開発も可能とされるほど高いサイバーセキュリティ能力ゆえに、一般公開は見送られていた。 今回のFable 5は、その方針を転換し、Mythos級の能力を一般提供する初のモデルとなる。Anthropicは公開の前提として、悪用を確実に防げる強度の保護機能を新たに整備したと説明。数カ月かけて改良した結果、一般公開に十分な堅牢性に達したとしている。安全性を優先して保護機能を保守的に調整したため、無害なリクエストが誤って引っかかる場合もあるとし、今後の改良で誤検知を減らしていく方針だ。 なお「Fable」はラテン語の「fabula(語られるもの)」に由来し、ギリシャ語の「mythos」と類義語関係にある。両モデルは同じ基盤モデルとしており、保護機能の有無が名称を分けている。
一部の用途は「Opus 4.8」へ自動フォールバック
Fable 5の保護機能の中核となるのが、悪用の試みを検知する独立したAIシステム「分類器」だ。サイバーセキュリティ、生物・化学、そしてモデルの能力を抽出して競合モデルを学習させる「蒸留」に関連するリクエストを検知すると、本体のFable 5ではなく、次に高性能なモデル「Claude Opus 4.8」が応答を引き継ぐ。完全な拒否ではなく高性能モデルへの切り替えとすることで、利用体験の低下を抑える狙いがある。切り替えが発生した際はユーザーに通知される。 同社によると、保護機能が作動するのは平均でセッション全体の5%未満で、95%超のセッションでは切り替えが起こらない。その場合のFable 5の性能は、保護機能を解除したMythos 5と実質的に同等という。 保護機能の堅牢性については、外部のバグ報奨金プログラムで1000時間超の検証を行い、あらゆる場面で保護を無効化できる「ユニバーサル・ジェイルブレイク」は発見されなかったとする。外部のレッドチーム組織による長時間タスクの検証でも同様だが、英国の研究機関AI Security Instituteが短期間の初期検証でその手前まで到達したことには触れている。Anthropicは、ジェイルブレイクの完全な排除は不可能としつつ、実際に悪用される前に検知・防止できる程度に困難でコストの高いものにすることが目標とした。