エンジニアの思い立ったが吉日

AI・生成AI・開発ツール・業務効率化のトピックを、20年エンジニア視点で ゆるく整理しているブログです。「現場で本当に効くか」を毎回自分なりに 見極めながら書いています

発売2週間で米政府が止めたFable 5、その理由と皮肉

つい先日「一般公開で過去最強」として登場した Claude Fable 5 が、わずか 2 週間で使えなくなった。米政府が、国家安全保障を理由に Fable 5 と Mythos 5 へのアクセス停止を命じ、Anthropic がそれに従ったため。最先端モデルが、商業展開からこんな短期間で政府命令によって止められるのは、かなり異例。何が起きて、なぜ止まり、使う側にどう響くのか。そして、この一件ににじむ皮肉について整理する。なお、これは動いている最中の話で、24 時間以内に状況が変わる可能性がある現時点のスナップショットだという前提で読んでほしい。

発売2週間でFable 5が止まった、何が起きたか

時系列から。2026 年 6 月 12 日の午後 5 時 21 分(米東部時間)、Anthropic は米政府から指令を受け取った。国家安全保障の権限に基づく輸出管理の指令で、内容は「Fable 5 と Mythos 5 への、すべての外国人(米国内外を問わず、外国籍の従業員も含む)のアクセスを停止せよ」というもの。

Anthropic はこれに従った。ただ、対応の仕方が思い切っていて、外国人だけを切り分けるのではなく、確実に命令を守るため、全顧客のアクセスをいったん無効化した。つまり今この瞬間、Fable 5 も Mythos 5 も、誰も使えない。前に取り上げた Fable 5 の安全装置を一部外した防御者向けの Mythos 5 も、まとめて止まっている。

救いは、止まったのはこの 2 つだけだということ。Opus 4.8 をはじめ、Anthropic の他のモデルは影響を受けていない。だから「Claude が全部使えなくなった」わけではなく、最上位の 2 モデルだけが対象。

理由は「脆弱性を見つける能力」、ただし詳細は非開示

なぜ止められたのか。政府が挙げた理由は、Fable 5 の安全装置を回避する「ジェイルブレイク(脱獄、制限を突破する手口)」の存在。具体的には、Fable 5 がソフトウェアの脆弱性を見つける用途に使われないようにかけた防御を、すり抜ける方法があると政府が把握した、という話。

ところが、ここが引っかかる。Anthropic は「書簡には、国家安全保障上の懸念の具体的な詳細は書かれていなかった」と明かしている。理由の核心が示されないまま、停止命令だけが来た格好。

そのうえで Anthropic は、政府が示した証拠を自社で検証し、反論している。問題のジェイルブレイクは要するに「特定のコードベースを読ませて、ソフトウェアの欠陥を直させる」たぐいの操作で、これはセキュリティの専門家が日常的にやっている作業だと。しかも、こうした能力は Fable 5 に固有ではなく、OpenAI の GPT-5.5 など競合のモデルにも広く備わっているものだ、と指摘している。要は「うちのモデルだけを止める理由になっていない」という主張。

Anthropicは従いつつ反論、「業界全体が止まる」

Anthropic のスタンスは、はっきりしている。法的な指令には従う。でも判断には同意しない

声明の言葉を借りると、「狭い範囲の潜在的なジェイルブレイクが見つかったことを理由に、すでに数億人に展開された商用モデルを回収すべきだ、という考えには同意できない」。さらに踏み込んで、「この基準を当てはめるなら、実質的にすべてのフロンティアモデル事業者の、あらゆる新規展開が止まってしまう」とも。どんな最先端モデルにも、探せば似たような抜け道は見つかる。それで毎回回収していたら、誰も新しいモデルを出せなくなる、という理屈。

そのうえで「これは誤解だと考えており、できるだけ早くアクセスを復旧させるべく動いている」とし、24 時間以内に追加情報を出すとしている。つまり Anthropic は、これを恒久的な措置ではなく、説明すれば解けるはずの行き違いだと見ている。ただ、これはあくまで Anthropic 側の見立て。政府が詳細を公開していない以上、外から本当のところを評価するのは難しい、という留保は要る。

自分で「危険」と訴えた設計が、裏目に出た皮肉

ここからは私の見方。この一件には、いくつもの皮肉が重なっている。

ひとつは、Anthropic 自身の振る舞いが招いた面があること。Fable 5 を発表したとき、同社は「これだけ高性能なモデルは、安全装置がなければサイバー分野などで深刻な悪用に使われうる」と、自ら危険性を強調していた。そのうえで、危ない話題は弱いモデルに差し戻す、という凝った安全装置まで作り込んだ。前にそれを「能力と安全のせめぎ合いを製品に刻んだ設計」として評価したけれど、皮肉なことに、まさにそのサイバー防御の抜け道が突かれて、政府に止められた。「これは危険だ」と大声で言い、その防御を売りにした結果、その防御の穴が停止の口実になった。透明性と安全アピールが、そのまま自分の首を絞めた形に見える。

もうひとつは、規制の入り口の食い違い。少し前に、米政府の AI 大統領令を取り上げた。あの命令は「強制的なライセンス制や事前審査は作らない」と、軽量規制をわざわざ明記していた。ところが今回は、ライセンス制という正面の入り口ではなく、輸出管理という別の権限を使って、結果的にモデルを実質回収させた。表口では「縛らない」と言いつつ、裏口の権限で止める。AI 企業にとって、規制がどこから飛んでくるか読みにくい状況になっている、という不安を残す出来事でもある。

使う側はどうするか、Opus 4.8への退避

実務の話。Fable 5 や Mythos 5 を業務で使い始めていた人は、今すぐ代替に切り替える必要がある。幸い、行き先ははっきりしている。Opus 4.8 は止まっていないので、モデル指定を claude-fable-5 から claude-opus-4-8 に差し替えれば、ひとまず動く。

ここで効いてくるのが、前に取り上げた「フォールバック」の仕組み。Fable 5 が拒否したとき自動で Opus 4.8 に回す設定を、もし入れてあったなら、今回のような事態でも切り替えの手間が少なく済む。皮肉なことに、安全のために作られたフォールバックが、政府による停止というまったく別の理由でも保険になった。

そして、この一件から学べる教訓ははっきりしている。特定の最先端モデル 1 つに、業務を深く依存させないこと。性能が魅力的でも、最上位のフロンティアモデルほど、規制や安全上の理由で突然止まるリスクを抱える。前にベンダーロックインの話を書いたけれど、今回はそれが「規制で消える」という形で現実になった。重要なワークフローほど、いつでも一段下のモデルに退避できる構えを持っておきたい。

状況は動いている最中で、Anthropic は復旧に向けて動いている。数日のうちに解けるのか、長引くのかは、まだ分からない。だからこそ、いま最先端モデルを業務に組み込んでいる人は、これを「自分のツールがある日突然止まったらどうするか」を考え直す機会にしたい。最強のモデルを追いかけることと、止まっても困らない作りにしておくこと。その両方を意識できるかどうかが、規制と技術が追いかけっこをするこの先の数年で、効いてくる気がしている。

engineer-kichizitsu.net

engineer-kichizitsu.net

engineer-kichizitsu.net

engineer-kichizitsu.net

engineer-kichizitsu.net

当サイトは、アフィリエイト広告を使用しています。