エンジニアの思い立ったが吉日

AI・生成AI・開発ツール・業務効率化のトピックを、20年エンジニア視点で ゆるく整理しているブログです。「現場で本当に効くか」を毎回自分なりに 見極めながら書いています

Claude Fable 5、明日から復活。停止2週間で何を直したのか

思ったより早く戻ってきた、というのが正直な感想。6月12日に米政府命令で全ユーザーがアクセス停止になったClaude Fable 5とMythos 5が、7月1日から再び動き出す。ただ「元通り」ではなく、いくつか条件が変わっている。前回の停止騒ぎで「AI企業にとって規制がどこから飛んでくるか読みにくい」と書いたけれど、Anthropicが2週間でその難題にどう答えを出したかを整理する。

2週間の空白でAmazonが突きつけた「穴」

停止の直接のきっかけは、Amazonの研究者が発見したFable 5の安全装置を迂回する手口だった。中身は、特定のコードベースを読ませてソフトウェアの脆弱性を特定させるプロンプティング。政府はこれを国家安全保障上の懸念とみなし、アクセス停止命令が飛んだ。

Anthropicはこの2週間、政府とAmazonと三者で並行して検証を進めていた。同社の言い分としては「報告された手口はMythos固有のサイバー能力を暴くものではなく、Fable 5の安全マージンにおける境界事例」。つまり、致命的な穴ではなく際どい抜け道だった、という立場。

とはいえ、境界事例だろうと止まるものは止まる。Anthropicは反論を出しつつ、実務としてはその抜け道を塞ぐ改良に集中した。結果として出てきたのが、「報告された手口を99%以上のケースでブロックする、強化版の安全分類器」。この数字の受け取り方は後述するが、少なくとも「そのまま戻します」ではなく、公式に塞いだ実績を持って戻ってきた形になる。

「99%ブロック」という数字の受け取り方

分類器で99%以上ブロック、と聞くと安心しそうになる。ただ、AIの安全性の文脈で「99%」は微妙な数字でもある。100件試行して1件通ればアウトになる用途もあるし、ジェイルブレイクは通ればコピペで拡散する性質のもの。「99%止まる」は、逆に言えば「同じ手口を100回試せば1回は通る」という話でもある。

Anthropicも当然それを分かっているから、単一の分類器で終わらせず「Defense in Depth(多層防御)」を敷いている。ブロックされた要求はユーザーに通知され、代わりにOpus 4.8に回される仕組みは以前と同じ。加えて安全マージンを広めに取ったので、良性の要求も従来より多く弾かれる設計になった、と公式が明言している。

現場感覚で言うと、この「良性要求も少し多めに弾く」の部分が実務で効いてくる可能性はある。前回リリース時に「セッションの5%未満でフォールバックが発生」という数字が出ていたが、今回は安全マージンを広げているぶん、この率が上がる可能性が高い。セキュリティ関連や生物学の調べ物をする用途では、体感の使い勝手が一段落ちるかもしれない。

Mythos 5は「承認された米組織のみ」に絞られた

もうひとつ大きい変更が、Mythos 5の提供範囲。前回は「Glasswingパートナー限定」だったが、今回の再展開では「承認されたUS組織のみ」という明確な地理的線引きが入った。

これは輸出管理の指令にAnthropicが具体的に応えた形。前回の停止命令は「外国人のアクセスを制限せよ」だったが、Anthropicは当初「外国人だけ切り分けるのは技術的に難しい」として全顧客のアクセスを止めた。今回はその線引きを組織単位で運用する仕組みを整えたということ。

これが業界に与える示唆は結構重い。最先端モデルの一部を「米組織のみに開く」という運用が、Anthropic発の最新ケースとして先例になった。半年前のあの再帰的自己改善の議論で「AI能力が上がるほど、誰に渡すかの管理が本体になる」と書いたけれど、Fable 5とMythos 5の関係はまさにそれを体現している。日本の企業がMythos 5を業務で使いたい、という選択肢は当面消えたと考えたほうがいい。

Anthropicが業界に投げた「共通の重大度基準」

今回の発表で個人的にいちばん興味深かったのが、Anthropicが業界全体に投げた提案。ジェイルブレイクの重大度を統一基準で評価しよう、という話で、4つの軸が出ている。能力の獲得(何ができるようになるか)、広がり(何人が使えるか)、兵器化の容易さ、そして発見可能性。

これは前回停止時にAnthropic自身が突きつけられた宿題への答えでもある。当時、Anthropicは「この基準を当てはめるなら、フロンティアモデル事業者の新規展開はすべて止まる」と反論していた。「その基準ってそもそも業界で揃ってないよね」という主張を、今度は建設的な提案の形で戻してきた格好。

うまく回れば、業界全体で「これは停止レベル」「これは分類器改良で対応」といった線引きが共有される。Anthropic 1社が政府と個別に交渉するのではなく、業界標準に沿って議論できる状態を作りたい、という戦略的な動きに見える。ただ、この手の共通基準は競合が乗ってこないと絵に描いた餅で終わる。OpenAI、Google DeepMind、xAI がどう反応するかで運命が決まる話だと思う。

使う側が今週押さえておくこと

実務の話。7月1日(水)から、以下の順で復旧する。

  • Claude Platform、Claude.ai、Claude Code、Claude Cowork:即日利用可
  • AWS、Google Cloud、Microsoft Foundry:「可能な限り迅速に」順次復旧

Bedrock経由でFable 5を使っていた組織は、復旧タイミングがAnthropic直経路より遅れる可能性が高い。ここは業務クリティカルなら明日いきなり戻すのではなく、様子を見つつ Opus 4.8 併用で走らせるのが現実的。

料金面では、Pro / Max / Team / 一部Enterpriseで「7月7日まで週次使用限度の最大50%までFable 5を含める」という激変緩和期間が設定されている。7月8日以降は使用クレジット経由に切り替わる、という段階制。1週間だけ多めに触って感触を掴んでおくのがコスパよさそう。

Standard Enterpriseはクレジット有効化が必須。Premium Enterpriseは7月7日まで座席に含まれる。ここは契約プラン次第で運用が変わるので、社内でClaude導入を統括している人は今週中に確認しておきたい。

明日、Fable 5をどこまで戻すか

自分なら、Claude Codeの日常セッションはOpus 4.8のまま維持する。理由は3つあって、まずFable 5の「良性要求も多めに弾く」新しい安全マージンが、コード関連の作業で誤検知を出す可能性。セキュリティ調査を業務でやる立場だと、正当な作業が分類器に引っかかる場面が増えるかもしれない。

次に、Bedrock/GCP/Foundry の復旧タイミングが読めないこと。企業クラウド経由で回している場合、Anthropic直APIとBedrockでモデル状況が食い違う数日間ができる。切り替えるなら全経路で使えるようになってから、のほうが運用が楽。

最後に、Sonnet 5がまさに前日に発表されたばかりというタイミングの重なり。Fable 5に飛びつく前に、Sonnet 5とOpus 4.8とFable 5の三段構えで、どの用途にどれを充てるかを1週間かけて設計し直すほうが、結果として無駄な切り替えを減らせる気がする。

正直、この2週間の騒動と再展開は、AI業界が「規制と製品リリースが同時進行で綱引きする時代」に完全に入ったことを示す出来事だった。Anthropicは今回、政府命令に従いつつ反論し、業界共通基準を提案する、という三段構えで応じた。この動き方が今後の標準になるのか、それともまた別のかたちで揉めるのか、次のフロンティアモデル発表のときに答えが見えてくると思う。

engineer-kichizitsu.net

engineer-kichizitsu.net

engineer-kichizitsu.net

engineer-kichizitsu.net

engineer-kichizitsu.net

engineer-kichizitsu.net

当サイトは、アフィリエイト広告を使用しています。