音楽が聞こえない者は、踊る人を狂人だと思う

TL;DR — 米国政府は国家安全保障を理由にAnthropicのFable 5とMythos 5の強制使用停止を命じたが、いわゆる「ジェイルブレイク」とは単にモデルにコードを読ませて脆弱性を見つけさせることで、セキュリティエンジニアが日常的に行っていることである。規制当局が業界が踊っている音楽を聞き取れない時、最も正常な動作でさえ狂気に見える。

「音楽が聞こえない人は、踊っている人が狂っていると思う。」

これは青島良友書坊で見つけた詩集ノートの一文である。撮影した時はとても納得したもので、この一文がずっと頭に残っていた。

6月13日朝、コンピュータを開いてテストの続きを実行しようとしたところ、Fableが開かず、他のモデルも動作が重い。調べてみると、前日の6月12日、米国政府が「国家安全保障」を理由にAnthropicに最新の2つのモデル、Fable 5とMythos 5の使用停止を要求したことが分かった。一夜にして、世界中のユーザーが使用できなくなった。

米国政府は一体何の使用停止を命じたのか？

まず事実を明確にしよう。この件は「米国がAnthropicのAIを禁止した」と伝わりやすいからである。

Anthropicの公式声明によると、これは「輸出管理指令」（export control directive）であり、国家安全保障権限を援用して、「いかなる外国人」もFable 5とMythos 5へのアクセスを禁止することを求めている。米国内にいるかどうかを問わず、Anthropicの外国人従業員も含まれる。この水準のコンプライアンスを実現するには、全ユーザーに対してこの2つのモデルを直接停止するしかない。声明では太字で特に強調されている：他のすべてのAnthropicモデルは影響を受けない。

つまり、これは一般的な意味での「企業封殺」ではない。警戒すべきは、政府が企業を規制するだけでなく、最先端モデル自体に直接手を伸ばし、国家安全保障と輸出管理の名の下に、それを公共利用領域からの一時的な撤退を要求したことである。

Anthropicによると、彼らは米国東部時間当日午後5時21分にこの通知を受け取ったが、通知では国家安全保障上の懸念が具体的にどのようなリスクを指しているかは明確に説明されていなかった。

その「ジェイルブレイク」はどれほど深刻なのか？Anthropicの見解

「ジェイルブレイク」という言葉自体に強い力がある。それは即座にハッカー、攻撃、侵入、制御不能を連想させ、この2文字が現れれば、その後の詳細はもはや重要でなくなる。統治の最も危険な点は、しばしば言語が先行して罪を定め、理解がまだ追いついていないことにある。

Anthropicは声明で、現在のところ政府が提示した口頭証拠は、単にモデルに特定のコードベースを読ませ、その中のソフトウェア欠陥を見つけて修正を支援することだけだと述べている。これをセキュリティ業務の現場に置き換えれば、それは神秘的でもなく、珍しいことでもない。多くのエンジニアが日常的に行っていることでもある。

Anthropicの回答は大きく3つの意味である。第一に、Anthropicは該当のデモンストレーションを再検証した結果、モデルが見つけたのは既知で影響が限定的な脆弱性のみだったと表明した。より重要なことは、これらの脆弱性はFable 5やMythos 5の独特な危険能力ではなく、OpenAIのGPT-5.5を含む他の公開利用可能なモデルでも同様にできることである。つまり、問題は特定のモデルが突然レッドラインを越えたことではなく、規制当局が業界全体が既に持っている基礎能力を特殊な脅威として誤読している可能性にある。第二に、コードを読み、脆弱性を見つけ、修正を支援することは、セキュリティ分野では攻撃者の専売特許ではなく、防御側の基本的な日課である。問題はモデルが脆弱性を見るかどうかではなく、それがどのような統治フレームワーク、使用文脈、責任境界内で使用されるかである。第三に、Fableは市場投入前に既に米国政府、英国AISI、複数の第三者機関と共に、その防御について合計数千時間のレッドチーム テストを実施し、結果は業界の既にデプロイされたどのモデルよりも高い防御強度を示し、現在のところいかなるテスターも「汎用ジェイルブレイク」を見つけていない。

📊 重要データ

• 使用停止時間：2026年6月12日午後5:21（米国東部時間）に禁令を受領
• 影響範囲：Fable 5、Mythos 5の2つ、他のモデルは影響なし
• 「ジェイルブレイク」内容：モデルにコードを読ませて脆弱性を見つけて修正させること
• 市場投入前テスト：政府、英国AISI、第三者レッドチームテスト合計数千時間
• 汎用ジェイルブレイク：現在まで0件発見

つまり、この業界を理解している人の耳には、この音楽は決して馴染みのないものではない。国家安全保障上の脅威として拡大されたその動作は、実際にはセキュリティ防御が日常的に行っている基本的なダンスステップである。問題は、統治者がこの音楽を理解できない時、彼が見るのは一群の人々が理解し難い動作をしていることである。

なぜこれはAnthropic一社の問題ではないのか？

Anthropicの態度は明確である：法律に対抗することを選ばず、まずコンプライアンスを優先した。しかし、コンプライアンスを認同と等しくもしていない。

彼らは「2つのモデルが使えるかどうか」よりも大きな懸念を指摘した。Anthropicは、「狭義で非汎用」の潜在的ジェイルブレイクが、既に数億人にサービスを提供している商業モデルを回収する理由になるべきではないと考えている。この基準が実際に業界全体に適用されれば、基本的に今後いかなる最先端モデルも市場投入できなくなる。十分強力なモデルであれば、どれも「コードを読んで脆弱性を見つける」ことができるからである。

ここで区別すべきは、これが果たして欠陥なのか、それとも能力なのかということである。モデルがコードを読み、構造を理解し、脆弱性を見つけることができれば許容できないリスクと見なされるなら、罪に問われるのはもはや特定の行為ではなく、知能そのものである。これが私が最も厄介だと思う点である。

Anthropicはまた、以前「Policy on the AI Exponential」で述べた立場を再確認した：政府は当然不安全な配備を阻止する権力を持つべきだが、前提は「透明で、公正で、明確で、技術的事実に基づいた」法定手続きを踏むことである。そして今回の行動は、これらの原則に合致していない。これが全体の中で最も重要な一文であり、「我々が使用停止になった」よりもはるかに深刻である。これが私がこの記事を文明と人性のシリーズに入れた理由でもある：表面上はAIニュースだが、本質的には人が自分の理解できないものにどう向き合うかに関するものである。

あるビルダーの現場：150ドル余り使った後、それが消失した

自分の部分について少し話そう。

Fableが使用停止になる前、私は一連のテストを実行するために課金を使っていた。Extraの請求書を見ると、2日で150ドル余り使っていた。自分でお金を払ってツールを検証する者にとって、実際に手を動かしてやってみて初めて、あるモデルが「何ができるか」について具体的な感覚を得られる。ツールを理解するには、他人がどう言うかだけでは足りず、自分の問題、フロー、制約の中に入れて、どれだけのタスクを完了できるかを見る必要がある。

だからこそ、それが一夜にして消えた時、私の反応はニュースへの驚きではなく、仕事が止まり、プロジェクトが半ばで中断され、ツールがなくなったことだった。これが規制の不確実性の真の姿である。机上の政策論争ではなく、進行中の生産フローに直接干渉する。

そして請求書を思い出し、複雑な気持ちになった。150ドル余り、今となっては価値があったと思う：少なくともそれが消える前に、一通り操作して、その手触りを知ることができた。これが恐らくこの時代がビルダーに与える不条理感である：ツールは急速に進化するが、制度はまだそれを理解していない。我々は技術を追いかけながら、それがいつでも閉じられるリスクを負担している。だから、使える時はできるだけ使い倒し、理解できる時はできるだけ理解し、自分の判断と体感を残しておく。これもまた、我々が確実に知識と制度の交差点の最前線にいることを証明している。

音楽が聞こえない人は、踊る人をどう見るか？

この件で私が不安に思うのは、モデルが使用停止になったことではない。モデルは復旧でき、コミュニケーションは続けられ、Anthropicもこれは誤解だと認識しており、積極的に復旧を争取していると述べている。

私が不安に思うのは、理解の溝が深まっていることである。統治者が業界を理解しない時、彼が見るのは制御し難い、危険な境界に迫っている一群の人々である。その中にいる人にとって、それは制御不能ではなく、新しい仕事秩序が生成されているのである。

ますます複雑になった2026年において、互いを理解することはますます困難になっている。しかし私はこの件を「技術者は分かるが、規制当局は分からない」と単純化したくない。それは簡単すぎるし、傲慢でもある。より深いレベルで見ると、我々は誰でも、ある分野において音楽が聞こえない人になる可能性がある。我々が馴染みのない分野と世界に面した時、他人のリズムを混乱と見、能力を脅威と見、自分がまだ理解していないものを存在すべきでないものと見がちである。「彼は狂っている」という直感をまず止めて、自分はただまだ聞こえていないだけかもしれないと認めることができるか、これに必要なのは知識ではなく、謙遜である。

だから、踊っている人は必ずしも狂ってはいない。

多くの場合、ただ傍観している人がまだその音楽を聞いていないだけである。

そして真に成熟した統治の時代は、人に踊りを止めるよう急かすだけではいけない。まず、その音楽が一体どこから来て、我々をどこへ導こうとしているのかを識別することを学ばなければならない。

よくある質問

Q：米国政府が使用停止にしたのはAnthropicの全AIモデルですか？ いいえ。今回はFable 5とMythos 5のみが対象です。公式声明では他のすべてのモデルは影響を受けないと明記されています。しかし禁令が「いかなる外国人のアクセスも禁止」を要求したため、Anthropicはコンプライアンスのため、全ユーザーに対してこの2つを使用停止するしかありませんでした。

Q：政府の言う「ジェイルブレイク」とは一体どれほど危険なのですか？ Anthropicによると、政府が提示した口頭証拠は本質的に「モデルにコードを読ませ、脆弱性を見つけて修正する」ことです。これらの脆弱性は既知で軽微であり、他の公開モデルでもジェイルブレイクなしに見つけられ、これはセキュリティエンジニアの日常的な防御業務です。

Q：Anthropicは従いましたか？ 従いました。全ユーザーに対して使用停止しましたが、この決定には公開で反対を表明し、この基準が業界全体に推及されれば、すべての最先端モデルが市場投入できなくなると警告しています。彼らはこれを誤解と考え、復旧を争取しています。

Q：なぜこの件が注目に値するのですか？ これがAI規制と最先端モデルの初の正面衝突だからです。これが動かすのは業界全体の将来の規制フレームワークであり、2つのモデルが使えるかどうかだけではありません。