最近、Anthropic社は史上最大級のMythosクラスの大規模言語モデル「Claude Fable5」を発表しました。プログラミングや複雑なタスク処理において圧倒的な性能を示したこのモデルは、技術界で注目を集めました。しかし、わずか72時間後には、米国政府から「グローバルな禁止令」を受け、すべてのサービスが停止されました。

今回の禁止措置は歴史的に unprecedented です。米国政府は国家安全保障を理由に、米国外の個人および機関がこのモデルにアクセスすることを禁止し、さらに米国内にいる外国人（包括してAnthropic社内の外国人従業員）も使用を禁止しました。技術的にすべてのユーザーの国籍を正確かつ迅速に識別することが不可能なため、Anthropic社は「一括りの対応」を取ることになり、Claude Fable5および関連モデルであるClaude Mythos5のすべてのサービスを停止しました。影響を受けたユーザーのリクエストは自動的に旧バージョンに戻されます。

image.png

この出来事の引き金となったのは、重大な脆弱性の発見でした。この脆弱性により、モデル内蔵のセキュリティプロテクトを回避し、「脱獄」が可能になるというものです。Anthropic社は、これは狭く汎用性のない脱獄方法であり、リリース前に数千時間にわたる赤チームテストを行ったと述べていますが、米国政府の態度は異常に強硬でした。公式的には、Claude Fable5が「ネットワーク兵器レベル」に近い処理能力を持つため、セキュリティプロテクトが突破された場合の結果は予測不能であり、企業に即時の修正または下架を求めるものでした。

脆弱性の深刻さについて、両者は激しい対立状態に陥りました。Anthropic社は、非汎用的な単純な脆弱性のために数億人のユーザー向け製品を停止することは、業界にとって非常に悪影響を与える先例になると主張しています。しかし、内部情報によると、政府側の懸念はそれ以上で、一部の情報では中国関係の組織がこの脆弱性を通じてモデルの完全な機能を取得しており、モデルが逆コンパイルされるか、蒸留されるリスクがあるとされています。

現在、Anthropic社と関係当局との交渉は継続中です。この出来事は単なる製品の技術的論争ではなく、AI業界における敏感な規制の分水嶺を示しています。モデルの能力が国家安全保障に脅威となるほど強大になったとき、企業がリスクと自由の間にどれほどの裁量権を持つか？この騒動の今後の展開は、前線AIモデルの展開ルールを再定義するでしょう。