「セキュリティーガーディアン（安全衛士）」を自認してきた人工知能スタートアップのAnthropicが、劇的な立場の転換を遂げている。最近、同社は長年堅持していた「セーフティーキャップ（安全規制）」政策を大幅に緩和することを発表した。この変化はAI発展史における分水嶺と見なされている。かつて「人間の幸福」を最優先に考えていた理想主義者たちでさえ、今や利益と商業拡大に譲歩するようになったのだ。

Anthropicが2023年に発表した「責任ある拡張ポリシー（RSP）」によると、同社はAIモデルが特定の危険閾値に達した場合、関連研究開発を延期すると約束していた。しかし、火曜日に公開されたブログ記事では、同社はルールを更新し、「競争において明確な優位性を持たない」と判断した場合、研究開発の延期の約束を実施しなくなるとした。

AIbaseが入手した情報によると、この動きの背景には厳しいビジネス競争がある。Anthropicは現在の政策環境がAIの競争力と経済成長を優先し、連邦レベルでのセキュリティ規制の議論はまだ実質的な進展がないと認めている。つまり、OpenAIやグーグル、エロン・マスクのxAIとの業界支配権を巡る競争において、過度に保守的なセキュリティ戦略は、この画期的な技術のレースから取り残されるリスクを生むことを認識している。

現在、Anthropicは新たな資金調達を目指しており、評価額は380億ドルに達している。投資家にそのビジネス上の可能性を示すために、同社はモデルの上市を加速しようとしている。しかし、このような「スピード優先」の転換は内部でも混乱を引き起こしている。シニアセキュリティ研究者であるMrinank Sharma氏は退職を表明し、公開して警告した。「世界はさまざまな関連する危機のリスクの中にあり、AIの暴走した開発はその一つだ」と。

要約：

  • 🚨 セキュリティ姿勢の緩和：Anthropicは「責任ある拡張ポリシー」を修正し、危険なAI開発に対する単独の「遅延」義務を廃止し、競争優位性を重視している。

  • 📈 ビジネス利益の動機：380億ドルの評価額と上場のプレッシャーに直面し、同社は「セキュリティの護城河」から「市場シェア」への戦略転換を図っている。これはOpenAIなどの強敵に対抗するためである。

  • ⚠️ 核心的な人材の流出：ポリシーの変更により、内部のセキュリティ専門家が懸念を抱き、辞職するケースが生じており、AIスタートアップ企業が「技術を善に使う」ことと「生き残りの競争」の間に抱える深い矛盾を反映している。