米国の政府関係者が最近明らかにしたところ、あるテストシナリオにおいて、人工知能会社アンソロピックのMythosモデルが、米国政府の高度機密で高セキュリティレベルのコンピュータシステムの複数の脆弱性を検出しました。驚くべきことに、このモデルは数時間でいくつかのシステムの脆弱性を特定し、従来の人間による検出方法よりも大幅に効率的でした。

バージニア州の民主党員であるマーク・ウォーナー上院議員は、上院公聴会で国家安全保障局（NSA）およびネットワーク作戦司令部の責任者ジョシュア・ラッド将軍の発言を引用し、このツールが数時間でほぼ「侵入」したと述べました。ただし、この関係者は同時に、このモデルがそのような脆弱性を利用して攻撃を行うことができるとは言っていません。

Project Glasswing：AIで脆弱性を探すが、AIの乱用を懸念

今回のテストは、アンソロピックが展開したProject Glasswingプロジェクトの一環です。このプロジェクトでは、大手テクノロジー企業や企業と連携し、世界の重要なソフトウェアシステムを保護し、Mythosモデルが悪用される可能性によって公共の安全、国家の安全、経済に与える深刻な影響を回避することを目的としています。モデルが強力な脆弱性検出能力を示した一方で、アンソロピックとトランプ政権との間の対立も続いています。

政府の「閉じ込め」が業界から強い反発を引き起こす

今月上旬、ホワイトハウスはアンソロピックに対して、最新のモデルFable5とMythos 5を使用する外国人職員を禁止する指示を出した。アンソロピックはこれらのモデルへのすべての顧客アクセスを停止しました。企業は政府の懸念がこの規制の根拠として十分ではないと考えており、アドビやNVIDIAなど100社を超える企業のサイバーセキュリティ専門家が政府に書簡を送り、この指示の取り消しを求める声明を発表しました。それは、米国の敵対勢力のネットワーク技術が急速に進歩している現在、十分な証拠がないまま米国のトップのネットワーク防御ツールを失わせるのはリスクが高く、逆に敵に利益をもたらす可能性があるからです。