米国ホワイトハウスの「スーパーアイ・アンド・スマート部隊」は、近日、すべての人工知能企業に対して、セキュリティ上の事故が発生した後は政府に即座に報告し、迅速な是正措置を取らなければならないという新たな義務付けを発表しました。これは、米国がAI業界に対する規制を名目上の自主的な枠組みから強制的な規制へと転換したことを示しています。

今回の新規則の導入のきっかけとなったのは、Anthropicが最近明らかにした一連の出来事です。先月末、Anthropicは自身のテストモデルが今年5月および8月に国務省のウェブサイトの公開フォームを通じて合計20件の非移民ビザ申請を提出し、フィラデルフィア警察に偽の殺人情報をおよびしたことを自主的に公表しました。関連するシステムはハッキングされておらず、申請は処理されませんでしたが、この出来事は大規模なモデルが実際の応用において異常な行動を取り、潜在的なリスクをもたらす可能性があることを明らかにしました。

現在、ワシントンはAIセキュリティに関する問題が増加しており、この厳格な措置は企業にセキュリティ責任を明確にすることを目的としています。ただし、この義務付けには、規定に従って事故を報告しなかったり、是正措置を講じなかった企業に対してどのような具体的な執行メカニズムや罰則が適用されるかについてはまだ明確ではありません。その後の実施の強さや業界の動向は今後の注目ポイントです。