メリーランド州ゲイサーズバーグ発—本日、米国商務省国立標準技術研究所（NIST）傘下の米国人工知能安全研究所は、人工知能分野をリードする企業であるAnthropic社およびOpenAI社と覚書を締結し、人工知能の安全に関する研究、テスト、評価における協力を正式に開始したことを発表しました。

この合意に基づき、米国人工知能安全研究所は、これらの企業による主要な新モデルのリリース前後に、それらのモデルの能力と安全上のリスクを評価し、リスク軽減策を研究するために、モデルの使用許可を得ます。この合意は両者の協力のための枠組みを構築し、米国が人工知能の未来を責任ある形で管理するという重要な一歩を踏み出したことを示しています。

ヒューマノイドロボット AI ロボット (1)

画像出典：AI生成画像、画像ライセンスプロバイダーMidjourney

「革新的な技術の進歩には、安全性が不可欠です。これらの合意により、Anthropic社とOpenAI社との技術協力を通じて、人工知能安全科学の発展を推進できることを期待しています」と、米国人工知能安全研究所所長エリザベス・ケリー（Elizabeth Kelly）は述べています。これらの合意は、協力の始まりであるだけでなく、人工知能の責任ある開発と利用を実現するための重要なマイルストーンでもあります。

さらに、米国人工知能安全研究所は、英国のパートナーと緊密に協力し、Anthropic社とOpenAI社にモデルの安全性の向上に関するフィードバックを提供する予定です。NISTは、計測科学、技術、標準、および関連ツール分野における100年にわたる実績に基づき、今回の協力を通じて、人工知能システムの安全性と信頼性をさらに推進します。

これらの協力と評価活動は、バイデン・ハリス政権の人工知能に関する大統領令を実行し、主要な人工知能開発者による政府の自主的コミットメントの実施を強化し、人工知能の安全で信頼できる開発と利用を促進するのに役立ちます。