最近、マイクロソフト社は、米国バージニア州東部地区地方裁判所に、Azure OpenAIプラットフォームへの不正アクセスを行い、有害なコンテンツを大量に生成したハッカー集団を提訴しました。この事件は、人工知能分野の安全性とリスクに対する懸念を改めて浮き彫りにしました。

開発者 ハッカー (3)

マイクロソフトの訴状によると、これらのハッカーは国外からであり、公開ウェブサイトから顧客の認証情報を取得することでセキュリティ対策を回避し、Azure OpenAIシステムに侵入しました。顧客のアクセス権限を取得した後、プラットフォームの機能を改ざんするだけでなく、他の悪意のあるユーザーに再販売し、これらのAIツールを使用して違法なコンテンツを生成する方法に関する詳細な指導を提供しました。マイクロソフトはこれらのハッカーが生成したコンテンツの具体的な性質については明らかにしていませんが、これらのコンテンツは同社のポリシーとサービス規約に重大な違反であると述べています。

このセキュリティ脆弱性に対処するため、マイクロソフトはAzure OpenAIプラットフォームの防御能力を強化し、同様の事件の再発を防ぐための新たなセキュリティ対策を複数導入しました。同時に、マイクロソフトは裁判所に対し、ハッカーの運営に関連するウェブサイトの押収を要求し、証拠の収集、責任者の追跡、違法行為を支援するインフラの解体を目指しています。

マイクロソフトは、これらのハッカーの行為が「コンピュータ詐欺および濫用法」、「デジタルミレニアム著作権法」、連邦恐喝法など、複数の米国法に違反していると指摘しています。マイクロソフトは、法的措置を通じてこれらの犯罪者の責任を問いたいと考えています。