微軟已對一個組織採取法律行動，該組織被指控故意開發並使用工具繞過其雲 AI 產品的安全護欄。根據微軟去年12月向美國弗吉尼亞東區地方法院提起的訴訟，一羣由10名未透露姓名的被告組成，涉嫌使用竊取的客戶憑證和定製軟件侵入 Azure OpenAI 服務。

微軟指控被告違反了《計算機欺詐和濫用法案》、《數字千年版權法案》和聯邦敲詐勒索法，非法訪問和使用微軟的軟件和服務器，目的是“創建攻擊性”和“有害和非法內容”。微軟沒有提供有關所生成濫用內容的具體細節。

該公司正在尋求禁令和“其他公平”救濟和損害賠償。微軟在投訴中表示，它在2024年7月發現，擁有 Azure OpenAI 服務憑證（特別是 API 密鑰，用於對應用程序或用戶進行身份驗證的唯一字符串）的客戶被用於生成違反該服務可接受使用政策的內容。

大腦 大模型

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

微軟的訴狀中寫道:“被告獲取用於實施本訴狀中所述不當行爲的所有 API 密鑰的具體方式尚不清楚，但看起來被告已參與了系統性的 API 密鑰盜竊模式，使他們能夠從多個微軟客戶那裏竊取微軟 API 密鑰。”

微軟指控被告利用竊取的美國客戶 Azure OpenAI 服務 API 密鑰來實施“黑客即服務”計劃。根據起訴書，爲了實施該計劃，被告創建了一個名爲 de3u 的客戶端工具，以及用於處理和路由從 de3u 到微軟系統的通信的軟件。

微軟稱， De3u 允許用戶利用被盜的 API 密鑰，使用 DALL-E（Azure OpenAI 服務客戶可用的 OpenAI 模型之一）生成圖像，而無需編寫自己的代碼。根據投訴，De3u 還試圖阻止 Azure OpenAI 服務修改用於生成圖像的提示，例如，當文本提示包含觸發微軟內容過濾的單詞時，就會發生這種情況。

截至發稿時，託管在 GitHub（微軟旗下公司）上的包含 de3u 項目代碼的 repo 已無法訪問。

微軟在週五發佈的一篇博客文章中表示，法院已授權其查封一個對被告的行動“至關重要”的網站，該網站將使該公司能夠收集證據，破譯被告所謂的服務如何貨幣化，並破壞其發現的任何其他技術基礎設施。

微軟還表示，它已經“採取了對策”，但公司沒有具體說明，並且針對其觀察到的活動爲 Azure OpenAI 服務“增加了額外的安全緩解措施”。