最近，美國的一些大型人工智能公司再次向白宮做出了莊重的承諾，表示將會阻止他們的 AI 產品被用於生成非自願的深度僞造色情內容以及兒童性虐待材料。

包括 Adobe、Anthropic、Cohere、微軟、OpenAI 和開放源代碼網絡數據存儲庫 Common Crawl 在內的六家公司，簽署了這一非約束性的承諾，力求保障其產品不會被濫用於製造有害的性別暴力圖像。

人工智能 AI 機器人 機械手 (1)

圖源備註:圖片由AI生成，圖片授權服務商Midjourney

白宮表示，隨着 AI 技術的迅速發展，基於圖像的性別暴力案件急劇上升，已成爲近年來最令人擔憂的 AI 濫用形式之一。根據白宮的聲明，這六家 AI 公司承諾將會負責地獲取數據集努力保護這些數據不被用於生成與別相關的暴力內容。

不過，Common Crawl 並未簽署另外兩項承諾。衆所周知，Common Crawl 會抓取網絡內容並向任何有需要的人提供，這使得它在之前的數據清理中被指責收集不良數據。不過，Common Crawl 沒有簽署的兩項承諾中，第二項要求在適當時從 AI 訓練數據集中移除裸體圖像，這其實是 Common Crawl 應該簽署的，因爲它並不收集圖像。

Common Crawl 的執行董事 Rich Skrenta 在被問及未簽署這兩項承諾的原因時表示，他們支持這一倡議的更廣泛目標，但只被要求籤署了一項。他指出:“我們在簽署時並沒有看到這三項選擇。我們可能被排除在第二項和第三項之外是因爲我們不進行模型訓練，也不生產最終用戶產品。”

這是一年多，AI 行業的知名企業第二次對白宮做出自願承諾。2023年7月，包括 Anthropic、微軟、OpenAI、亞馬遜、谷歌等公司在內的多家企業曾在白宮會面，承諾測試模型、分享研究，併爲 AI 生成的內容加水印，以防止其被用於非自願的深度僞造色情。

儘管美國在 AI 政策方面步伐較慢，但歐盟已經批准了一些更爲嚴格的 AI 政策。值得關注的是，雖然這些承諾是約束性的，但們在一定程度上反映出行業內的自律期望。

劃重點:

🌟 六家美國 AI 公司承諾不使用其產品生成非自願深度僞造色情內容。  

🔍 Common Crawl 未簽署所有承諾，因其不直接進行模型訓練。  

📅 此次承諾是 AI 企業對白宮的第二次自願迴應，反映出行業自律的努力。