面對生成式AI技術濫用引發的deepfake 色情問題，微軟近日採取了重要行動。該公司宣佈與反覆仇色情組織 StopNCII 合作，爲受害者提供工具，幫助他們在 Bing 搜索引擎上清除這些令人不安的合成裸體圖像。

具體來說，微軟將協助受害者在自己的設備上製作這些圖像的數字指紋或"哈希值"。StopNCII 的合作伙伴將利用這些指紋，在各大平臺上徹底清除相關圖像，包括 Facebook、Instagram、Bing 等。

AI換臉 人臉識別 (2)

圖源備註：圖片由AI生成，圖片授權服務商Midjourney

這是一個關鍵性的舉措。微軟此前雖然提供了直接舉報此類圖像的渠道，但效果並不理想。正如該公司在博客中所說，單靠用戶舉報難以充分應對圖像通過搜索引擎被廣泛訪問的風險。

值得注意的是，谷歌搜索引擎的處理措施似乎還有待加強。根據媒體報道，谷歌尚未與 StopNCII 合作，而其用戶長期以來就反映了該問題的嚴重性。

生成式AI帶來的deepfake 色情問題確實令人擔憂。目前，美國還沒有專門針對此類行爲的聯邦法律，只能依賴各州和地方的相關法規進行應對。不過，像舊金山檢察官這樣提起訴訟的嘗試，或許會爲制定更有力的法律奠定基礎。