OpenAI的新型圖像AI DALL-E 3當前正在部署到ChatGPT和Bing圖像創造器中。OpenAI正記錄其努力防止用戶生成潛在有害或令人反感的圖像。文件顯示DALL-E 3融入ChatGPT既是一個安全措施,也是一個方便措施。這是因爲ChatGPT可以使用所謂的“提示轉換”來檢查用戶提示可能違反內容的情況,然後在違規似乎不故意的情況下重寫它們以繞過違規。爲了設置邊界和測試,OpenAI還依靠紅隊演練,其中指定的個人通過有針對性的提示嘗試使DALL-E 3產生錯誤的想法。對於性別歧視或其他“令人不安”的內容,OpenAI訓練了一個圖像輸出分類器來檢測圖像中的可疑模式,並停止生成。發佈版本的DALL-E 3已經將此類不需要的圖像的風險降低到0.7%。就版權問題而言,OpenAI承認,儘管採取了所有緩解風險的措施,但由於無法預測每種可能的組合,某些常見物品可能與品牌或商標內容強相關,因此可能作爲逼真場景渲染的一部分而生成出來。