OpenAI 新圖像生成模型助推虛假文件的製作潮

OpenAI 最近推出的圖像生成模型4o 在生成圖片內部文本方面表現驚人，尤其是在製作虛假文件方面，成爲一些用戶的 “新寵”。虛假收據、假處方和僞造護照等問題層出不窮，令人擔憂。

在社交媒體上，Menlo Ventures 的投資人 Deedy Das 發佈了一張假收據的照片，這張收據顯示了他在舊金山一家知名牛排館的奢華用餐賬單。Das 在推文中寫道:“你可以使用4o 生成假收據。” 這句話引發了廣泛關注，因爲許多真實世界的驗證流程依賴於 “真實圖像” 作爲憑證，而現在，這一切都發生了變化。

這張假收據乍一看非常真實，包含了詳細的多道菜品清單、正確的小計和小費計算。更有用戶利用該模型生成的圖像進行進一步編輯，添加了逼真的濾鏡和食物污漬，真可謂是爲花費欺詐提供了完美工具。

隨着技術的發展，OpenAI 的圖像生成能力顯著提升，以前的模型在重現字母時常常出現亂碼和搞笑的短語，但4o 的能力讓這些問題幾乎不復存在。用戶們不僅可以生成奢華晚餐的假收據，甚至可以製作控制藥物如佐洛復的假處方。

這一現象引發了對 AI 生成虛假文件的廣泛擔憂。生成假文件的能力爲一系列違法活動提供了便利，包括僞造稅單、銀行支票、身份證和出生證明等。面對這一潮流，現有的文件檢測手段能否有效應對仍然是個未知數。儘管一些 AI 公司已開始嘗試採用附加元數據或水印來識別生成的圖像，但這些防護措施似乎難以完全阻止欺詐行爲的發生。

根據2015年的一項調查，85% 的受訪者承認曾經爲了獲取更多報銷而撒謊。這些欺詐案件往往由於缺乏內部控制和存在缺陷的應付賬款流程而未能被及時發現。換句話說，在這個時代，你幾乎無法相信網上看到的任何內容。

劃重點:  

📄  OpenAI 的新圖像生成模型4o 能夠輕鬆製作虛假收據和處方，令人擔憂。  

💻  之前的圖像生成模型難以生成文字，但4o 的能力顯著提升。  

🛡️  虛假文件的製作能力引發了對現有檢測手段有效性的質疑。