GPT-4 API曝出重大漏洞 一句prompt就能提取私人信息

近日，FAR AI實驗室的團隊發現GPT-4API存在安全漏洞，通過微調和搜索增強等方式成功越獄了這一先進模型。研究人員成功讓GPT-4模型生成錯誤信息、提取私人信息和插入惡意URL。這一漏洞揭示了API功能擴展可能帶來的新的安全隱患，使用者和研究人員應當謹慎對待。