Patronus AI发现领先AI系统存在“令人担忧”的安全漏洞

Patronus AI发布SimpleSafetyTests测试套件，发现ChatGPT等AI系统存在关键安全漏洞。测试揭示了11个LLMs中的严重弱点，强调安全提示可减少不安全响应。结果表明在处理真实世界应用之前，LLMs需要严格而定制的安全解决方案。