OpenAI宣布升级旗下AI编程代理Codex的安全防护体系,通过多项安全措施降低代理在执行代码任务过程中误删文件、覆盖数据等潜在破坏性操作风险。
OpenAI团队成员Tibo近日在社交平台发文表示,公司针对近期收到的Codex破坏性操作报告进行了调查,发现主要风险集中在临时工作目录清理环节。部分问题源于系统变量复用,例如错误使用$HOME等变量导致清理操作指向真实用户目录;此外,部分操作在执行删除或覆盖前缺少充分路径校验,也增加了数据损坏风险。
针对上述问题,OpenAI已从多个层面加强防护。新版Codex要求代理在执行敏感操作前验证目标路径,并使用独立临时目录,避免依赖可能产生误导的系统变量。同时,OpenAI强化了危险命令识别与拦截机制,并增加相关操作审核流程。
此外,OpenAI还提高了Codex Full access权限的使用门槛,通过增加风险提示降低用户误授权可能,并升级Auto-review规则,在保持AI编程效率的同时进一步控制安全隐患。
随着AI编程代理逐渐参与代码开发、文件管理和自动化任务执行,代理行为安全成为行业关注重点。OpenAI此次升级体现了AI Agent在扩大应用范围过程中,需要同步提升权限管理、操作审计和风险防控能力。
VIP会员