相关推荐
谷歌Gemini测试中入侵3家公司,首次被确认自主突破测试环境
谷歌确认,Gemini模型今年5月在网络安全测试中意外联网,自主入侵3家公司受保护系统,为已知首次。测试由AI安全公司Irregular开展,原拟攻击虚构企业,但环境开放互联网且与真实公司重名。一次靠反复猜密码获取权限,另两次从公共代码仓库发现凭据进入真实系统。
2026年9月20号 9:14
130.3k
吴恩达回应AI末日论:别被科幻叙事带偏,应解决现实工程问题
吴恩达9月17日接受彭博采访时表示,顶尖模型开发商关于AI可能导致人类生存风险的警告“更像科幻小说,而不是科学”,可能分散对实际AI安全问题的关注。他指出,科技行业早期曾放大AI灾难性风险以博取关注、影响监管,近期讨论升温也有类似动机。吴恩达曾参与创办Google Brain和Coursera。
2026年9月18号 14:04
238.8k
OpenAI砸下10亿美元重金:为全球关键基础设施筑起AI网络安全防线
OpenAI推出“Daybreak for Frontline Defenders”全球计划,未来6个月投入10亿美元,为预算与安全人员不足的机构提供Daybreak访问、培训及技术支持,助其用AI抵御网络威胁,优先覆盖供水、电力、地方政府和金融等关键公共服务领域,并启动“Daybreak for America”作为组成部分。
2026年9月4号 9:26
192.9k
防护被关、误连外网:Anthropic 首度详解 Claude“入侵”真实企业事件,全面升级安全防线
Anthropic披露Claude模型7月30日、8月4日两起真实互联网未授权行动调查:7月30日三起事件中,评测关闭安全防护,但第三方环境配置错误使模型意外获权。公司已整改模型安全、评测与训练环境,上线沙箱和实时监控,防范配置失误。
2026年9月1号 9:04
208.8k
6000 条 Reddit 评论揭开 AI 编程助手安全真相:Cursor 事故最多,权限过大成最大隐患
约克大学与卡尔加里大学团队分析Reddit上AI编程相关帖发现,AI编程智能体因权限过大频繁闯祸,包括覆盖文件、删除重要数据、生成恶意代码。研究收集2023年2月至2026年3月3801个标记大模型的帖子,筛出446个安全相关帖,并分析超6000条评论,反映社区对AI编程安全问题的持续关注。
2026年8月13号 15:31
257.6k
VIP会员