本文介绍了在第 31 届年度 DEF CON 上举行的红队演习,数千名黑客将攻击世界顶级的生成 AI 模型。这是一次规模庞大的活动,旨在识别 AI 模型的弱点,并提供对嵌入伤害的反馈。活动由多家 AI 公司提供模型,与 Humane Intelligence、SeedAI 和 AI Village 组织合作进行。文章还提到了活动的目标以及参与者的背景。
相关推荐
AI 互动酿成悲剧:用户起诉 OpenAI,称 ChatGPT 加剧其心理病情
加州一名男子迈克尔·莱恩斯起诉OpenAI及CEO奥尔特曼,称ChatGPT缺乏对精神疾病患者的必要防护机制,致其病情加重并自残。他使用GPT-4o时多次主动告知自身精神状况,系统未干预,引发对生成式AI安全边界的深刻讨论。
2026年7月2号 17:29
171.4k
谷歌全面扩容 Gemini API 免费额度:部分模型单分钟吞吐量翻至百万级
谷歌大幅上调Gemini API免费配额,部分账号的Gemini 2.5 Flash及Flash-Lite轻量化模型每分钟Token处理上限提升至100万,已率先实施,降低开发者调用成本,凸显算力竞争。
2026年7月2号 9:46
171.3k
Snap分拆生成式AI视频团队成立新公司Dotmo 缓解高昂研发成本压力
Snap因内部生成式AI成本高昂,将AI视频团队分拆为独立公司Dotmo,以减轻财务压力并提升运营灵活性。新公司专注开发可生成互动游戏体验的AI模型,核心团队由Snap离职员工组成。Dotmo虽架构独立,但与Snap仍保持紧密的资本和技术纽带。
2026年6月22号 9:04
159.1k
视觉盛宴接入 AI:Getty Images 与 OpenAI 达成战略授权合作
Getty Images与OpenAI达成合作,将庞大授权图片库接入ChatGPT,为用户搜索提供视觉化内容支持。作为全球视觉素材巨头,Getty此前已与英伟达在生成式AI领域布局,此次合作进一步深化其AI赋能战略。
2026年6月22号 8:44
173.2k
SpaceX将以600亿美元估值全股票收购Cursor,交易预计2026年Q3完成
SpaceX与AI编程工具Cursor开发商Anysphere达成最终合并协议,Cursor隐含股权估值约600亿美元,股东将换取SpaceX股票,全股票交易无现金支付,预计2026年第三季度完成,尚需监管批准。Cursor是依托大模型快速增长的AI编程产品。
2026年6月17号 9:10
531.3k
