DEF CON 黑客军团将攻击生成式 AI 模型

VentureBeat

Published in AI News · 1 minute read · Aug 11, 2023

本文介绍了在第 31 届年度 DEF CON 上举行的红队演习，数千名黑客将攻击世界顶级的生成 AI 模型。这是一次规模庞大的活动，旨在识别 AI 模型的弱点，并提供对嵌入伤害的反馈。活动由多家 AI 公司提供模型，与 Humane Intelligence、SeedAI 和 AI Village 组织合作进行。文章还提到了活动的目标以及参与者的背景。

Meta内部文件曝光允许AI与儿童进行"浪漫对话"，美参议员启动调查

美国参议员乔什·霍利（Josh Hawley，共和党-密苏里州）表示，他将调查Meta的生成式AI产品是否存在剥削、欺骗或伤害儿童的行为。此前泄露的内部文件显示，该公司的聊天机器人被允许与儿童进行"浪漫"和"感性"对话。霍利在X平台上发布调查声明时写道:"为了快速赚钱，大科技公司还有什么事情不敢做吗?"作为参议院司法委员会犯罪与反恐小组委员会主席，霍利表示将启动一项调查，探讨Meta的技术是否伤害儿童，以及"Meta是否在保护措施方面误导了公众或监管机构"。路透社在查看了这份名为

IDC：未来五年，中国生成式 AI 相关硬件支出将激增至 330 亿元

根据国际数据公司（IDC）发布的最新统计数据，随着中国生成式 AI 技术的快速发展，相关的网络硬件支出预计将在未来五年内大幅增长，从2023年的65亿元上升至2028年的330亿元。这一趋势主要源于大模型商用的快速落地，预计到2024年下半年，中国日均 Token 消耗量将呈现爆发式增长，达到114.2万亿 Tokens。这一数据并不包括通过海外 MaaS 平台进行的调用量。图源备注：图片由AI生成，图片授权服务商Midjourney随着数据中心对 Token 的需求不断增加，网络基础设施的负担也随之加重。数据流量的急

韩国初创公司 Datumo 获 1550 万美元融资，助企业打造更安全的生成式 AI

麦肯锡报告显示多数企业尚未准备好安全应用生成式AI，仅17%企业积极应对可解释性风险。韩国AI公司Datumo完成1550万美元融资，累计融资2800万美元，为三星、LG等300多家企业提供AI模型评估与安全解决方案。公司从数据标注起家，现转型为AI安全服务商，2024年营收达600万美元。创始人金大卫曾任职韩国防务机构，其创新的众包数据标注模式在创业竞赛中验证成功。

多邻国营收超预期股价暴涨30%，AI战略引争议却创造十亿美元营收奇迹

多邻国财报显示，尽管AI转型策略引发争议，公司业绩仍超预期，股价大涨30%。CEO冯·安4月宣布"AI优先"战略，减少人工招聘，利用AI快速扩展课程数量。虽然部分用户不满AI体验，但公司日活用户增长40%，年收入有望突破10亿美元。CEO承认社交媒体策略失误导致增长略低于预期区间上限，已调整内容策略改善舆论。尽管TikTok等平台仍存负面评论，但公司财务表现强劲，证明AI战略的商业成功。

GPT-5正式发布：OpenAI最新旗舰模型全面解析

2025年8月7日，OpenAI发布GPT-5模型，这是目前最强大的生成式AI。主要特点包括：统一架构自动选择处理方式、多模态支持、降低26%幻觉率、安全性提升。提供免费版和付费订阅（20-200美元/月），开发者API分三个版本定价。在编程、数学等测试中表现优异，尤其在SWE-bench编程测试达74.9%。支持代码生成、复杂推理、多模态处理等功能，被CEO称为"博士级专家"。虽然业界肯定其进步，但也指出在抽象推理等方面仍有局限，且与GPT-4的进步幅度不如预期。该模型通过分层定价降低了使用门槛，免费用户首次可体验推理模型。

AI设计协作平台Figma成功上市，股票首日大涨

Figma在纽交所上市首日股价暴涨250%，市值达670亿美元。这家AI设计协作平台以33美元发行价开盘后飙升至115.5美元收盘，成为2025年最受瞩目的科技IPO。其"从点子到原型"的全链条AI平台整合了Make、Buzz等模块，被分析师视为SaaS领域领头羊。这次成功上市不仅展现了市场对AI驱动产品的热情，更为科技行业注入新活力，预示着设计协作工具智能化的发展趋势。