最近,全球首届AI安全峰会在英国布莱切利园成功举办,来自包括中美等28个国家的代表出席并签署了《布莱切利AI宣言》。该宣言呼吁AI科研机构和企业应以负责任的方式设计、开发和使用AI。宣言承认AI改善人类生活的巨大潜力,也警告AI发展可能造成的伤害,希望通过法规等手段规避风险。会议持续两天,多国政府代表、国际组织及科研机构、企业等积极参与,重点讨论AI技术带来的风险。中国等国家愿意加强在AI安全领域的国际合作与交流,共同建立全球治理共识框架。
相关推荐
未雨绸缪:Anthropic 成立官方智库,应对 AGI 时代的社会冲击
AI安全先驱成立Anthropic Institute智库,专注研究强大AI带来的深层风险。智库预测未来两年AI将迎突破性进展,可能接近通用人工智能(AGI),因此将重点应对相关挑战。
2026年3月13号 11:47
192.0k
瞄准龙虾安全问题,OpenAI收购AI安全初创公司Promptfoo
OpenAI收购初创公司Promptfoo,强化AI安全布局。这家成立于2024年的公司专注于AI应用评测与安全,拥有23人团队和35万开发者用户,估值达8600万美元。收购将帮助OpenAI弥补智能体安全方面的不足,应对AI智能体快速发展带来的安全挑战。
2026年3月11号 14:08
167.6k
OpenAI 官宣收编 Promptfoo,誓要补上最后一块短板
OpenAI收购Promptfoo,强化AI安全防线。此举旨在通过自动化工具,在开发早期检测并防止大模型产生错误或被恶意引导,确保AI技术的可靠与安全。
2026年3月10号 9:00
237.9k
马斯克出庭狠批OpenAI:ChatGPT或导致用户自杀,xAI更注重安全!
马斯克在法庭上指责OpenAI存在安全漏洞,称其xAI的Grok更安全,并暗示ChatGPT与自杀事件有关。庭审围绕2023年3月一封呼吁暂停AI开发的公开信展开。
2026年2月28号 9:18
146.1k
马斯克出庭猛烈抨击 OpenAI:称“没人因为 Grok 自杀”
马斯克在庭审证词中批评OpenAI忽视AI安全,称其产品曾导致自杀事件,并强调自家xAI更重视安全性。
2026年2月28号 8:54
115.1k
