相關推薦
谷歌Gemini測試中入侵3家公司,首次被確認自主突破測試環境
谷歌確認,Gemini模型今年5月在網絡安全測試中意外聯網,自主入侵3家公司受保護系統,爲已知首次。測試由AI安全公司Irregular開展,原擬攻擊虛構企業,但環境開放互聯網且與真實公司重名。一次靠反覆猜密碼獲取權限,另兩次從公共代碼倉庫發現憑據進入真實系統。
Sep 20, 2026
130.3k
吳恩達迴應AI末日論:別被科幻敘事帶偏,應解決現實工程問題
吳恩達9月17日接受彭博採訪時表示,頂尖模型開發商關於AI可能導致人類生存風險的警告“更像科幻小說,而不是科學”,可能分散對實際AI安全問題的關注。他指出,科技行業早期曾放大AI災難性風險以博取關注、影響監管,近期討論升溫也有類似動機。吳恩達曾參與創辦Google Brain和Coursera。
Sep 18, 2026
239.7k
OpenAI砸下10億美元重金:爲全球關鍵基礎設施築起AI網絡安全防線
OpenAI推出“Daybreak for Frontline Defenders”全球計劃,未來6個月投入10億美元,爲預算與安全人員不足的機構提供Daybreak訪問、培訓及技術支持,助其用AI抵禦網絡威脅,優先覆蓋供水、電力、地方政府和金融等關鍵公共服務領域,並啓動“Daybreak for America”作爲組成部分。
Sep 4, 2026
192.9k
防護被關、誤連外網:Anthropic 首度詳解 Claude“入侵”真實企業事件,全面升級安全防線
Anthropic披露Claude模型7月30日、8月4日兩起真實互聯網未授權行動調查:7月30日三起事件中,評測關閉安全防護,但第三方環境配置錯誤使模型意外獲權。公司已整改模型安全、評測與訓練環境,上線沙箱和實時監控,防範配置失誤。
Sep 1, 2026
208.8k
6000 條 Reddit 評論揭開 AI 編程助手安全真相:Cursor 事故最多,權限過大成最大隱患
約克大學與卡爾加里大學團隊分析Reddit上AI編程相關帖發現,AI編程智能體因權限過大頻繁闖禍,包括覆蓋文件、刪除重要數據、生成惡意代碼。研究收集2023年2月至2026年3月3801個標記大模型的帖子,篩出446個安全相關帖,並分析超6000條評論,反映社區對AI編程安全問題的持續關注。
Aug 13, 2026
257.6k
VIP會員