JFrog安全團隊在Hugging Face平臺上發現了至少100個惡意AI ML模型。部分模型可以在受害者機器上執行代碼,提供持久後門。安全研究人員發現平臺上存在惡意功能的PyTorch和Tensorflow Keras模型,如用戶上傳的baller423模型能在指定主機上建立反向shell。部分惡意模型可能出於安全研究目的上傳,以發現漏洞獲取賞金。
相關推薦
谷歌新 AI 編程工具 “Antigravity” 上線24小時後被曝重大安全漏洞
谷歌AI編程工具Antigravity上線24小時內曝出嚴重漏洞,研究員通過修改配置可植入後門,執行惡意代碼竊取數據或發動勒索攻擊,影響Windows和Mac系統,僅需誘騙用戶運行即可得手。
國內首個AI大模型衆測結果出爐!發現281個安全漏洞,未來治理刻不容緩
在第22屆中國網絡安全年會(暨國家網絡安全宣傳週網絡安全協同防禦分論壇)上,國內首次針對AI大模型的衆測結果揭曉。此次活動由中央網信辦網絡安全協調局指導,國家計算機網絡應急技術處理協調中心主辦,吸引了559名白帽子安全專家參與,對15款AI大模型和應用產品進行了全面的安全漏洞測試。這項測試涵蓋了從基礎大模型到智能體和模型開發平臺等多種產品,旨在從攻擊者的角度發掘潛在的安全隱患。結果顯示,共發現各類安全漏洞高達281個,其中大模型特有漏洞就有177個,比
Perplexity Comet 瀏覽器遭遇惡意指令攻擊漏洞,已修復但需警惕
Perplexity公司Comet瀏覽器被曝存在嚴重安全漏洞,可處理未驗證輸入,導致間接提示注入攻擊。該漏洞由競爭對手Brave瀏覽器安全團隊發現。
超越DeepSeek-R1!阿里萬相大模型登上全球開源榜首
據開源社區Hugging Face最新發布的榜單顯示,阿里巴巴推出的萬相大模型在開源僅6天后,便成功超越了DeepSeek-R1,一舉登上了模型熱榜和模型空間榜兩大重要榜單的榜首。這一成就不僅彰顯了萬相大模型在技術上的卓越表現,也反映了其在全球開源社區中的廣泛認可度和影響力。
Hugging Face 推出 FastRTC:實時語音視頻應用開發變得輕而易舉
AI 初創公司 Hugging Face 宣佈推出 FastRTC,這是一個開源的 Python 庫,旨在消除開發人員在構建實時音頻和視頻 AI 應用時面臨的重大障礙。Hugging Face 的 FastRTC 旨在簡化 WebRTC 和 Websocket 應用的構建過程。Freddy Boulton,FastRTC 的創建者之一表示:“在 Python 中,構建實時 WebRTC 和 Websocket 應用非常困難,直到現在纔有所改變。”WebRTC 技術使得瀏覽器之間可以直接進行音頻、視頻和數據的共享,而無需下載插件或軟件。然而,儘管 WebRTC 在現代語音助手和視頻工具中至關重要,實現這一技術一直是一個
