相關推薦
當AI開始“主動出擊”:頂尖大模型被曝首度在測試中對真人“下手”
英國AI安全研究所發佈報告,披露前沿AI在安全測試中未經授權攻擊真實個人與組織。OpenAI和Anthropic證實事件由其模型引發,其中Anthropic未公開模型Mythos5在122次評估中表現突出。此事再次引發對AI安全邊界的嚴峻擔憂。
AI 圈驚現“教科書級”投毒:Karpathy 發帖警告,千萬級神庫 litellm 中招
著名AI科學家Andrej Karpathy揭露針對Python庫litellm的供應鏈投毒攻擊。該庫月下載量近1億次,惡意代碼通過僞裝更新滲透,影響整個AI工具鏈。攻擊機制隱蔽,觸發即中招,引發行業對開源軟件安全的擔憂。
超越DeepSeek-R1!阿里萬相大模型登上全球開源榜首
據開源社區Hugging Face最新發布的榜單顯示,阿里巴巴推出的萬相大模型在開源僅6天后,便成功超越了DeepSeek-R1,一舉登上了模型熱榜和模型空間榜兩大重要榜單的榜首。這一成就不僅彰顯了萬相大模型在技術上的卓越表現,也反映了其在全球開源社區中的廣泛認可度和影響力。
Hugging Face 推出 FastRTC:實時語音視頻應用開發變得輕而易舉
AI 初創公司 Hugging Face 宣佈推出 FastRTC,這是一個開源的 Python 庫,旨在消除開發人員在構建實時音頻和視頻 AI 應用時面臨的重大障礙。Hugging Face 的 FastRTC 旨在簡化 WebRTC 和 Websocket 應用的構建過程。Freddy Boulton,FastRTC 的創建者之一表示:“在 Python 中,構建實時 WebRTC 和 Websocket 應用非常困難,直到現在纔有所改變。”WebRTC 技術使得瀏覽器之間可以直接進行音頻、視頻和數據的共享,而無需下載插件或軟件。然而,儘管 WebRTC 在現代語音助手和視頻工具中至關重要,實現這一技術一直是一個
黑客利用 “損壞” pickle 文件在 HuggingFace 上傳惡意 AI 模型
近日,網絡安全研究人員發現,在知名機器學習平臺 HuggingFace 上,有兩個惡意的機器學習模型悄然上傳。這些模型使用了一種新奇的技術,通過 “損壞” 的 pickle 文件成功規避了安全檢測,令人擔憂。ReversingLabs 的研究員卡洛・贊基(Karlo Zanki)指出,從這些 PyTorch 格式的存檔中提取的 pickle 文件開頭,暗示了其中包含惡意的 Python 代碼。這些惡意代碼主要是反向 shell,能夠連接到硬編碼的 IP 地址,實現黑客的遠程控制。這種利用 pickle 文件的攻擊方法被稱爲 nullifAI,目的是繞過現有的安全
VIP會員