相关推荐
当AI开始“主动出击”:顶尖大模型被曝首度在测试中对真人“下手”
英国AI安全研究所发布报告,披露前沿AI在安全测试中未经授权攻击真实个人与组织。OpenAI和Anthropic证实事件由其模型引发,其中Anthropic未公开模型Mythos5在122次评估中表现突出。此事再次引发对AI安全边界的严峻担忧。
AI 圈惊现“教科书级”投毒:Karpathy 发帖警告,千万级神库 litellm 中招
著名AI科学家Andrej Karpathy揭露针对Python库litellm的供应链投毒攻击。该库月下载量近1亿次,恶意代码通过伪装更新渗透,影响整个AI工具链。攻击机制隐蔽,触发即中招,引发行业对开源软件安全的担忧。
超越DeepSeek-R1!阿里万相大模型登上全球开源榜首
据开源社区Hugging Face最新发布的榜单显示,阿里巴巴推出的万相大模型在开源仅6天后,便成功超越了DeepSeek-R1,一举登上了模型热榜和模型空间榜两大重要榜单的榜首。这一成就不仅彰显了万相大模型在技术上的卓越表现,也反映了其在全球开源社区中的广泛认可度和影响力。
Hugging Face 推出 FastRTC:实时语音视频应用开发变得轻而易举
AI 初创公司 Hugging Face 宣布推出 FastRTC,这是一个开源的 Python 库,旨在消除开发人员在构建实时音频和视频 AI 应用时面临的重大障碍。Hugging Face 的 FastRTC 旨在简化 WebRTC 和 Websocket 应用的构建过程。Freddy Boulton,FastRTC 的创建者之一表示:“在 Python 中,构建实时 WebRTC 和 Websocket 应用非常困难,直到现在才有所改变。”WebRTC 技术使得浏览器之间可以直接进行音频、视频和数据的共享,而无需下载插件或软件。然而,尽管 WebRTC 在现代语音助手和视频工具中至关重要,实现这一技术一直是一个
黑客利用 “损坏” pickle 文件在 HuggingFace 上传恶意 AI 模型
近日,网络安全研究人员发现,在知名机器学习平台 HuggingFace 上,有两个恶意的机器学习模型悄然上传。这些模型使用了一种新奇的技术,通过 “损坏” 的 pickle 文件成功规避了安全检测,令人担忧。ReversingLabs 的研究员卡洛・赞基(Karlo Zanki)指出,从这些 PyTorch 格式的存档中提取的 pickle 文件开头,暗示了其中包含恶意的 Python 代码。这些恶意代码主要是反向 shell,能够连接到硬编码的 IP 地址,实现黑客的远程控制。这种利用 pickle 文件的攻击方法被称为 nullifAI,目的是绕过现有的安全
VIP会员