黑客在HuggingFace上传包含恶意代码的AI模型对开发者展开攻击 – 蓝点网

 人参与 | 时间:2025-03-13 02:46:00
#人工智能 黑客在 HuggingFace 上传包含恶意代码的黑客含恶 AI 模型对开发者展开攻击,这些模型可以绕过 HuggingFace 的传包安全检测。分析发现模型包含的意代梦幻西游新表情(梦幻西游新表情包下载安装)恶意负载会连接到某个硬编码的 IP 地址,应该是码的模型利用 shell 收集信息并对开发者展开攻击。查看全文:https://www.8ec.cn/107804

HuggingFace 是对开目前最热门的模型托管平台,各大 AI 公司都将自己的展开开源或开放模型托管在该平台供开发者们下载,因此也总有些黑客试图通过该平台展开攻击。攻击

网络安全研究人员 Karlo Zanki 就注意到该平台出现两个包含恶意代码的蓝点机器学习模型,这些模型通过技术手段绕过 HuggingFace 的黑客含恶安全性检测。

HuggingFace 使用名为 Picklescan 的传包梦幻西游新表情(梦幻西游新表情包下载安装)工具检测恶意模型,该工具本质是意代就是用来检测可疑的 Pickle 文件,但此次黑客使用的码的模型方式可以绕过检测。

黑客在HuggingFace上传包含恶意代码的对开AI模型对开发者展开攻击

具体来说黑客创建的这些模型通过 PyTorch 格式存储,这是展开压缩的 pickle 文件,默认情况下 PyTorch 使用 ZIP 格式进行压缩,攻击但被识别出来的这两个恶意模型使用 7z 格式压缩。

对提取出来的内容进行分析后,研究人员发现这些模型包含恶意负载,可以连接到硬编码的 IP 地址,借助 shell 收集设备信息并对开发者展开攻击。

所以各位在网上下载模型时也需要提高警惕,一方面应当通过 HuggingFace 这类较为知名的平台下载模型,另一方面也要确认模型的发布者,尽可能选择经过认证的公司 / 开发者。

这两个恶意模型名称:

glockr1/ballr7

who-r-u0000/0000000000000000000000000000000000000

顶: 5172踩: 54174