黑客在HuggingFace上传包含恶意代码的AI模型对开发者展开攻击
HuggingFace 是目前最热门的模型托管平台,各大 AI 公司都将自己的开源或开放模型托管在该平台供开发者们下载,因此也总有些黑客试图通过该平台展开攻击。
网络安全研究人员 Karlo Zanki 就注意到该平台出现两个包含恶意代码的机器学习模型,这些模型通过技术手段绕过 HuggingFace 的安全性检测。
HuggingFace 使用名为 Picklescan 的工具检测恶意模型,该工具本质是就是用来检测可疑的 Pickle 文件,但此次黑客使用的方式可以绕过检测。
具体来说黑客创建的这些模型通过 PyTorch 格式存储,这是压缩的 pickle 文件,默认情况下 PyTorch 使用 ZIP 格式进行压缩,但被识别出来的这两个恶意模型使用 7z 格式压缩。
对提取出来的内容进行分析后,研究人员发现这些模型包含恶意负载,可以连接到硬编码的 IP 地址,借助 shell 收集设备信息并对开发者展开攻击。
所以各位在网上下载模型时也需要提高警惕,一方面应当通过 HuggingFace 这类较为知名的平台下载模型,另一方面也要确认模型的发布者,尽可能选择经过认证的公司 / 开发者。
这两个恶意模型名称:
glockr1/ballr7
who-r-u0000/0000000000000000000000000000000000000
-
HuggingFace推出iOS应用 无需联网即可使用本地视觉模型描述用户周围的内容
人工智能初创公司 HuggingFace 日前在 Apple App Store 推出名为 HuggingSnap 的新应用,该应用的主要功能是调用 iPhone 摄像头查看周围的事物,用户可以进行任
-
FasterWhisperGUI国内开发者整合的语音转字幕神器
因为国内禁了HuggingFace,所以我最近在部署fast-whisper-web时遇到了麻烦。转而找到了一个国内开发者CheshireCC整合的开源项目:faster-whisper-GUI。不得
关注公众号:拾黑(shiheibook)了解更多
赞助链接:
关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

随时掌握互联网精彩
- Sandboxie Plus 沙盒加强版 - 给系统“开挂”
- 卢布汇率人民币2024年1月26日
- 当 AI 浪潮席卷千行百业,企业 CFO 如何借力破圈?
- 【杂谈快报】华为预计2022年实现销售收入6369亿元;韩国芯片库存创27年来最大增幅
- 【大公司创新情报】腾讯投资原点数安科技公司
- 文和友:高开低走,困于寒流
- 歌尔股份2021年报:AR/VR、游戏主机成主要营收来源
- 细说信息通信业“十四五”规划:数据和算力设施怎么干?
- 2021世界显示产业大会新闻发布会在京举行
- 自研轴体,玩性十足:达尔优A87-ESPORTS紫金轴机械键盘评测
- 论生物安全与国家治理现代化
- 【大公司创新情报】:消息称字节跳动成立大健康业务部门