Hub 文档

第三方扫描器:Protect AI

Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

第三方扫描器:Protect AI

有兴趣加入我们的安全合作伙伴关系或在 Hub 上提供扫描信息吗?请通过 security@huggingface.co 联系我们。*

Protect AIGuardian 可以捕获 pickle、Keras 和其他漏洞,详情请见其知识库页面。Guardian 还受益于其赏金社区 Huntrs 提交的报告。

Protect AI 报告,关于 mcpotato/42-eicar-street 仓库中的 danger.dat 文件 danger.dat 文件的报告示例

我们与 Protect AI 合作提供扫描服务,以使 Hub 更加安全。与我们的内部扫描系统一样,公共仓库的文件也会由 Guardian 进行扫描。

我们的前端为此目的进行了重新设计,以适应新的扫描器。

这是一个示例仓库,你可以查看以了解此功能的实际效果:mcpotato/42-eicar-street

模型安全知识回顾

为了共享模型,我们序列化与模型交互的数据结构,以便于存储和传输。某些序列化格式容易受到恶意攻击,例如任意代码执行(说的就是你,pickle),这使得共享模型变得有潜在危险。

随着 Hugging Face 成为一个流行的模型共享平台,我们希望保护社区免受此类威胁,因此我们开发了像 picklescan 这样的工具,并集成了第三方扫描器。

Pickle 并不是唯一可被利用的格式,请参考此链接,了解如何利用 Keras Lambda 层实现任意代码执行。

< > 在 GitHub 上更新