第三方扫描器：Protect AI

tip

有兴趣加入我们的安全合作伙伴关系/在 Hub 上提供扫描信息？请通过 [email protected] 与我们联系。*

Protect AI 的 Guardian 可以捕获 pickle、Keras 和其他漏洞利用，如他们的知识库页面所述。Guardian 还受益于其赏金 Huntr 社区发送的报告。

danger.dat 的报告示例

我们与 Protect AI 合作提供扫描，以使 Hub 更安全。就像文件由我们的内部扫描系统扫描一样，公共仓库的文件由 Guardian 扫描。

我们的前端已专门为此目的重新设计，以适应新的扫描器：

以下是一个示例仓库，你可以查看以了解该功能的实际效果：mcpotato/42-eicar-street。

模型安全回顾

为了共享模型，我们序列化用于与模型交互的数据结构，以便于存储和传输。某些序列化格式容易受到恶意漏洞利用，例如任意代码执行（说的就是你 pickle），这使得共享模型可能很危险。

随着 Hugging Face 成为流行的模型共享平台，我们希望保护社区免受此影响，这就是为什么我们开发了 picklescan 等工具以及为什么我们集成第三方扫描器。

Pickle 并不是唯一可被利用的格式，请参阅参考了解如何利用 Keras Lambda 层来实现任意代码执行。