🧨 Diffusers 的伦理指南

前言

Diffusers 提供了预训练的扩散模型，并充当推理和训练的模块化工具箱。

鉴于其在世界上的实际应用以及对社会的潜在负面影响，我们认为为该项目提供伦理指南以指导 Diffusers 库的开发、用户贡献和使用非常重要。

与使用这项技术相关的风险仍在审查中，但仅举几例：艺术家的版权问题；深度伪造的利用；不适当环境中的性内容生成；非自愿的身份冒充；有害的社会偏见延续了边缘化群体的压迫。我们将持续跟踪风险，并根据社区的响应和宝贵的反馈调整以下指南。

范围

Diffusers 社区将在项目开发中应用以下伦理指南，并帮助协调社区如何整合贡献，特别是关于与伦理问题相关的敏感主题。

伦理指南

以下伦理指南普遍适用，但我们将在处理伦理敏感问题以及做出技术选择时主要实施这些指南。此外，我们承诺随着与相关技术发展水平相关的新危害出现，我们将不断调整这些伦理原则。

• 透明性：我们致力于在管理 PR、向用户解释我们的选择以及做出技术决策方面保持透明。

• 一致性：我们致力于在项目管理中保证用户相同程度的关注，保持技术上的稳定和一致。

• 简洁性：为了让 Diffusers 库易于使用和利用，我们致力于保持项目的目标精简和连贯。

• 可访问性：Diffusers 项目有助于降低贡献者的入门门槛，即使没有技术专长，他们也可以帮助运行该项目。这样做使研究成果更容易被社区访问。

• 可复现性：我们的目标是在通过 Diffusers 库提供的上游代码、模型和数据集的可复现性方面保持透明。

• 责任：作为一个社区，通过团队合作，我们对用户承担集体责任，预测和减轻这项技术的潜在风险和危险。

实施示例：安全特性和机制

团队每天都在努力使技术和非技术工具可用于应对与扩散技术相关的潜在伦理和社会风险。此外，社区的投入对于确保这些功能的实施并提高我们的意识非常宝贵。

• 社区标签页：它使社区能够讨论和更好地协作开展项目。

• 偏见探索和评估：Hugging Face 团队提供了一个 space 以交互方式展示 Stable Diffusion 中的偏见。从这个意义上说，我们支持和鼓励偏见探索和评估。

• 鼓励安全部署

  • Safe Stable Diffusion：它减轻了众所周知的问题，即在未经过滤的网络爬取数据集上训练的模型（如 Stable Diffusion）容易出现不适当的退化。相关论文：Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models。

  • 安全检查器：它检查和比较一组硬编码的有害概念在嵌入空间中的类别概率与生成后的图像。有害概念被有意隐藏，以防止对检查器进行逆向工程。

• 在 Hub 上分阶段发布：在特别敏感的情况下，应限制对某些仓库的访问。这种分阶段发布是一个中间步骤，允许仓库的作者对其使用有更多的控制权。

• 许可：OpenRAILs，一种新型许可，使我们能够在确保自由访问的同时，拥有一系列确保更负责任使用的限制。

< > 更新 on GitHub