🧨 Diffusers 伦理准则
前言
Diffusers 提供预训练的扩散模型，并作为推理和训练的模块化工具箱。
鉴于其在现实世界中的应用案例和对社会潜在的负面影响，我们认为为项目提供伦理准则以指导 Diffusers 库的开发、用户的贡献和使用非常重要。
使用这项技术的风险仍在研究中，但列举一些例子：艺术家版权问题；深度伪造的利用；在不适当的背景下生成性内容；非自愿的模仿；有害的社会偏见，加剧对边缘群体的压迫。我们将持续跟踪风险，并根据社区的响应和宝贵反馈调整以下准则。
范围
Diffusers 社区将应用以下伦理准则于项目的开发，并帮助协调社区如何整合贡献，尤其是在与伦理问题相关的敏感话题方面。
伦理准则
以下伦理准则普遍适用，但我们主要在处理伦理敏感问题时，做出技术选择时实施这些准则。此外，我们承诺随着时间的推移，根据该技术的最新发展，以及与之相关的新的潜在危害，调整这些伦理原则。
透明度：我们致力于在管理 PR、向用户解释我们的选择以及做出技术决策时保持透明。
一致性：我们致力于保证我们的用户在项目管理中得到同等水平的关注，使其在技术上保持稳定和一致。
简易性：我们致力于使 Diffusers 库易于使用和利用，因此我们致力于保持项目目标的简洁和连贯。
可访问性：Diffusers 项目帮助降低了贡献者的门槛，即使没有技术专长，他们也可以帮助运行该项目。这样做使研究成果更容易被社区访问。
可重复性：我们旨在对通过 Diffusers 库提供的上游代码、模型和数据集的可重复性保持透明。
责任：作为社区，并通过团队合作，我们对用户负有共同责任，即预测和缓解这项技术的潜在风险和危害。
实施示例：安全特性和机制
团队每天都在努力提供技术和非技术工具，以应对与扩散技术相关的潜在伦理和社会风险。此外，社区的意见对于确保这些特性的实施和提高我们对此的意识至关重要。
社区标签：它使社区能够讨论和更好地协作项目。
偏差探索和评估：Hugging Face 团队提供了一个 空间 来交互式地展示 Stable Diffusion 中的偏差。在这个意义上，我们支持和鼓励偏差探索和评估。
鼓励安全部署
安全 Stable Diffusion：它减轻了众所周知的模型问题，例如 Stable Diffusion，这些模型在未经筛选的网络爬取数据集中进行训练，往往会遭受不当退化。相关论文：安全潜在扩散：减轻扩散模型中的不当退化。
安全检查器：它在图像生成后，检查和比较嵌入空间中一组硬编码有害概念的类概率。有害概念有意隐藏，以防止对检查器的逆向工程。
Hub 上的分阶段发布：在特别敏感的情况下，应限制对某些存储库的访问。这种分阶段发布是一个中间步骤，允许存储库的作者对其使用有更多控制权。
许可：OpenRAILs 是一种新型许可，它使我们能够确保免费访问，同时拥有确保更负责任使用的限制。