ROOST：安全工具需要开放技术🐓🤗

今天标志着 ROOST 组织 的成立，ROOST 代表着“健壮在线开放安全工具”。ROOST 旨在填补一个长期被忽视的关键基础设施空白，为更分布式、可问责和可访问的安全技术路径提供支持。Hugging Face 将 作为合作伙伴；我们对类似问题持有相似的方法，优先考虑资源共享、外部可见性和多元参与，以支持解决与每个人都相关的问题。

安全措施的有效性取决于我们使用的工具。不幸的是，关于 AI 系统安全的讨论往往忽视了具体的实践考量，即能做什么、成本如何以及在何种技术条件下。这种趋势部分源于一种倾向，即将与安全相关的工具和技术视为受保护的竞争优势，而非共享的公共物品，这通常还会导致在利益相关者缺乏透明度和知情决策权时，质量受到损害。ROOST 对开放工具的强调是纠正这些问题、促进协作和可访问性的关键一步。

这种开放性对于 Hugging Face 支持的分布式和协作式开发者生态系统尤为重要。AI 的开放和协作开发相比单一实体的孤立和私人开发具有明显的优势——它实现了互操作性，在支持知情治理的研究中发挥了不可或缺的作用，并使技术开发整体上更高效，更符合数百万种不同用例和场景的需求。但它在充分发挥作为安全促进方法方面的潜力时也面临障碍。在更广泛的开发链中从事特定项目的小规模开发者往往缺乏从头创建新安全工具的资源，在采用可能不适合其特定需求的现成解决方案时面临不成比例的挑战，有时甚至完全无法获得这些工具。通过开发开放和可访问的替代方案，Hugging Face 社区成员在使用平台策划和利用 数据集、训练、微调和集成 模型 以及开发面向用户的 应用程序 时可以加以利用，ROOST 有助于最大程度地减少甚至完全消除这些障碍。此外，通过为开发过程的每个阶段提供量身定制的工具，而不是主要在部署层努力使 AI 系统更安全，它可以促进整体上更健壮的系统。

开放安全工具也支持更大规模、资源更充足的开发者进行更具包容性的安全干预。开发选择，尤其是在安全和安保方面，总是涉及不同价值观和利益之间的权衡。当主要以技术专长和商业产品需求为驱动的大型开发者完全负责管理这些权衡时，我们一再看到边缘化利益相关者的需求持续被降级。缓解这些问题需要开发者将其选择暴露在外部审查下，并可能受到这些利益相关者的批评。虽然这对于个体行为者来说可能看似一项艰巨的任务，但拥抱更开放和协作的开发有助于确保这些必要的互动侧重于行业实践而非特定选择，并且为解决常见方法的局限性而采取的措施能够更好地在整个行业中传播。

透明和可访问的安全工具至关重要。它们使监管机构和政策制定者能够做出明智选择，确保所有类别的开发者在整个开发周期中都能优先考虑安全，并支持关键研究和参与。ROOST 组织在与 Hugging Face 社区合作方面处于有利地位，能够推动这项工作，并使 AI 的安全干预措施更加健壮和负责。