举办一场隐私保护黑客马拉松

社区文章 发布于2024年10月17日

开源万岁!

Zama、Entrepreneur First 和 Hugging Face 共同的核心价值观之一,是我们对开源的深度承诺。在这三家公司,我们不仅倡导开源模型,还在开放环境中开发我们的工具。这让人们可以自由地探索、测试和原型化这些工具。

Hugging Face 因其开发的 Transformers 库而闻名,而 Zama 则是 Concrete ML 的幕后推手。同时,Entrepreneur First 擅长选择合适的人才,并帮助他们构建突破性的项目和公司。

什么是隐私保护AI,或隐私保护ML

因此,三家公司都非常高兴能组织首届隐私保护AI黑客马拉松。

隐私保护机器学习专注于提供相同的服务——例如推理或训练——但以一种保护用户隐私的方式。本质上,它允许第三方使用ML分析您的数据,而无需以清晰的形式看到您的数据。这听起来几乎神奇得不真实,但多亏了名为“全同态加密 (FHE)”的密码学突破,现在这成为可能。不再依赖信任或担心安全漏洞——安全性在于数学本身。

在 Zama,我们使用 Hugging Face Spaces 来演示这项技术,让用户(包括公司和数据科学家)有机会了解其工作原理和实用性——而无需深入研究技术细节(相信我们,您不会想迷失在这些技术复杂性中)。例如,其中一个项目涉及从加密 DNA 分析血统。

Zama DNA space

关于本次活动

2024年9月,我们在 Zama 办公室举办了为期两天的激动人心的活动。50 名参赛者(由 Entrepreneur First 从 200 多名申请者中精心挑选)加入了我们。不幸的是,由于社区的强烈兴趣,我们无法容纳所有人。对于未能邀请的各位,我们深表歉意。

黑客马拉松提供了两个主要挑战

  • 创建一个 Hugging Face Space,演示 Concrete ML 在真实商业用例中的功能。
  • 或者,使用 Hugging Face endpoints 部署 Concrete ML 模型并将其集成到应用程序中。

我们的评审团由四位专家组成:Hugging Face 的 Régis、Entrepreneur First 的 Guillaume、Zama 的 Andrei,以及 Lunar Ventures(一家投资具有全球雄心科技创始人的风险投资公司)的 Elad。

Event picture

关于黑客马拉松

在为期两天的黑客马拉松中,各团队成立,业务想法被集思广益,最终结果在评审团会议上展示。您可以在此处观看最终比赛的视频。参与者创建的不同 Hugging Face Spaces 可以在活动的 Hugging Face 组织页面上找到。请注意,由于这是一个快节奏的两日活动,有些空间可能尚未完全投入使用,因为许多项目仍在进行中。

在整个黑客马拉松期间,我们看到了令人难以置信的创造力,参与者提出了许多绝妙的商业想法。应用范围涵盖健康与体育、入侵防御、音频分析、专利研究、身份验证、深度伪造检测,甚至模型水印。

最让我们印象深刻的是所展示的高度技术水平,特别是那些对 Hugging Face Spaces、端点、隐私保护机器学习或 Concrete ML 完全陌生的人。这不仅证明了这项开创性技术的潜力,也证明了我们的工具对于数据科学家而言是多么易于使用——而过去,类似的解决方案一直局限于密码学家的利基领域。

关于获奖项目

评委会选出了三名获奖者

  • #3:深度伪造检测团队:该团队引入了一个使用 FHE 的深度伪造检测系统。用户可以提交加密图像,服务将判断其是否为深度伪造——而无需查看图像本身。

  • #2:Zamark 团队:他们开发了一个使用 FHE 的水印工具,通过 SGD 分类器生成模型水印。

  • #1:Parseling 团队:该团队凭借一个基于 LLM 的医疗助手赢得了比赛,该助手允许在不可信服务上进行 FHE 中的额外分析。

请随意探索这些空间——因为我们是开源的!——您甚至可以在文件子菜单中查看这些项目的源代码(例如,这里)。来看看 Gradio 和 Concrete ML 模型是如何使用的,以及还有哪些工作需要完成!

我们的最爱

在结束这篇博文之前,除了之前提到的获奖者,我们还想重点介绍几个我们个人最喜欢的项目。

对于 @binoua,将是以下两个空间

对于 @regisss

现在,轮到你来构建隐私保护AI的未来了!

这次黑客马拉松让我们度过了愉快的时光,我们与社区建立了联系,并帮助参与者构建了创新的产品。无论您是活动的一部分并希望继续,还是您是新加入并希望参与,都请不要犹豫

  • 加入 Zama 社区渠道,提出您的技术问题。
  • 加入 Hugging Face Discord,与更广泛的 HF 社区互动。
  • 申请 Entrepreneur First 项目,开启您的创业之旅。

欢迎随时向我们发送您最棒的 Hugging Face Spaces——我们很乐意查看并帮助推广它们!

社区

注册登录以发表评论