Ryght 的赋能之旅：Hugging Face 专家支持助力医疗保健与生命科学
本文是 Ryght 团队的客座博文。
Ryght 是谁？
Ryght 正在为医疗保健和生命科学领域构建一个企业级生成式 AI 平台。今天，他们正式发布了 Ryght 预览版，现已向所有用户开放。
生命科学公司正在从各种来源（实验室数据、电子病历、基因组学、理赔、药学、临床数据等）积累大量数据，但这些数据的分析方式却很陈旧，从简单的查询到开发有用的机器学习模型，都需要庞大的团队来完成。推动药物开发、临床试验和商业活动对可操作知识的需求巨大，而精准医疗的兴起正加速这一需求。
Ryght 的目标是赋能生命科学专业人士，让他们能够迅速、安全地获得所需的洞见。为此，他们正在构建一个 SaaS 平台，为专业人士和组织提供行业特定的 AI 助手和定制化解决方案，以加速他们在各种复杂数据源上的研究、分析和文档编制工作。
Ryght 认识到 AI 领域日新月异，因此在其发展早期便通过 ，寻求 Hugging Face 作为技术顾问合作伙伴。
携手克服挑战
我们与 Hugging Face 专家支持的合作，在加速我们生成式 AI 平台的开发中起到了至关重要的作用。AI 领域的快速发展有望彻底改变我们的行业，而 Hugging Face 的高性能、企业级文本生成推理（TGI）和文本嵌入推理（TEI）服务本身就是游戏规则的改变者。—— Johnny Crupi，CTO at Ryght
Ryght 在着手构建其生成式 AI 平台时，面临着多项挑战。
1. 在高度动态的环境中，需要快速提升团队技能并保持信息灵通
随着 AI 和 ML 技术的飞速发展，确保团队了解最新的技术、工具和最佳实践至关重要。这条持续学习的曲线十分陡峭，需要团队协同努力才能保持信息更新。
Hugging Face 的专家团队处于 AI 生态系统的中心，他们的支持帮助 Ryght 紧跟与其领域相关的最新发展和模型。这通过开放的异步沟通渠道、定期的顾问会议和专门的技术研讨会得以实现。
2. 在众多纷杂的选项中，识别出最具成本效益的机器学习方法
AI 领域创新不断，涌现出大量的工具、库、模型和方法论。对于像 Ryght 这样的初创公司来说，必须拨开这些纷杂的选项，识别出哪些 ML 策略最适用于其在生命科学领域的独特用例。这不仅需要了解当前最先进的技术，还需要展望哪些技术在未来仍能保持相关性和可扩展性。
Hugging Face 是 Ryght 技术团队的合作伙伴，协助他们进行解决方案设计、概念验证开发和生产工作负载优化。这包括针对 Ryght 的特定需求，提供关于库、框架和模型的定制化建议，并附上如何使用的示范性示例。这些指导最终简化了决策过程，并缩短了开发时间。
3. 需要开发强调安全性、隐私性和灵活性的高性能解决方案
鉴于其专注于企业级解决方案，Ryght 将安全性、隐私性和治理放在首位。这需要一个能够与各种大型语言模型（LLM）实时交互的灵活架构，这是其生命科学特定内容生成和查询处理的关键特性。
Ryght 了解开源社区内的快速创新，尤其是在医疗 LLM 方面，因此他们采用了一种支持“可插拔”LLM 的架构方法。这种设计选择使他们能够在新兴或专业化的医疗 LLM 出现时，无缝地评估和集成它们。
在 Ryght 的平台中，每个 LLM 都被注册并链接到一个或多个特定于客户的推理端点。这种设置不仅保障了连接的安全性，还提供了在不同 LLM 之间切换的能力，带来了无与伦比的灵活性——这一设计选择得益于采用了 Hugging Face 的 文本生成推理（TGI）和推理端点。
除了 TGI，Ryght 还将 文本嵌入推理（TEI）集成到了他们的 ML 平台中。使用 TEI 来服务开源嵌入模型，相较于仅依赖专有嵌入模型，标志着一个显著的进步——这使得 Ryght 能够从更快的推理速度、无需担心速率限制以及灵活地服务自己微调的模型中受益，这些模型都是为满足生命科学领域的独特需求而量身定制的。
为了同时服务多个客户，他们的系统设计用于处理大量并发请求，同时保持低延迟。他们的嵌入和推理服务不仅仅是简单的模型调用，还包括一套擅长批处理、排队和跨 GPU 分布式模型处理的服务。这一基础设施对于避免性能瓶颈和确保用户不经历延迟至关重要，从而维持最佳的系统响应时间。
结论
Ryght 与 Hugging Face 的战略合作及对其 ML 服务的整合，突显了他们在医疗保健和生命科学领域提供前沿解决方案的承诺。通过采用灵活、安全、可扩展的架构，他们确保其平台始终处于创新的最前沿，为客户在驾驭现代医疗领域的复杂性方面提供无与伦比的服务和专业知识。
注册 Ryght 预览版，现已作为免费、安全的平台向生命科学知识工作者开放，并提供无缝的上手体验。Ryght 的 AI 助手库包含多样化的工具集合，可加速信息检索、复杂非结构化数据的综合与结构化，以及文档构建，将可能需要数周才能完成的工作缩短至数天或数小时。如需咨询定制构建和合作事宜，请联系他们的 AI 专家团队，讨论 Ryght for Enterprise。
如果您有兴趣了解更多关于 Hugging Face 专家支持的信息，请在此联系我们——我们的团队将与您联系，讨论您的需求！
