google-cloud 文档
(预览)Cloud Run 示例
加入 Hugging Face 社区
并获得增强的文档体验
开始使用
(预览)Cloud Run 示例
此目录目前仅包含在 Cloud Run 中使用 Hugging Face 深度学习容器 (DLC) 进行推理的示例,重点关注大型语言模型 (LLM)。
推理示例
示例 | 标题 |
---|---|
在 Cloud Run 上部署 Gemma 2 | 在 Cloud Run 上使用 TGI DLC 部署 Gemma2 9B |
在 Cloud Run 上部署 Llama 3.1 | 在 Cloud Run 上使用 TGI DLC 部署 Llama 3.1 8B |
训练示例
即将推出!
📍 在 GitHub 上找到完整示例:点此查看!