📄 其他资源

通过阅读我们的博客文章、演示文稿、Google 文档和以下示例，了解如何在 Google Cloud 中使用 Hugging Face。

博客文章

• Hugging Face 与 Google 合作推动开放人工智能协作
• Hugging Face 用户可使用 Google Cloud TPU
• 让数千个开放 LLM 在 Vertex AI 模型花园中绽放
• 在 Google Cloud Vertex AI 上部署 Meta Llama 3.1 405B

演示文稿

• 东京 Gemma 开发者日 | 使用 Hugging Face 文本生成推理 (TGI) 在生产环境中释放 Gemma 潜力

Google 文档

• Google Cloud Hugging Face 深度学习容器
• Google Cloud 公共 Artifact Registry（用于 DLC）
• 在 GKE 上使用 GPU 和 Hugging Face TGI 提供 Gemma 开放模型
• Vertex 上的生成式 AI - 使用 Hugging Face 文本生成模型

示例

• 所有示例

Vertex AI

• 推理

  • 使用 Vertex AI 上的 PyTorch 推理 DLC 部署 BERT 模型
  • 使用 Vertex AI 上的 TEI DLC 部署嵌入模型
  • 使用 Vertex AI 上的 PyTorch 推理 DLC 部署 FLUX
  • 使用 Vertex AI 上的 GCS TGI DLC 部署 Gemma 7B
  • 使用 Vertex AI 上的 TGI DLC 部署 Gemma 7B
  • 使用 Vertex AI 上的 TGI DLC 部署 Llama 3.2 11B Vision
  • 使用 Vertex AI 上的 TGI DLC 部署 Meta Llama 3.1 405B

• 训练

  • 使用 Vertex AI 上的 PyTorch 训练 DLC 和 SFT + LoRA 微调 Gemma 2B
  • 使用 Vertex AI 上的 PyTorch 训练 DLC 和 SFT 微调 Mistral 7B v0.3

• 评估

  • 使用 Vertex AI 和 Gemini 评估开放 LLM

GKE

• 推理

  • 在 GKE 上从 GCS 部署 BGE Base v1.5 与 TEI DLC
  • 在 GKE 上使用 TGI DLC 部署带有多个 LoRA 适配器的 Gemma2
  • 在 GKE 上使用 TGI DLC 部署 Llama 3.1 405B
  • 在 GKE 上使用 TGI DLC 部署 Llama 3.2 11B Vision
  • 在 GKE 上使用 TGI DLC 部署 Meta Llama 3 8B
  • 在 GKE 上从 GCS 部署带有 TGI DLC 的 Qwen2 7B
  • 在 GKE 上部署 Snowflake 的 Arctic Embed 和 TEI DLC

• 训练

  • 在 GKE 上使用 SFT 微调 Gemma 2B 以及 PyTorch 训练 DLC
  • 使用 SFT + LoRA 在 GKE 上通过 PyTorch 训练 DLC 微调 Mistral 7B v0.3

（预览）Cloud Run

• 推理

  • 在 Cloud Run 上使用 TGI DLC 部署 Gemma2 9B
  • 在 Cloud Run 上使用 TGI DLC 部署 Llama 3.1 8B

< > 在 GitHub 上更新