Google Cloud 上可用的 DLC
您可以在下面找到 Google Cloud 上所有可用深度学习容器 (DLC) 的列表。
以下列表仅包含每个 Hugging Face DLC 的最新版本，可以在 Google Cloud 深度学习容器文档、Google Cloud Artifact Registry 或通过 gcloud container images list --repository="us-docker.pkg.dev/deeplearning-platform-release/gcr.io" | grep "huggingface-" 命令中找到 Google Cloud 中所有可用已发布容器的完整列表。
文本生成推理 (TGI)
| 容器 URI | 路径 | 加速器 |
|---|---|---|
| us-docker.pkg.dev/deeplearning-platform-release/gcr.io/huggingface-text-generation-inference-cu124.2-3.ubuntu2204.py311 | text-generation-inference-gpu.2.3.1 | GPU |
文本嵌入推理 (TEI)
| 容器 URI | 路径 | 加速器 |
|---|---|---|
| us-docker.pkg.dev/deeplearning-platform-release/gcr.io/huggingface-text-embeddings-inference-cu122.1-4.ubuntu2204 | text-embeddings-inference-gpu.1.4.0 | GPU |
| us-docker.pkg.dev/deeplearning-platform-release/gcr.io/huggingface-text-embeddings-inference-cpu.1-4 | text-embeddings-inference-cpu.1.4.0 | CPU |
PyTorch 推理
| 容器 URI | 路径 | 加速器 |
|---|---|---|
| us-docker.pkg.dev/deeplearning-platform-release/gcr.io/huggingface-pytorch-inference-cu121.2-2.transformers.4-44.ubuntu2204.py311 | huggingface-pytorch-inference-gpu.2.2.2.transformers.4.44.0.py311 | GPU |
| us-docker.pkg.dev/deeplearning-platform-release/gcr.io/huggingface-pytorch-inference-cpu.2-2.transformers.4-44.ubuntu2204.py311 | huggingface-pytorch-inference-cpu.2.2.2.transformers.4.44.0.py311 | CPU |
PyTorch 训练
| 容器 URI | 路径 | 加速器 |
|---|---|---|
| us-docker.pkg.dev/deeplearning-platform-release/gcr.io/huggingface-pytorch-training-cu121.2-3.transformers.4-42.ubuntu2204.py310 | huggingface-pytorch-training-gpu.2.3.0.transformers.4.42.3.py310 | GPU |