Hugging Face 的徽标

聊天界面文档

谷歌

Hugging Face's logo
加入 Hugging Face 社区

并获得增强型文档体验

开始

谷歌

功能 可用
工具 否
多模态 否

聊天界面可以连接到谷歌 Vertex API 端点（支持的模型列表）。

启用

  1. 选择 或 创建 Google Cloud 项目。
  2. 为您的项目启用结算.
  3. 启用 Vertex AI API.
  4. 使用服务帐户设置身份验证，以便您可以从本地工作站访问 API。

服务帐户凭据文件可以作为环境变量导入

GOOGLE_APPLICATION_CREDENTIALS = clientid.json

确保您的 Docker 容器可以访问该文件，并且该变量已正确设置。之后，可以按如下方式配置 Google Vertex 端点

MODELS=`[
  {
    "name": "gemini-1.5-pro",
    "displayName": "Vertex Gemini Pro 1.5",
    "endpoints" : [{
      "type": "vertex",
      "project": "abc-xyz",
      "location": "europe-west3",
      "extraBody": {
         "model_version": "gemini-1.5-pro-002",
      },
      // Optional
      "safetyThreshold": "BLOCK_MEDIUM_AND_ABOVE",
      "apiEndpoint": "", // alternative api endpoint url,
      "tools": [{
        "googleSearchRetrieval": {
          "disableAttribution": true
        }
      }]
    }]
  }
]`

GenAI

或者使用 Gemini API API 提供商 来自

确保您拥有来自 Google Cloud Platform 的 API 密钥。要获取 API 密钥，请按照 此处 的说明操作。

您可以在 .env.local 中直接使用 GOOGLE_GENAI_API_KEY 变量指定它们，也可以直接在端点配置中设置它们。

您可以在 此处 找到可用的模型列表，以及在 此处 找到可用的实验性模型。

MODELS=`[
  {
    "name": "gemini-1.5-flash",
    "displayName": "Gemini Flash 1.5",
    "multimodal": true,
    "endpoints": [
      {
        "type": "genai",

        // Optional
        "apiKey": "abc...xyz"
        "safetyThreshold": "BLOCK_MEDIUM_AND_ABOVE",
      }
    ]
  },
  {
    "name": "gemini-1.5-pro",
    "displayName": "Gemini Pro 1.5",
    "multimodal": false,
    "endpoints": [
      {
        "type": "genai",

        // Optional
        "apiKey": "abc...xyz"
      }
    ]
  }
]`
< > 更新 在 GitHub 上

←Cohere Langserve→