Hugging Face 的 LOGO

Chat UI 文档

谷歌

Hugging Face's logo
加入 Hugging Face 社区

并获得增强的文档体验

开始使用

谷歌

特性 可用
工具 否
多模态 否

聊天界面可以连接到谷歌 Vertex API 端点 (支持的模型列表)。

要启用

  1. 选择或创建一个谷歌云项目。
  2. 为您的项目启用结算功能.
  3. 启用 Vertex AI API.
  4. 设置服务账户认证，以便您可以从本地工作站访问 API。

服务账户凭证文件可以作为环境变量导入

GOOGLE_APPLICATION_CREDENTIALS = clientid.json

确保您的 docker 容器可以访问该文件并且环境变量已正确设置。之后，可以按以下方式配置谷歌 Vertex 端点

MODELS=`[
  {
    "name": "gemini-1.5-pro",
    "displayName": "Vertex Gemini Pro 1.5",
    "endpoints" : [{
      "type": "vertex",
      "project": "abc-xyz",
      "location": "europe-west3",
      "extraBody": {
         "model_version": "gemini-1.5-pro-002",
      },
      // Optional
      "safetyThreshold": "BLOCK_MEDIUM_AND_ABOVE",
      "apiEndpoint": "", // alternative api endpoint url,
      "tools": [{
        "googleSearchRetrieval": {
          "disableAttribution": true
        }
      }]
    }]
  }
]`

GenAI

或者使用此处的 Gemini API API 提供商

确保您已从谷歌云平台获得 API 密钥。要获取 API 密钥，请按照此处的说明操作。

您可以直接在您的 .env.local 文件中使用 GOOGLE_GENAI_API_KEY 变量指定它们，也可以直接在端点配置中设置它们。

您可以在此处找到可用模型的列表，并在此处找到可用的实验模型。

MODELS=`[
  {
    "name": "gemini-1.5-flash",
    "displayName": "Gemini Flash 1.5",
    "multimodal": true,
    "endpoints": [
      {
        "type": "genai",

        // Optional
        "apiKey": "abc...xyz"
        "safetyThreshold": "BLOCK_MEDIUM_AND_ABOVE",
      }
    ]
  },
  {
    "name": "gemini-1.5-pro",
    "displayName": "Gemini Pro 1.5",
    "multimodal": false,
    "endpoints": [
      {
        "type": "genai",

        // Optional
        "apiKey": "abc...xyz"
      }
    ]
  }
]`
< > 在 GitHub 上更新

←Cohere Langserve→