Google

功能	可用
工具	否
多模态	否

Chat UI 可以连接到 Google Vertex API 端点 (支持的模型列表)。

启用

选择或创建 Google Cloud 项目。
为您的项目启用计费功能.
启用 Vertex AI API.
使用服务帐户设置身份验证，以便您可以从本地工作站访问 API。

服务帐户凭据文件可以作为环境变量导入

GOOGLE_APPLICATION_CREDENTIALS = clientid.json

确保您的 Docker 容器可以访问该文件且变量已正确设置。之后，可以按如下方式配置 Google Vertex 端点

MODELS=`[
  {
    "name": "gemini-1.5-pro",
    "displayName": "Vertex Gemini Pro 1.5",
    "endpoints" : [{
      "type": "vertex",
      "project": "abc-xyz",
      "location": "europe-west3",
      "extraBody": {
         "model_version": "gemini-1.5-pro-002",
      },
      // Optional
      "safetyThreshold": "BLOCK_MEDIUM_AND_ABOVE",
      "apiEndpoint": "", // alternative api endpoint url,
      "tools": [{
        "googleSearchRetrieval": {
          "disableAttribution": true
        }
      }]
    }]
  }
]`

GenAI

或使用来自 Gemini API 的 API 提供商 from

确保您拥有来自 Google Cloud Platform 的 API 密钥。要获取 API 密钥，请按照此处的说明进行操作。

您可以直接在 `.env.local` 中使用 GOOGLE_GENAI_API_KEY 变量指定它们，也可以直接在端点配置中设置它们。

您可以在此处找到可用模型列表，在此处此处找到实验模型列表。

MODELS=`[
  {
    "name": "gemini-1.5-flash",
    "displayName": "Gemini Flash 1.5",
    "multimodal": true,
    "endpoints": [
      {
        "type": "genai",

        // Optional
        "apiKey": "abc...xyz"
        "safetyThreshold": "BLOCK_MEDIUM_AND_ABOVE",
      }
    ]
  },
  {
    "name": "gemini-1.5-pro",
    "displayName": "Gemini Pro 1.5",
    "multimodal": false,
    "endpoints": [
      {
        "type": "genai",

        // Optional
        "apiKey": "abc...xyz"
      }
    ]
  }
]`

< > 在 GitHub 上更新