自定义服务

除了内置和本地服务外,Doco Translate 还允许您添加与常见 LLM API 格式兼容的自定义翻译服务。这适用于私有部署、代理端点、企业网关或未包含在默认列表中的模型提供商。

支持的 API 协议

Doco Translate 为自定义服务支持以下 API 协议:

协议默认路径描述
OpenAI/v1/chat/completions与 OpenAI Chat Completions API 兼容。适用于大多数提供商和自托管服务器。
Anthropic/v1/messages与 Anthropic Messages API 兼容。
Gemini/v1beta/models与 Google Gemini API 兼容。
Ollama/api/chat与 Ollama 的本地 API 格式兼容。
LM Studio/api/v1/chat与 LM Studio 的本地服务器 API 兼容。

OpenAI 协议是最广泛兼容的——许多第三方提供商和自托管服务器都实现了 OpenAI Chat Completions API 格式。

添加自定义服务

第一步:打开自定义服务对话框

  1. 前往设置 → 服务
  2. 滚动到左侧服务列表底部。
  3. 点击自定义服务

第二步:配置服务

  1. 服务名称 — 输入描述性名称(例如"我的代理"、"公司 LLM")。名称必须唯一。
  2. API 协议 — 选择您的服务实现的 API 协议。
  3. 点击添加以创建服务。

第三步:配置连接详情

创建服务后,您将进入其设置页面:

  1. API 密钥 — 如果您的服务需要身份验证,输入 API 密钥。对于不需要密钥的服务,留空。
  2. API 主机 — 输入您服务的基础 URL(例如 https://my-proxy.example.comhttp://192.168.1.100:8080)。
  3. 模型 — 输入或选择用于翻译的模型名称。
  4. 点击验证服务测试连接。

第四步:高级配置

点击 API 主机字段旁边的齿轮图标访问高级设置:

  • API 路径 — 如果请求路径与协议默认值不同,可自定义(例如 /v1/chat/completions)。
  • 请求体 — 添加合并到每个翻译请求中的自定义 JSON 字段。例如,{"temperature": 0.3} 控制翻译创造性。
  • 请求头 — 添加自定义 HTTP 头。例如,{"X-Custom-Header": "value"} 用于身份验证或路由。

注意: 请求体和请求头必须是有效的 JSON 格式。

编辑自定义服务

  1. 前往设置 → 服务
  2. 从列表中选择自定义服务。
  3. 点击服务名称旁边的齿轮图标
  4. 根据需要修改名称或协议。
  5. 点击保存

删除自定义服务

  1. 前往设置 → 服务
  2. 从列表中选择自定义服务。
  3. 点击设置页面底部的删除服务
  4. 确认删除。

警告: 删除自定义服务会永久移除其配置。所有 API 密钥和模型设置将丢失。

获取模型

自定义服务支持从远程服务器获取模型列表:

  1. 在服务设置中,点击获取模型列表
  2. 应用连接到您的服务并检索可用模型。
  3. 选择您想添加的模型并点击添加

注意: 并非所有服务都支持模型列表端点。如果获取失败,您可以手动添加模型。

手动添加模型

您可以在不获取的情况下向自定义服务添加模型:

  1. 在服务设置中点击添加模型
  2. 输入您的服务期望的确切模型标识符。
  3. 可选地标记为免费模型。
  4. 点击添加

常见用例

私有 API 代理

如果您有将请求路由到云提供商的代理服务器:

  1. 使用 OpenAI 协议创建自定义服务。
  2. 将 API 主机设置为您的代理 URL。
  3. 输入代理所需的 API 密钥。
  4. 添加代理支持的模型。

自托管模型

如果您使用 vLLM、text-generation-webui、llama.cpp server 或类似工具在自己的服务器上运行模型:

  1. 使用 OpenAI 协议创建自定义服务。
  2. 将 API 主机设置为服务器地址(例如 http://localhost:8000)。
  3. 添加服务器暴露的模型名称。

企业网关

对于拥有集中式 LLM 网关的企业环境:

  1. 使用适当的协议创建自定义服务。
  2. 将 API 主机设置为企业网关 URL。
  3. 在高级设置中输入企业 API 密钥或身份验证头。

上一步: 本地 LLM 服务 · 下一步: FAQ