自定义服务
除了内置和本地服务外,Doco Translate 还允许您添加与常见 LLM API 格式兼容的自定义翻译服务。这适用于私有部署、代理端点、企业网关或未包含在默认列表中的模型提供商。
支持的 API 协议
Doco Translate 为自定义服务支持以下 API 协议:
| 协议 | 默认路径 | 描述 |
|---|---|---|
| OpenAI | /v1/chat/completions | 与 OpenAI Chat Completions API 兼容。适用于大多数提供商和自托管服务器。 |
| Anthropic | /v1/messages | 与 Anthropic Messages API 兼容。 |
| Gemini | /v1beta/models | 与 Google Gemini API 兼容。 |
| Ollama | /api/chat | 与 Ollama 的本地 API 格式兼容。 |
| LM Studio | /api/v1/chat | 与 LM Studio 的本地服务器 API 兼容。 |
OpenAI 协议是最广泛兼容的——许多第三方提供商和自托管服务器都实现了 OpenAI Chat Completions API 格式。
添加自定义服务
第一步:打开自定义服务对话框
- 前往设置 → 服务。
- 滚动到左侧服务列表底部。
- 点击自定义服务。
第二步:配置服务
- 服务名称 — 输入描述性名称(例如"我的代理"、"公司 LLM")。名称必须唯一。
- API 协议 — 选择您的服务实现的 API 协议。
- 点击添加以创建服务。
第三步:配置连接详情
创建服务后,您将进入其设置页面:
- API 密钥 — 如果您的服务需要身份验证,输入 API 密钥。对于不需要密钥的服务,留空。
- API 主机 — 输入您服务的基础 URL(例如
https://my-proxy.example.com、http://192.168.1.100:8080)。 - 模型 — 输入或选择用于翻译的模型名称。
- 点击验证服务测试连接。
第四步:高级配置
点击 API 主机字段旁边的齿轮图标访问高级设置:
- API 路径 — 如果请求路径与协议默认值不同,可自定义(例如
/v1/chat/completions)。 - 请求体 — 添加合并到每个翻译请求中的自定义 JSON 字段。例如,
{"temperature": 0.3}控制翻译创造性。 - 请求头 — 添加自定义 HTTP 头。例如,
{"X-Custom-Header": "value"}用于身份验证或路由。
注意: 请求体和请求头必须是有效的 JSON 格式。
编辑自定义服务
- 前往设置 → 服务。
- 从列表中选择自定义服务。
- 点击服务名称旁边的齿轮图标。
- 根据需要修改名称或协议。
- 点击保存。
删除自定义服务
- 前往设置 → 服务。
- 从列表中选择自定义服务。
- 点击设置页面底部的删除服务。
- 确认删除。
警告: 删除自定义服务会永久移除其配置。所有 API 密钥和模型设置将丢失。
获取模型
自定义服务支持从远程服务器获取模型列表:
- 在服务设置中,点击获取模型列表。
- 应用连接到您的服务并检索可用模型。
- 选择您想添加的模型并点击添加。
注意: 并非所有服务都支持模型列表端点。如果获取失败,您可以手动添加模型。
手动添加模型
您可以在不获取的情况下向自定义服务添加模型:
- 在服务设置中点击添加模型。
- 输入您的服务期望的确切模型标识符。
- 可选地标记为免费模型。
- 点击添加。
常见用例
私有 API 代理
如果您有将请求路由到云提供商的代理服务器:
- 使用 OpenAI 协议创建自定义服务。
- 将 API 主机设置为您的代理 URL。
- 输入代理所需的 API 密钥。
- 添加代理支持的模型。
自托管模型
如果您使用 vLLM、text-generation-webui、llama.cpp server 或类似工具在自己的服务器上运行模型:
- 使用 OpenAI 协议创建自定义服务。
- 将 API 主机设置为服务器地址(例如
http://localhost:8000)。 - 添加服务器暴露的模型名称。
企业网关
对于拥有集中式 LLM 网关的企业环境:
- 使用适当的协议创建自定义服务。
- 将 API 主机设置为企业网关 URL。
- 在高级设置中输入企业 API 密钥或身份验证头。
