结合 MartLLM 的 Open WebUI:一个连接搞定所有模型
在 Open WebUI 中,前往 Settings › Admin › Connections,添加一个 OpenAI API 连接,URL 为 https://api.martllm.com/v1,,使用 Bearer auth 和您的 MartLLM key,将 API Type 保持为 Chat Completions,验证并保存。对于新的 Docker 安装,请改为传递 OPENAI_API_BASE_URL 和 OPENAI_API_KEY。
步骤 (现有安装)
- 在您的 keys page 上创建密钥并充值。
- 以管理员身份登录 Open WebUI 并前往 Settings › Admin › Connections。
- 在 Manage OpenAI API Connections 下,点击 + Add Connection。
- 填写:
- Connection Type: 外部
- URL:
https://api.martllm.com/v1 - Auth: Bearer
- API Key: 您的
ull_…密钥 - API Type: Chat Completions
- 点击 Verify Connection,然后 Save。
- 打开一个新聊天。模型选择器现在列出了 MartLLM 的模型。
步骤 (新 Docker 安装)
docker run -d -p 3000:8080 \
-e OPENAI_API_BASE_URL=https://api.martllm.com/v1 \
-e OPENAI_API_KEY=ull_your_key \
-v open-webui:/app/backend/data \
--name open-webui --restart always \
ghcr.io/open-webui/open-webui:main
这些变量仅在 Open WebUI 首次启动时生效。此后,其数据库中保存的值将优先,因此对于已经运行过的安装,请使用上方屏幕(或使用 RESET_CONFIG_ON_START=true 启动一次)。
要保留您当前的 OpenAI 连接并在其旁边添加 MartLLM,请使用复数变量,并在条目之间用分号分隔:
-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;https://api.martllm.com/v1" \
-e OPENAI_API_KEYS="sk-your-openai-key;ull_your_key"
整洁的模型列表
MartLLM 拥有数百种模型。连接中的高级设置下有两个选项,可以使选择器保持简洁:
- 模型 ID:只列出您想要的 ID,例如
deepseek/deepseek-v4.1-flash和google/gemini-3.5-flash。Open WebUI 随后将只显示这些 ID。 - 前缀 ID:一个像
uberllm这样的词会被添加到每个模型名称 (uberllm.deepseek/deepseek-v4.1-flash) 前面,这样您就可以将它们与其他连接区分开来。它会在请求发送前被移除。
故障排除
- 验证失败:检查 URL 是否以
/v1结尾,后面没有其他内容,并且 key 没有空格。 - 模型列表加载缓慢或为空:Open WebUI 默认给列表 10 秒时间。在 Model IDs 下添加 ID,这样它就不会再获取完整列表,或者提高
AIOHTTP_CLIENT_TIMEOUT_MODEL_LIST。 - 更改 Docker 变量后没有生效:请参阅上面的首次启动说明。
- 402 积分不足:在积分页面]添加积分。
- 文本在您自己的 nginx 后方以突发形式到达:关闭 Open WebUI 的代理缓冲。
- 文档和网络搜索:Open WebUI 默认使用其自己的本地模型生成 embeddings,这正是您想要的;MartLLM 不提供 embeddings 服务。