Endpoint tùy chỉnh LibreChat cho MartLLM (librechat.yaml)
Thêm một endpoint tùy chỉnh tên MartLLM vào librechat.yaml với baseURL https://api.martllm.com/v1 và apiKey "${UBERLLM_API_KEY}", đặt khóa vào .env, và khởi động lại LibreChat. Bật models.fetch để lấy danh sách mô hình đầy đủ.
Các bước
- Tạo một khóa trên trang khóa của bạn và nạp tiền.
- Thêm khóa vào tệp
.envtrong thư mục của LibreChat:
UBERLLM_API_KEY=ull_your_key
Dùng tên này, không phải OPENAI_API_KEY, để endpoint OpenAI tích hợp không nhận diện nó.
- Thêm MartLLM vào
librechat.yaml(cùng thư mục với.env):
version: 1.3.18
cache: true
endpoints:
custom:
- name: "MartLLM"
apiKey: "${UBERLLM_API_KEY}"
baseURL: "https://api.martllm.com/v1"
models:
default: ["deepseek/deepseek-v4.1-flash", "google/gemini-3.5-flash", "anthropic/claude-sonnet-5.5"]
fetch: true
titleConvo: true
titleModel: "current_model"
modelDisplayLabel: "MartLLM"
Nếu tệp của bạn đã có endpoints: custom:, chỉ thêm khối - name: "MartLLM" vào danh sách đó. Giữ dòng version của tệp bạn nếu nó mới hơn.
- Docker: đảm bảo tệp được mount. Trong
docker-compose.override.yml:
services:
api:
volumes:
- type: bind
source: ./librechat.yaml
target: /app/librechat.yaml
- Khởi động lại:
docker compose down && docker compose up -d(hoặc khởi động lại tiến trìnhnpm). - Chọn MartLLM trong menu endpoint và chọn một mô hình.
Chức năng của các trường
- baseURL: LibreChat thêm
/chat/completionsvào đó, vì vậy hãy dừng lại ở/v1. - models.default: các mô hình luôn được hiển thị. fetch: true yêu cầu MartLLM cung cấp toàn bộ danh sách của nó ngoài những mô hình đó.
- titleModel: "current_model": tiêu đề cuộc trò chuyện được viết bởi mô hình bạn đang trò chuyện. Thay vào đó, hãy đặt một ID rẻ tiền như
deepseek/deepseek-v4.1-flashđể giữ chi phí tiêu đề gần bằng không. - Bạn muốn mỗi người dùng tự mang theo khóa MartLLM của riêng họ? Đặt
apiKey: "user_provided"và LibreChat sẽ yêu cầu họ cung cấp.
Khắc phục sự cố
- MartLLM không xuất hiện trong menu: LibreChat không đọc được tệp. Kiểm tra xem nó có nằm cạnh
.env(hoặc tạiCONFIG_PATH), được mount trong Docker, và đọcdocker compose logs apiđể tìm lỗi cấu hình. Một tệp bị lỗi sẽ ngăn LibreChat khởi động. - 401:
${UBERLLM_API_KEY}trống rỗng bên trong container. Kiểm tra dòng.envvà khởi động lại. - Không tìm thấy model 404: id cần có tên nhà sản xuất ở phía trước, ví dụ
deepseek/deepseek-v4.1-flash. - Không đủ credit 402: thêm credit trên trang credit.
- Một model từ chối một cài đặt: hãy bỏ nó cho endpoint này bằng
dropParams: ["stop"](hoặc["user"]).
Tiếp tục đọc
- Trang tham khảo: Tài liệu LibreChat
- Thiết lập Open WebUI
- Một API key cho tất cả các LLM