MớiCách chúng tôi bắt người bán gắn sai model, và hoàn tiền cho bạn nếu có.

Endpoint tùy chỉnh LibreChat cho MartLLM (librechat.yaml)

Thêm một endpoint tùy chỉnh tên MartLLM vào librechat.yaml với baseURL https://api.martllm.com/v1 và apiKey "${UBERLLM_API_KEY}", đặt khóa vào .env, và khởi động lại LibreChat. Bật models.fetch để lấy danh sách mô hình đầy đủ.

Các bước

  1. Tạo một khóa trên trang khóa của bạn và nạp tiền.
  2. Thêm khóa vào tệp .env trong thư mục của LibreChat:
UBERLLM_API_KEY=ull_your_key

Dùng tên này, không phải OPENAI_API_KEY, để endpoint OpenAI tích hợp không nhận diện nó.

  1. Thêm MartLLM vào librechat.yaml (cùng thư mục với .env):
version: 1.3.18
cache: true
endpoints:
  custom:
    - name: "MartLLM"
      apiKey: "${UBERLLM_API_KEY}"
      baseURL: "https://api.martllm.com/v1"
      models:
        default: ["deepseek/deepseek-v4.1-flash", "google/gemini-3.5-flash", "anthropic/claude-sonnet-5.5"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "MartLLM"

Nếu tệp của bạn đã có endpoints: custom:, chỉ thêm khối - name: "MartLLM" vào danh sách đó. Giữ dòng version của tệp bạn nếu nó mới hơn.

  1. Docker: đảm bảo tệp được mount. Trong docker-compose.override.yml:
services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml
  1. Khởi động lại: docker compose down && docker compose up -d (hoặc khởi động lại tiến trình npm).
  2. Chọn MartLLM trong menu endpoint và chọn một mô hình.

Chức năng của các trường

  • baseURL: LibreChat thêm /chat/completions vào đó, vì vậy hãy dừng lại ở /v1.
  • models.default: các mô hình luôn được hiển thị. fetch: true yêu cầu MartLLM cung cấp toàn bộ danh sách của nó ngoài những mô hình đó.
  • titleModel: "current_model": tiêu đề cuộc trò chuyện được viết bởi mô hình bạn đang trò chuyện. Thay vào đó, hãy đặt một ID rẻ tiền như deepseek/deepseek-v4.1-flash để giữ chi phí tiêu đề gần bằng không.
  • Bạn muốn mỗi người dùng tự mang theo khóa MartLLM của riêng họ? Đặt apiKey: "user_provided" và LibreChat sẽ yêu cầu họ cung cấp.

Khắc phục sự cố

  • MartLLM không xuất hiện trong menu: LibreChat không đọc được tệp. Kiểm tra xem nó có nằm cạnh .env (hoặc tại CONFIG_PATH), được mount trong Docker, và đọc docker compose logs api để tìm lỗi cấu hình. Một tệp bị lỗi sẽ ngăn LibreChat khởi động.
  • 401: ${UBERLLM_API_KEY} trống rỗng bên trong container. Kiểm tra dòng .env và khởi động lại.
  • Không tìm thấy model 404: id cần có tên nhà sản xuất ở phía trước, ví dụ deepseek/deepseek-v4.1-flash.
  • Không đủ credit 402: thêm credit trên trang credit.
  • Một model từ chối một cài đặt: hãy bỏ nó cho endpoint này bằng dropParams: ["stop"] (hoặc ["user"]).

Tiếp tục đọc

Các mô hình cho danh sách mặc định

Những cái này nằm trong models.default; khi bật fetch, mọi model khác cũng sẽ hiển thị.

ModelModel id (dán cái này)Giá hiện tại
DeepSeek V4.1 Flashdeepseek/deepseek-v4.1-flash$0.0075 input · $0.0282 output / 1M
Gemini 3.5 Flashgoogle/gemini-3.5-flash$0.0075 input · $0.0450 output / 1M
Claude Sonnet 5.5anthropic/claude-sonnet-5.5$0.3600 input · $1.80 output / 1M
GPT-5.5openai/gpt-5.5$1.25 input · $7.50 output / 1M
Kimi K3moonshotai/kimi-k3$0.0384 input · $0.2021 output / 1M
GLM 5.3z-ai/glm-5.3$0.0029 input · $0.0100 output / 1M
Gemma 3 27Bgoogle/gemma-3-27b-it$0.00079 input · $0.0020 output / 1M
Qwen3 VL 235B A22Bqwen/qwen3-vl-235b-a22b-instruct$0.0021 input · $0.0188 output / 1M

Giá ở lần dựng hằng giờ gần nhất, không cộng phí · mọi model →

Câu hỏi thường gặp

Làm cách nào để tôi thêm MartLLM vào LibreChat?

Thêm một endpoint tùy chỉnh vào librechat.yaml với tên "MartLLM", baseURL https://api.martllm.com/v1 và apiKey "${UBERLLM_API_KEY}", đặt khóa vào .env và khởi động lại. models.fetch: true sẽ liệt kê mọi model.

Mỗi người dùng LibreChat có thể sử dụng khóa MartLLM của riêng họ không?

Có. Đặt apiKey: "user_provided" trên endpoint MartLLM và LibreChat sẽ yêu cầu mỗi người dùng cung cấp key của họ.