Continue
Continue (trợ lý của VS Code / JetBrains) truy cập MartLLM thông qua nhà cung cấp openai của nó với apiBase tùy chỉnh. Hướng dẫn từng bước với các lựa chọn mô hình trực tiếp: Thiết lập Continue.
Nhanh nhất: một lệnh
npx uberllm init --tool continue
Điều này kết nối tài khoản của bạn trong trình duyệt, lưu khóa vào một tệp mà chỉ bạn mới có thể đọc và thêm hai mô hình MartLLM vào ~/.continue/config.yaml, với khóa trong ~/.continue/.env. Tệp được sao lưu trước, và npx uberllm init --undo đặt nó trở lại. Chi tiết: uberllm init. Các bước để thực hiện thủ công được trình bày bên dưới.
Thiết lập
Đặt khóa của bạn vào ~/.continue/.env (các tiện ích mở rộng của trình chỉnh sửa không đọc biến shell):
ULL_API_KEY=ull_xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx
Sau đó thêm một mô hình vào ~/.continue/config.yaml:
name: My Config
version: 1.0.0
schema: v1
models:
- name: DeepSeek V4.1 Flash (MartLLM)
provider: openai
model: deepseek/deepseek-v4.1-flash
apiBase: https://api.martllm.com/v1
apiKey: ${{ secrets.ULL_API_KEY }}
useResponsesApi: false
useLegacyCompletionsEndpoint: false
capabilities: [tool_use]
roles: [chat, edit, apply]
Các trường chính:
- provider:
openai(MartLLM tương thích với OpenAI API). - model: bất kỳ ID mô hình nào trong danh mục, ví dụ
deepseek/deepseek-v4.1-flash. - apiBase:
https://api.martllm.com/v1— ghi đè URL OpenAI mặc định. - apiKey: khóa
ull_của bạn, ở đây được đọc từ bí mật.env. - useResponsesApi: false: Nếu không, Continue sẽ gửi tên mô hình
gpt-5*vào*đến Responses API. MartLLM cũng phục vụ tuyến đó (Responses API), vì vậy dòng này chỉ giữ mọi mô hình trên chat completions, tuyến mà cấu hình này đã được kiểm tra. - useLegacyCompletionsEndpoint: false: nếu không, tính năng tự động hoàn thành sẽ gọi
/v1/completions, mà MartLLM không phục vụ (404).
Tải lại Continue và chọn mô hình từ menu thả xuống mô hình.
Nhiều mô hình và tự động hoàn thành
Thêm một mục nhập cho mỗi mô hình. Đối với tính năng tự động hoàn thành, hãy thêm một mô hình nhanh, rẻ với
roles: [autocomplete] và hai cài đặt false tương tự:
- name: Autocomplete (MartLLM)
provider: openai
model: qwen/qwen3-coder
apiBase: https://api.martllm.com/v1
apiKey: ${{ secrets.ULL_API_KEY }}
useResponsesApi: false
useLegacyCompletionsEndpoint: false
roles: [autocomplete]
Mỗi cuộc gọi được gửi đến một nhà cung cấp bên thứ ba có sẵn cho mô hình. Xem Mô hình & định tuyến.