Kilo Code với MartLLM: thêm một nhà cung cấp tùy chỉnh trong 1 phút
Trong Kilo Code, mở Cài đặt → Nhà cung cấp → Nhà cung cấp tùy chỉnh, đặt API Nhà cung cấp thành OpenAI Compatible, Base URL thành https://api.martllm.com/v1,, dán khóa MartLLM của bạn, nhấn Lấy mô hình, chọn những mô hình bạn muốn và Gửi. Cấu hình tương tự có thể nằm trong ~/.config/kilo/kilo.jsonc.
Phiên bản hiện tại của Kilo Code (7.x) chia sẻ một tệp cài đặt giữa VS Code, JetBrains và kilo CLI, nên bạn chỉ cần thiết lập MartLLM một lần. Các hướng dẫn cũ hiển thị một menu thả xuống (dropdown) nhà cung cấp với các trường thông tin mô hình mô tả tiện ích mở rộng cũ (legacy extension).
Nhanh nhất: một lệnh
npx uberllm init --tool kilo-code
Dành cho VS Code, JetBrains và kilo CLI cùng lúc: nó tạo một API key trong trình duyệt của bạn, thêm nhà cung cấp vào ~/.config/kilo/kilo.jsonc với giới hạn ngữ cảnh và đầu ra thực tế của từng mô hình, và thêm một dòng vào hồ sơ shell của bạn để tải API key đó. Tệp được sao lưu trước, và npx uberllm init --undo sẽ khôi phục lại. Những gì nó thay đổi. Để thực hiện thủ công, hãy làm theo các bước dưới đây.
Các bước (trong trình chỉnh sửa)
- Tạo khóa trên trang khóa của bạn và nạp tín dụng.
- Mở Kilo Code, nhấp vào biểu tượng bánh răng → tab Providers, cuộn xuống cuối và nhấp vào Custom provider.
- Điền vào:
- ID nhà cung cấp:
uberllm - Tên hiển thị:
MartLLM - API nhà cung cấp: Tương thích OpenAI
- Base URL:
https://api.martllm.com/v1 - API key: khóa
ull_…của bạn
- ID nhà cung cấp:
- Nhấn Fetch models. Danh sách này đến từ MartLLM; giữ lại những mô hình bạn muốn, ví dụ
moonshotai/kimi-k3. - Nhấp Submit, sau đó chọn mô hình trong bộ chọn mô hình của Kilo.
Các bước (tệp cấu hình)
Cùng một nhà cung cấp trong ~/.config/kilo/kilo.jsonc (Windows: C:\Users\<you>\.config\kilo\kilo.jsonc; đối với một dự án, .kilo/kilo.jsonc trong dự án):
{
"provider": {
"uberllm": {
"npm": "@ai-sdk/openai-compatible",
"name": "MartLLM",
"env": ["UBERLLM_API_KEY"],
"options": { "baseURL": "https://api.martllm.com/v1" },
"models": {
"moonshotai/kimi-k3": {
"name": "moonshotai/kimi-k3",
"tool_call": true,
"limit": { "context": 200000, "output": 32000 }
}
}
}
},
"model": "uberllm/moonshotai/kimi-k3"
}
Sau đó thiết lập UBERLLM_API_KEY=ull_your_key trong môi trường của bạn. Các số limit là một ví dụ: sao chép độ dài ngữ cảnh thực từ trang của mô hình trên martllm.com/models.
Hai cài đặt mọi người thường bỏ qua
limit: nếu thiếu nó, Kilo coi ngữ cảnh là 0 và không bao giờ nén một tác vụ dài, nên cuối cùng nó sẽ thất bại. Hộp thoại trình chỉnh sửa không thể đặt nó; hãy thêm nó vào tệp ("chỉnh sửa cài đặt nâng cao trong tệp cấu hình JSON").tool_call: true: Tác nhân của Kilo hoạt động thông qua các công cụ. Nếu mô hình trả lời bằng văn bản thuần túy thay vì chỉnh sửa tệp, thì đây là thứ còn thiếu.
Bạn thích định dạng Anthropic?
Kilo cũng cung cấp Provider API → Anthropic Messages. Với MartLLM, hãy dùng https://api.martllm.com/v1 làm Base URL ở đó nữa (không phải host trần), và cùng một key. Tìm nạp model không có sẵn ở chế độ đó, vì vậy hãy tự nhập các id.
Khắc phục sự cố
- "Xác thực thất bại. Vui lòng kiểm tra khóa API ở trên và thử lại." khi tìm nạp: khóa bị thiếu hoặc có khoảng trắng.
- Mô hình không có trong bộ chọn: khóa mô hình phải khớp với
uberllm/<model id>. Chạykilo modelsđể xem Kilo đã tải gì. - Agent không bao giờ chỉnh sửa tệp: thêm
"tool_call": truevào mô hình. - Tác vụ thất bại sau một phiên dài: đặt
limit.context. - 402 tín dụng không đủ: thêm tín dụng trên trang tín dụng.
Đọc thêm
- Trang tham khảo: Kilo Code doc
- OpenCode setup (Định dạng cấu hình của Kilo đến từ OpenCode)
- Cline setup