SillyTavern với một API rẻ hơn: kết nối MartLLM trong một phút
Trong SillyTavern, mở API Connections (biểu tượng phích cắm), chọn Chat Completion, đặt Chat Completion Source thành Custom (tương thích OpenAI), nhập https://api.martllm.com/v1 làm base URL và khóa MartLLM của bạn, nhập một model id, và nhấn Connect.
Các bước
- Tạo một khóa trên trang khóa của bạn và thêm tín dụng (vài đô la có thể dùng được rất lâu với các mô hình bên dưới).
- Trong SillyTavern, nhấp vào biểu tượng phích cắm ở trên cùng (chú giải công cụ của nó hiển thị API Connections).
- Đặt API thành Chat Completion.
- Đặt Chat Completion Source thành Custom (OpenAI-compatible).
- Điền vào:
- Custom Endpoint (Base URL):
https://api.martllm.com/v1 - Custom API Key: khóa
ull_…của bạn - Enter a Model ID:
deepseek/deepseek-v4.1-flash-uncensored
- Custom Endpoint (Base URL):
- Nhấn Connect. Đèn sẽ chuyển sang màu xanh và danh sách Available Models sẽ được điền đầy, để bạn có thể chuyển đổi mô hình từ đó sau.
- Tùy chọn: nhấn Test Message để kiểm tra. Đây là một yêu cầu thực tế, vì vậy nó tốn một phần nhỏ của một xu.
Không thêm /chat/completions vào URL. SillyTavern sẽ tự động thêm nó cho bạn; gợi ý của trường đó cũng nói như vậy.
Các cài đặt quan trọng cho nhập vai
- Prompt Post-Processing: để ở None. Các tùy chọn "no tools" tắt chức năng gọi công cụ, và các tùy chọn "merge" chỉ cần thiết cho các mô hình từ chối hai tin nhắn liên tiếp từ cùng một vai trò.
- Streaming: bật. Mọi mô hình ở đây đều hỗ trợ streaming, nên văn bản xuất hiện ngay khi được tạo.
- Context size: đặt theo khả năng xử lý của mô hình, hoặc giảm xuống để tiết kiệm chi phí. Trang của mỗi mô hình trên martllm.com/models liệt kê độ dài context của nó. Bạn trả tiền cho toàn bộ prompt trong mỗi lần phản hồi, vì vậy một context 32k trong một cuộc trò chuyện dài tốn khoảng 4 lần so với một context 8k.
- Max response length: 300 đến 600 tokens phù hợp với hầu hết các trường hợp nhập vai. Output tokens tốn kém hơn input trên hầu hết mọi mô hình.
Tại sao nó rẻ hơn
Cùng một mô hình được bán bởi nhiều nhà cung cấp với các mức giá khác nhau. MartLLM gửi mỗi phản hồi đến nhà cung cấp rẻ nhất đang hoạt động ngay lúc này và không tính thêm phí cho mỗi yêu cầu. Bảng dưới đây hiển thị giá của nhà cung cấp tốt nhất tại lần cập nhật hàng giờ gần nhất. Nhà cung cấp rẻ nhất không phải lúc nào cũng miễn phí, vì vậy một phản hồi có thể tốn kém hơn.
Khắc phục sự cố
- Trạng thái vẫn màu đỏ, hoặc danh sách mô hình trống: khóa bị sai hoặc có khoảng trắng ở cuối. Dán lại và nhấn Connect. Bạn vẫn có thể nhập ID mô hình thủ công; SillyTavern cho phép một custom endpoint bỏ qua kiểm tra trạng thái.
- "Status check bypassed" nhưng không có phản hồi: base URL bị sai. Nó phải chính xác là
https://api.martllm.com/v1. - 402 / "insufficient credits": thêm credit trên trang credit.
- 404 model not found: sao chép ID từ bảng bên dưới, bao gồm cả phần trước dấu gạch chéo (
deepseek/…,z-ai/…). - Phản hồi bị cắt cụt giữa chừng: tăng Max response length.
- Mô hình từ chối một cảnh: chuyển sang một trong các mô hình không kiểm duyệt trong bảng đầu tiên. Các mô hình chính thống (Claude, GPT, Gemini) tuân thủ quy tắc của nhà sản xuất.
Đọc thêm
- Trang tham khảo: tài liệu SillyTavern doc
- thiết lập Janitor AI (cùng một key hoạt động ở đó) · tài liệu RisuAI
- Tất cả các mô hình không kiểm duyệt và nhập vai kèm giá
- Cách MartLLM chọn nhà cung cấp rẻ nhất