SillyTavern dengan API yang lebih murah: hubungkan MartLLM dalam satu menit
Di SillyTavern, buka Koneksi API (ikon colokan), pilih Chat Completion, atur Sumber Chat Completion ke Kustom (kompatibel OpenAI), masukkan https://api.martllm.com/v1 sebagai base URL dan kunci MartLLM Anda, ketik ID model, dan tekan Hubungkan.
Langkah-langkah
- Buat kunci di halaman kunci Anda dan tambahkan kredit (beberapa dolar sudah cukup untuk waktu yang lama pada model-model di bawah ini).
- Di SillyTavern, klik ikon steker di bagian atas (tooltip-nya bertuliskan API Connections).
- Atur API ke Chat Completion.
- Atur Chat Completion Source ke Custom (OpenAI-compatible).
- Isi:
- Custom Endpoint (Base URL):
https://api.martllm.com/v1 - Custom API Key: kunci
ull_…Anda - Enter a Model ID:
deepseek/deepseek-v4.1-flash-uncensored
- Custom Endpoint (Base URL):
- Tekan Connect. Lampu akan berubah hijau dan daftar Available Models akan terisi, sehingga Anda bisa mengganti model dari sana nanti.
- Opsional: tekan Test Message untuk memeriksa. Ini adalah permintaan nyata, jadi biayanya hanya sebagian kecil dari satu sen.
Jangan tambahkan /chat/completions ke URL. SillyTavern menambahkannya untuk Anda; petunjuk di kolom tersebut juga menyatakan demikian.
Pengaturan yang Penting untuk Roleplay
- Prompt Post-Processing: biarkan pada None. Opsi "no tools" mematikan tool calling, dan opsi "merge" hanya diperlukan untuk model yang menolak dua pesan berturut-turut dari peran yang sama.
- Streaming: aktif. Setiap model di sini melakukan streaming, jadi teks muncul saat ditulis.
- Context size: atur sesuai kemampuan model, atau turunkan untuk menghemat uang. Halaman setiap model di martllm.com/models mencantumkan panjang context-nya. Anda membayar untuk seluruh prompt pada setiap balasan, jadi context 32k pada obrolan panjang berharga sekitar 4 kali lipat dari context 8k.
- Panjang respons maksimal: 300 hingga 600 tokens cocok untuk sebagian besar roleplay. Output tokens berharga lebih mahal daripada input pada hampir setiap model.
Mengapa Lebih Murah
Model yang sama dijual oleh beberapa penyedia dengan harga berbeda. MartLLM mengirimkan setiap balasan ke penyedia termurah yang sedang aktif saat ini dan tidak menambahkan biaya per permintaan. Tabel di bawah menunjukkan harga penjual terbaik pada pembaruan per jam terakhir. Penjual termurah tidak selalu gratis, jadi sebuah balasan bisa berbiaya lebih mahal.
Pemecahan Masalah
- Status tetap merah, atau daftar model kosong: API key salah atau ada spasi di akhir. Tempel lagi dan tekan Connect. Anda masih bisa mengetik ID model secara manual; SillyTavern memungkinkan endpoint kustom melewati pemeriksaan status.
- "Pemeriksaan status dilewati" tapi tidak ada balasan: base URL salah. Harus persis
https://api.martllm.com/v1. - 402 / "kredit tidak cukup": tambahkan kredit di halaman kredit.
- 404 model tidak ditemukan: salin ID dari tabel di bawah, termasuk bagian sebelum garis miring (
deepseek/…,z-ai/…). - Balasan terpotong di tengah kalimat: naikkan Max response length.
- Model menolak sebuah adegan: beralih ke salah satu model tanpa sensor di tabel pertama. Model-model mainstream (Claude, GPT, Gemini) mengikuti aturan pembuatnya.
Lanjutkan membaca
- Halaman referensi: Dokumen SillyTavern
- Pengaturan Janitor AI (kunci yang sama berfungsi di sana) · Dokumen RisuAI
- Semua model tanpa sensor dan roleplay dengan harga
- Bagaimana MartLLM memilih penyedia termurah