BaruCara kami menangkap penjual yang memasang model yang salah, dan mengembalikan dana Anda jika terjadi.

Open WebUI dengan MartLLM: setiap model dari satu koneksi

Di Open WebUI, buka Pengaturan › Admin › Koneksi, tambahkan koneksi OpenAI API dengan URL https://api.martllm.com/v1,, autentikasi Bearer dan kunci MartLLM Anda, biarkan API Type pada Chat Completions, verifikasi dan simpan. Untuk instalasi Docker baru, gunakan OPENAI_API_BASE_URL dan OPENAI_API_KEY sebagai gantinya.


Langkah-langkah (instalasi yang sudah ada)

  1. Buat kunci di halaman kunci Anda dan tambahkan kredit.
  2. Masuk ke Open WebUI sebagai admin dan buka Settings › Admin › Connections.
  3. Di bawah Manage OpenAI API Connections, klik + Add Connection.
  4. Isi:
    • Connection Type: Eksternal
    • URL: https://api.martllm.com/v1
    • Auth: Bearer
    • API Key: kunci ull_… Anda
    • API Type: Chat Completions
  5. Klik Verify Connection, lalu Save.
  6. Buka obrolan baru. Pemilih model sekarang mencantumkan model-model MartLLM.

Langkah-langkah (instalasi Docker baru)

docker run -d -p 3000:8080 \
  -e OPENAI_API_BASE_URL=https://api.martllm.com/v1 \
  -e OPENAI_API_KEY=ull_your_key \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

Variabel-variabel ini hanya berlaku untuk pertama kalinya Open WebUI dimulai. Setelah itu, nilai yang tersimpan di basis datanya akan berlaku, jadi pada instalasi yang sudah berjalan, gunakan layar di atas (atau mulai sekali dengan RESET_CONFIG_ON_START=true).

Untuk mempertahankan koneksi OpenAI Anda saat ini dan menambahkan MartLLM di sampingnya, gunakan variabel jamak dengan titik koma di antara entri:

-e OPENAI_API_BASE_URLS="https://api.openai.com/v1;https://api.martllm.com/v1" \
-e OPENAI_API_KEYS="sk-your-openai-key;ull_your_key"

Daftar model yang rapi

MartLLM memiliki ratusan model. Dua pengaturan di bawah Advanced dalam koneksi membuat daftar pilihan tetap singkat:

  • Model IDs: daftar hanya ID yang Anda inginkan, misalnya deepseek/deepseek-v4.1-flash dan google/gemini-3.5-flash. Open WebUI kemudian hanya menampilkan itu saja.
  • Prefix ID: sebuah kata seperti uberllm ditambahkan di depan setiap nama model (uberllm.deepseek/deepseek-v4.1-flash), sehingga Anda dapat membedakannya dari koneksi lain. Ini dihapus sebelum permintaan dikirim.

Pemecahan Masalah

  • Verifikasi gagal: pastikan URL berakhir dengan /v1 tanpa ada apa pun setelahnya, dan kunci tidak memiliki spasi.
  • Daftar model memuat lambat atau kosong: Open WebUI memberikan daftar 10 detik secara default. Tambahkan ID di bawah Model IDs agar tidak mengambil seluruh daftar, atau tingkatkan AIOHTTP_CLIENT_TIMEOUT_MODEL_LIST.
  • Mengubah variabel Docker dan tidak terjadi apa-apa: lihat catatan awal-pertama di atas.
  • 402 kredit tidak mencukupi: tambahkan kredit di halaman kredit.
  • Teks tiba dalam semburan di balik nginx Anda sendiri: matikan buffering proxy untuk Open WebUI.
  • Dokumen dan pencarian web: Open WebUI membuat embedding dengan model lokalnya sendiri secara default, yang memang Anda inginkan; MartLLM tidak menyediakan embedding.

Lanjutkan membaca

Model yang layak disematkan di Open WebUI

Model yang bagus untuk penggunaan sehari-hari. Tambahkan ID mereka di bawah Model IDs untuk hanya menampilkan ini.

ModelID model (tempel ini)Harga sekarang
DeepSeek V4.1 Flashdeepseek/deepseek-v4.1-flash$0.0075 input · $0.0282 output / 1M
Gemini 3.5 Flashgoogle/gemini-3.5-flash$0.0075 input · $0.0450 output / 1M
Claude Sonnet 5.5anthropic/claude-sonnet-5.5$0.3600 input · $1.80 output / 1M
GPT-5.5openai/gpt-5.5$1.25 input · $7.50 output / 1M
Kimi K3moonshotai/kimi-k3$0.0384 input · $0.2021 output / 1M
GLM 5.3z-ai/glm-5.3$0.0029 input · $0.0100 output / 1M
Gemma 3 27Bgoogle/gemma-3-27b-it$0.00079 input · $0.0020 output / 1M
Qwen3 VL 235B A22Bqwen/qwen3-vl-235b-a22b-instruct$0.0021 input · $0.0188 output / 1M

Harga pada build per jam terakhir, tanpa tambahan biaya · semua model →

FAQ

Bagaimana cara menambahkan MartLLM ke Open WebUI?

Pengaturan › Admin › Koneksi › + Tambah Koneksi: URL https://api.martllm.com/v1, Auth Bearer, kunci MartLLM Anda, Tipe API Chat Completions. Verifikasi, simpan, dan model-model akan muncul di pemilih.

Mengapa perubahan OPENAI_API_BASE_URL saya tidak diterapkan?

Open WebUI membaca variabel-variabel tersebut hanya pada saat pertama kali dijalankan dan kemudian mempertahankan nilai yang disimpan. Ubah koneksi di layar admin, atau mulai sekali dengan RESET_CONFIG_ON_START=true.

Bisakah Open WebUI menggunakan MartLLM untuk embeddings?

Tidak, MartLLM tidak menyediakan embeddings. Biarkan Open WebUI menggunakan model embedding lokal bawaannya untuk dokumen.