Schnellstart
MartLLM ist ein API endpoint für jedes Modell in seinem Katalog. Es akzeptiert die OpenAI und Anthropic wire formats, sodass die meisten Tools und SDKs funktionieren, nachdem Sie die base URL und einen MartLLM API key festgelegt haben.
- OpenAI-kompatible base URL:
https://api.martllm.com/v1 - Anthropic-kompatible base URL:
https://api.martllm.com(endpoint/v1/messages)
1. Holen Sie sich Ihren API key
- Melden Sie sich unter martllm.com an. Ihr erster key wird für Sie erstellt und oben im Dashboard angezeigt, zusammen mit einem ersten Aufruf, den Sie einfügen können.
- Kopieren Sie den key: Er wird angezeigt, bis Sie auf Ich habe ihn kopiert klicken, danach nie
wieder. Keys sehen aus wie
ull_, gefolgt von 43 Zeichen (ull_R7f2...). Speichern Sie ihn in einer environment variable, niemals in der source control. - Benötigen Sie einen weiteren key, oder haben Sie diesen verloren? Öffnen Sie Dashboard → API keys, klicken Sie auf Create key, und legen Sie (optional) ein spend limit oder ein per-minute rate limit fest.
export UBERLLM_API_KEY="ull_xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx"
2. Guthaben hinzufügen
Inferenz ist im Voraus bezahlt und neue Konten starten bei $0. Öffnen Sie Dashboard → Guthaben und laden Sie Ihr Guthaben per Karte oder PayPal auf (mindestens $5). Jeder Aufruf wird an einen verfügbaren Drittanbieter gesendet und es wird abgerechnet, was dieser Anbieter berechnet hat. MartLLM erhebt keine Gebühr für Aufrufe. Eine Kartengebühr von 5.5% + $0.50 wird hinzugefügt, wenn Sie bezahlen; Ihr Guthaben ist der genaue Betrag, den Sie auswählen. Siehe Preise.
3. Machen Sie Ihren ersten Aufruf
Richten Sie einen beliebigen OpenAI-kompatiblen Client auf https://api.martllm.com/v1 mit Ihrem
ull_ Schlüssel als API-Schlüssel.
curl (streaming)
curl -N https://api.martllm.com/v1/chat/completions \
-H "Authorization: Bearer $UBERLLM_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek/deepseek-v4-flash",
"stream": true,
"messages": [{"role": "user", "content": "Say hello in one sentence."}]
}'
Python (offizielles openai SDK)
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.martllm.com/v1",
api_key=os.environ["UBERLLM_API_KEY"],
)
stream = client.chat.completions.create(
model="deepseek/deepseek-v4-flash",
messages=[{"role": "user", "content": "Say hello in one sentence."}],
stream=True,
)
for chunk in stream:
print(chunk.choices[0].delta.content or "", end="", flush=True)
TypeScript (offizielles openai SDK)
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.martllm.com/v1",
apiKey: process.env.UBERLLM_API_KEY,
});
const stream = await client.chat.completions.create({
model: "deepseek/deepseek-v4-flash",
messages: [{ role: "user", content: "Say hello in one sentence." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}
4. Bestätigen Sie den Erfolg
Öffnen Sie Dashboard → Activity. Sie sehen die Anfrage protokolliert mit dem Modell, dem Anbieter, an den sie weitergeleitet wurde, der Token-Anzahl, der Latenz und den genauen Kosten, die von Ihrem Guthaben abgezogen wurden.
Nächste Schritte
- OpenAI SDK drop-in — vollständige Anleitung inklusive Non-Streaming, Tools.
- Anthropic SDK — nutze
client.messagesgegen/v1/messages. - Models & routing — Modell-IDs, automatische Wiederholungsversuche und Routing-Optionen.
- Editor-Integrationen: Cursor, Cline, Roo Code, Aider, Continue.
- Frameworks: LangChain, Vercel AI SDK.