NuevoCómo detectamos a un vendedor que ofrece el modelo equivocado, y te reembolsamos si pasa.
MartLLMantes UberLLM

Modelos y enrutamiento

MartLLM envía cada solicitud a un proveedor externo disponible para el modelo que solicitaste. Si el proveedor falla antes de empezar a responder, la solicitud se reintenta, y una solicitud que sigue fallando no se factura. Cada solicitud se factura lo que el proveedor cobró, sin añadir ninguna tarifa de MartLLM, y se lista con su costo en Dashboard → Activity. Tú eliges un modelo, no un proveedor.

IDs de modelo

Usa el ID de modelo del catálogo, por ejemplo deepseek/deepseek-v4-flash, anthropic/claude-sonnet-5 o z-ai/glm-5.3. Aquí tienes lo que puedes llamar ahora mismo:

  • GET https://api.martllm.com/v1/models: los modelos de chat a los que se puede enviar una solicitud ahora mismo, de modo que una herramienta que rellene su menú de modelos a partir de esta lista (SillyTavern, LibreChat, n8n, Cline) muestre solo los modelos con los que puede chatear. Añade ?type=video (o image, music, speech, transcription, audio para ambos, chat, varios unidos por comas) para otros tipos, o ?type=all para cada modelo, primero chat, luego imagen, vídeo, música, voz y transcripción. Cada entrada tiene type (chat, image, video, music, speech, transcription), endpoints (las rutas que lo sirven) y pricing.
  • Cada modelo de chat también indica lo que puede hacer: context_length, max_output_tokens, input_modalities (image = lee imágenes), supports_tools, supports_reasoning, supports_vision y supported_parameters (los campos de solicitud que acepta). Los mismos datos están también bajo los nombres de OpenRouter (architecture.input_modalities, top_provider.context_length, top_provider.max_completion_tokens, y pricing.prompt / pricing.completion en dólares por token), por lo que las herramientas creadas para la lista de OpenRouter leen la nuestra tal cual.
  • GET https://api.martllm.com/v1/models/<model id>: un modelo, con su precio, su contexto (chat) y, para un modelo multimedia, parameters: un JSON Schema del cuerpo de la solicitud (consulta Crear un vídeo o imagen).
  • Cada entrada, en ambas respuestas, también tiene:
    • available: true cuando una solicitud para él puede ser atendida ahora mismo. false significa que nadie lo está atendiendo en este momento, por lo que una solicitud sería rechazada con no_available_provider. Elige otro modelo o inténtalo de nuevo más tarde.
    • input_modalities: lo que el modelo acepta. Un modelo que necesita una imagen (imagen a vídeo, referencia a vídeo, edición de imágenes) lista "image" junto a "text"; uno que acepta un vídeo (upscaling) lista "video".
    • nsfw: true para un modelo creado para contenido adulto o sin filtrar (Lustify, los modelos "uncensored" y similares). Omite estos si tu producto debe permanecer seguro para el trabajo.
  • Público, sin clave: GET https://api.martllm.com/api/v1/public/models (con precios, y los mismos campos available, input_modalities y nsfw)
  • Web: martllm.com/#models, y una página por modelo en martllm.com/models/<model id>

Qué sucede en cada solicitud

  1. MartLLM verifica que el modelo exista, que tu prompt se ajuste a su ventana de contexto, y que admita herramientas si tu solicitud las utiliza.
  2. Reserva el costo estimado de tu saldo y reenvía la solicitud.
  3. La solicitud se envía a un proveedor disponible para ese modelo. Con el enrutamiento Balanced predeterminado, el proveedor se elige de nuevo para cada llamada: el más barato que empieza a responder lo suficientemente rápido para el tamaño de tu prompt (dentro de 6x del más rápido medido, o en menos de 1 segundo). Ese proveedor puede tener un precio superior al precio listado, y la llamada entonces cuesta lo que cobró. Un prompt largo en streaming también va a un segundo proveedor rápido cuando el primero tarda en empezar, y una llamada que no ha comenzado después de 5 segundos puede pasar a un proveedor más rápido; recibes y pagas por una sola respuesta. La configuración de enrutamiento de tu clave (abajo) o sort en la solicitud cambia esto. Cómo funciona: enrutamiento inteligente.
  4. Cuando la respuesta termina, MartLLM liquida al precio que el marketplace informa para esa llamada y libera el resto de la reserva.

Reintentos automáticos

Si una llamada falla antes de que te llegue cualquier contenido, MartLLM la reintenta por ti. El marketplace vuelve a emparejar un vendedor en cada intento, y no cobra nada por una llamada que falló antes de ser enrutada, por lo que un reintento solo te cuesta tiempo.

  • Reintentado: ningún vendedor para el modelo en este momento (no_sellers_for_model, no_healthy_sellers), el marketplace se quedó sin tiempo para enrutar (route_deadline_exceeded), un 429 pidiendo esperar 5 segundos o menos, cualquier 5xx, un error de conexión, un vendedor cuya propia API key o cuenta falló, o ningún primer byte a tiempo.
  • No reintentado: el modelo no existe, la solicitud es inválida, o un problema de billing o auth. Esos regresan de inmediato.
  • Programación: hasta 4 intentos, esperando 0.3 s, 0.9 s, luego 2.7 s entre ellos (o el Retry-After que envió el marketplace, si es 5 segundos o menos). Cuando nadie está vendiendo el modelo, la respuesta regresa en pocos segundos.
  • Esperando el primer byte: un stream obtiene 10 segundos (más para un prompt largo, y más para un modelo que suele ser lento); una respuesta sin "stream": true obtiene 85 segundos, porque nada llega hasta que está completa. Un intento que agota los 85 segundos completos no se espera una segunda vez. Ningún reintento comienza después de 150 segundos.

Una vez que el streaming ha comenzado, nada se reintenta: un fallo a mitad del stream termina el stream y solo se te factura por lo que se produjo.

Si cada intento falla, obtienes un error en lugar de una respuesta, y la reserva se libera por completo. Los más comunes:

HTTP code Cuándo
503 no_available_provider Nadie pudo servir ese modelo en este momento, incluso después de reintentos: ningún vendedor, cada vendedor fallando o demasiado lento para empezar, o tus provider opciones no dejaron nada a lo que enrutar. El mensaje nombra el modelo. Intenta de nuevo en breve o elige otro modelo.
503 service_unavailable Un problema temporal del lado de MartLLM. Reintenta en unos minutos.
404 model_not_found El ID del modelo no está disponible.

Ver Errores para la lista completa.

Modelos de respaldo

Envía models con una lista de otros model ids para probar, en orden, cuando el primero no pueda ser servido:

{ "model": "deepseek/deepseek-v4-flash",
  "models": ["z-ai/glm-5.3", "qwen/qwen3.7-plus"],
  "messages": [{ "role": "user", "content": "hi" }] }

El siguiente modelo se intenta solo cuando nadie puede servir el anterior en este momento (no_available_provider), o nadie lo vende dentro de tu provider.max_price. Un error de solicitud (un body incorrecto, un model id desconocido en cualquiera de los campos) y una denegación de pago (saldo, límites de API key) se responden de inmediato y nunca se pasan a la lista. Como máximo 5 modelos en model y models juntos. El campo model de la respuesta y la fila de Actividad nombran el modelo que respondió. models funciona en /v1/chat/completions y en solicitudes de imagen, video, música y voz; /v1/messages y /v1/audio/transcriptions no lo leen.

Alias de modelos

En lugar de un ID de modelo, puedes nombrar lo que necesitas, y MartLLM elige el modelo en cada solicitud:

  • best-price:<job>: el modelo disponible con el precio más bajo para una solicitud ordinaria. Un modelo de chat se compara por su precio por millón de tokens con la salida contada tres veces; un modelo de imagen por una imagen (una imagen de 1024×1024 cuando se valora por megapixel); un modelo de vídeo por su clip más corto; un modelo de música por una pista; un modelo de voz por 1K caracteres; un modelo de transcripción por un minuto.
  • fastest:<job>: el modelo con el tiempo medio más bajo en sus solicitudes exitosas en MartLLM en los últimos 7 días (tiempo hasta el primer token para chat, tiempo hasta el archivo finalizado para medios), contando solo modelos con al menos 5 solicitudes de este tipo. Cuando ningún modelo tiene suficientes, la solicitud es rechazada con 503 no_timing_data, y best-price: sigue funcionando.

Ambos eligen solo entre modelos que están disponibles ahora mismo: el mercado en vivo muestra un vendedor saludable para ello, y la última solicitud de MartLLM al mismo en los últimos 10 minutos no encontró a todos los vendedores ocupados o caídos (la misma regla que available en /v1/models). En una ruta de medios, cuando el modelo que un alias eligió responde que nadie puede tomar la solicitud después de todo, la misma solicitud pasa al siguiente modelo que representa el alias (hasta 3 modelos), y el model de la respuesta nombra al que respondió. Cuando no hay ningún modelo disponible para el trabajo, la respuesta es 503 no_available_provider y no se cobra nada.

<job> es uno de chat, image, image-edit, text-to-video, image-to-video, music, speech, transcription. Envía un alias de chat a /v1/chat/completions o /v1/messages, y uno de medios a su ruta de medios. El campo model de la respuesta nombra el modelo al que se resolvió. GET /v1/models/aliases lista cada alias que se resuelve ahora mismo y su modelo; GET /v1/models/best-price:chat describe el modelo que representa, con alias configurado.

Configuración de enrutamiento de tu clave

Cada API key tiene una configuración de enrutamiento, en Dashboard → API keys (crea una clave o edita una):

Configuración Qué hace
Equilibrado (predeterminado) Rápido y barato: el proveedor más económico que empieza lo suficientemente rápido, como se describe arriba. Un proveedor más rápido con un precio superior al listado puede responder, y la llamada cuesta lo que cobró.
Precio más bajo Siempre el proveedor con el precio más bajo para la solicitud. No se elige un proveedor más rápido y caro, no se compite con un segundo proveedor, y una llamada lenta no se mueve. Puede ser más lento.
Más rápido El proveedor que empieza a responder primero, cueste lo que cueste (lo mismo que "sort": "latency").
Nunca cobrar más del precio listado Activado o desactivado, con cualquiera de los tres. Una solicitud se envía solo a proveedores con un precio igual o inferior al precio listado del modelo cuando llegó la solicitud, y nunca se factura por encima de lo que cuestan sus tokens a ese precio. Si ningún proveedor vende a ese precio en este momento, la solicitud se rechaza con 400 max_price_exceeded y no cuesta nada.
Descuento mínimo 0–99%, con cualquiera de los anteriores (vacío o 0 = sin mínimo). Una solicitud de chat se envía solo a proveedores que venden al menos esa cantidad por debajo del precio oficial del modelo, tanto para la entrada como para la salida, y nunca se factura por encima de ese % de descuento sobre lo que cuestan sus tokens al precio oficial (el mismo precio oficial que usa el "% off" de Activity). Si ningún proveedor es tan barato en este momento, la solicitud se rechaza con 400 max_price_exceeded y no cuesta nada. Un modelo sin precio oficial se rechaza de la misma manera, porque el descuento no se puede medir.

Imágenes y video también siguen la configuración de la clave (desde 19 de noviembre de 2026). Muchos modelos de imagen y video tienen más de un vendedor, y un vendedor puede tener más de una forma de crear un modelo (uno más barato y lento, y uno más caro y rápido). Medimos cuánto tarda cada uno y contamos con qué frecuencia falla cada uno. El mercado de vendedores se clasifica en la misma lista que los vendedores directos, con su propio precio y velocidad.

  • El predeterminado (auto, cada clave que no ha elegido otro): el vendedor más barato que hace exactamente lo que pediste. Solo pasa por alto a un vendedor que sigue fallando, o a uno que es más del doble de lento que el más rápido que hemos cronometrado. Así, una clave que nunca cambió su configuración no paga más por una pequeña ganancia de velocidad.
  • Equilibrado (balanced): el vendedor más barato que es como máximo 20% más lento que el más rápido que hemos cronometrado. Un vendedor que aún no hemos cronometrado se considera lo suficientemente rápido. Elige esto cuando un resultado más rápido vale un precio más alto.
  • Precio más bajo (cheapest): siempre el vendedor más barato que hace exactamente lo que pediste, por lento que sea.
  • Más rápido (fastest): el vendedor que hemos cronometrado como el más rápido. Puede costar más que el vendedor más barato, pero nunca más que el precio listado del modelo para tu solicitud.

Un vendedor se cronometra una vez que ha terminado al menos 3 trabajos para el modelo en los últimos 7 días; mientras ninguno está cronometrado, cada configuración elige el más barato. Un vendedor que hizo menos de 7 en 10 de sus trabajos recientes (10 o más intentos) va después de los que funcionan bien en cada configuración, y el tiempo que comparamos es el tiempo que se espera que tarde un trabajo: un vendedor que pierde un trabajo de cada cinco cuenta como 25% más lento. El precio en una cotización ("validate": true) y el estimated_cost_usd de un trabajo son el precio del vendedor que elige la configuración de tu clave, y eso es lo que se factura el trabajo cuando el vendedor cobra lo que lista. Si ese vendedor no puede tomar el trabajo, lo hace el siguiente en el mismo orden.

La configuración se aplica cuando una solicitud no lo especifica. El propio provider.sort, :floor / :nitro, o provider.max_price de una solicitud prevalece sobre ella. provider.only: ["uberllm"] no es una clasificación, por lo que la configuración de la clave sigue aplicándose. El descuento mínimo es la excepción: siempre se aplica, y junto con el propio provider.max_price de una solicitud, prevalece el precio más estricto.

A través de la API del dashboard: routing (auto, balanced, cheapest o fastest; para texto, balanced es lo mismo que auto) y price_cap_listed (true/false) y min_discount_pct (número entero 0–99) en POST /api/v1/keys y PATCH /api/v1/keys/{id}; todos son devueltos por GET /api/v1/keys.

Opciones de enrutamiento

El objeto provider se lee en /v1/chat/completions. Una opción que MartLLM no puede aplicar es rechazada con 400 unsupported_routing_option y no se cobra nada, por lo que una solicitud nunca se ejecuta con una configuración descartada silenciosamente.

Opción Qué hace
only / allow Solo estas rutas o proveedores. uberllm (la ruta de marketplace de MartLLM) y seller (ofertas propias de los vendedores) eligen entre nuestras rutas. Cualquier otro nombre, como openai o api.venice.ai, es un proveedor en el marketplace: la solicitud entonces pasa por la ruta uberllm, que usa solo ofertas de esos proveedores.
ignore / deny Nunca estos. Nombres de ruta como los anteriores. Los nombres de proveedor (como máximo 32) son rechazados en el marketplace, y la solicitud entonces pasa por la ruta uberllm.
order Orden preferido. Los nombres de ruta ordenan nuestras rutas; los nombres de proveedor establecen el orden de intento del marketplace. Nunca hace que un proveedor sea elegible o inelegible.
sort price (el predeterminado), latency (el más rápido observado primero, dentro de una banda de precios) o uptime (el más fiable primero, dentro de la misma banda). throughput ordena solo nuestras propias rutas.
max_price Lo máximo que pagas por millón de tokens, en dólares estadounidenses: { "prompt": 1.0, "completion": 3.0 }. Las rutas con precios superiores se omiten; la ruta del marketplace se mantiene para los vendedores al menos tan por debajo del precio de lista del modelo como lo requiera tu límite. Si no queda nada, la solicitud es rechazada con 400 max_price_exceeded y no se cobra nada. Cuando configuras tanto prompt como completion, una solicitud nunca se factura por encima de ellos por los tokens que usó.
allow_fallbacks false desactiva los reintentos automáticos anteriores; el primer fallo se te devuelve.
data_collection Solo se acepta "allow" (el predeterminado).
zdr, require_parameters Solo se acepta false.

Los sufijos de modelo :floor y :nitro son aceptados y eliminados del ID del modelo; :floor ordena por precio y :nitro por throughput.

Para imagen, video, música y voz, cada solicitud se envía a un proveedor externo disponible para el modelo. provider.max_price es lo máximo que puede costar una unidad (imagen, segundo, megapixel, minuto, 1K caracteres o solicitud), como un número: { "max_price": 0.05 }; también limita la factura. Cualquier otra opción provider es rechazada para medios.

Etiquetas

Envía metadata, un objeto de hasta 16 valores de texto (claves de hasta 64 caracteres sin dos puntos, valores de hasta 512), en cualquier solicitud:

{ "model": "deepseek/deepseek-v4-flash", "messages": [...],
  "metadata": { "project": "spring-ads", "run": "42" } }

Las etiquetas se almacenan con la solicitud y nunca se envían a un proveedor. Aparecen en la solicitud en Panel de control → Actividad, en el estado de un trabajo de vídeo o música, y en la exportación CSV (columna metadata). Filtra Actividad por una etiqueta con GET /api/v1/usage/activity?tag=project:spring-ads (repite tag para requerir varias); el enlace CSV aplica el mismo filtro. En /v1/messages, el propio metadata ({"user_id": "…"}) de Anthropic se almacena de la misma manera.