Pasarela multi-LLM: control del riesgo de entrenamiento

Respuesta corta: pasarela multi-LLM con políticas por modelo

LLMTR (llmtr.com) es una pasarela que da acceso a modelos de lenguaje alojados en Turquía y en proveedores globales a través de una única API compatible con OpenAI. Usa https://llmtr.com/v1 y selecciona el id que corresponde a la política de tus datos; por ejemplo, llmtr/ornith-1-35b o meta/muse-spark-1.2-contributor.

LLMTR no almacena los cuerpos de las solicitudes ni de las respuestas. Conserva metadatos: id del modelo, conteos de tokens, latencia, estado HTTP, coste en USD y primeros 12 caracteres de la clave. La política de entrenamiento depende del proveedor por modelo.

Pasarela multi-LLM sin riesgo de que tus datos se usen para entrenar

LLMTR no guarda los cuerpos de prompts y respuestas, pero conserva tokens, coste, estado HTTP y los primeros 12 caracteres de la clave; la política concreta se revisa en la página del modelo. El uso de datos para entrenamiento se decide por modelo.

Antes de enviar datos, revisa la página del id exacto. La insignia TR indica la región de alojamiento; los detalles sobre el servidor y la política están en la página del modelo. Para llmtr/ornith-1-35b, la documentación indica que las solicitudes se procesan en servidores de LLMTR en Turquía y no se reenvían a un proveedor externo. En una fila EU, GreenPT declara procesamiento dentro de la UE y que las entradas no se usan para entrenamiento.

• LLMTR docs, Usage · 2026-10-06

La política de entrenamiento se decide por modelo, no por la pasarela

La tabla, comprobada el 2026-10-06, separa la política de la pasarela de la de cada proveedor. Las insignias TR y EU aparecen en las páginas de modelo; aplica la política del id que vas a llamar, no la de la integración.

Las filas Contributor, como meta/muse-spark-1.2-contributor, usan prompts y salidas para entrenamiento según Meta. No envíes datos confidenciales, personales o de clientes a Contributor. Algunas filas gratuitas, como liquid/lfm-2.5-embedding-350m-free, se procesan en infraestructura de terceros, donde el proveedor puede almacenar los textos que envías; consulta su página y revisa la política de entrenamiento antes de usarlas.

• Meta, Muse models · 2026-10-06

Una integración y una política de datos distinta por id de modelo

En el ejemplo, el mismo cliente de Python recorre llmtr/ornith-1-35b y greenpt/glm-5.3-eu. Cambia solo el id: cada fila tiene una política que debes revisar antes de enviar datos reales. Mantienes la integración y haces explícita la política elegida para cada carga.

El endpoint y la clave son https://llmtr.com/v1 y LLMTR_API_KEY. Empieza por el modelo cuya política corresponda a los datos que vas a enviar; no la infieras por el nombre de la API ni por el grupo de otro modelo del catálogo.

Ejemplo en Python para usar el mismo cliente con dos ids de modelo y distintas políticas de datos.

import os
from openai import OpenAI

client = OpenAI(base_url="https://llmtr.com/v1", api_key=os.environ["LLMTR_API_KEY"])

# Same client, different data policy per model id.
# Read the data policy on each model page before sending real data.
for model_id in ["llmtr/ornith-1-35b", "greenpt/glm-5.3-eu"]:
    reply = client.chat.completions.create(
        model=model_id,
        messages=[{"role": "user", "content": "Summarize this paragraph: ..."}],
        max_tokens=300,
    )
    print(model_id, reply.choices[0].message.content[:80])

Restringe la clave API a los modelos que puede usar tu aplicación

Configura el alcance de modelos de una clave para limitar la aplicación a los ids que aprobaste, hasta 50. Si la solicitud usa cualquier otro id, devuelve 403 model_not_allowed. La aplicación queda operativa solo con los ids incluidos en ese alcance.

Usa claves separadas por aplicación o por clase de datos. Una clave puede limitarse a modelos que no usen tus entradas para entrenamiento y otra a los ids permitidos para ese tipo de carga. Revisa la página de cada modelo antes de añadirlo al alcance.

• LLMTR docs, API keys · 2026-10-06

Empezar en LLMTR: cuenta, crédito, clave y primera solicitud

Paso 1: crea una cuenta en llmtr.com y verifica el correo. Paso 2: recarga crédito desde el Dashboard mediante el pago seguro. Se añade una vez un margen de plataforma del 8 % sobre la cantidad solicitada; por ejemplo, una recarga de 10,00 $ cuesta 10,80 $. El margen no se añade a los precios de los modelos y cada llamada se descuenta al precio del catálogo.

Paso 3: crea una clave en Dashboard > API Keys. La clave sin procesar solo se muestra una vez; guárdala en una variable de entorno como LLMTR_API_KEY. Paso 4: envía la primera solicitud a https://llmtr.com/v1 con cualquier SDK compatible con OpenAI cambiando solo base_url y api_key. El uso y el gasto por clave aparecen en la página de uso del Dashboard. La misma clave, el mismo saldo y la misma URL base funcionan para todo el catálogo; cambiar de modelo o de política implica cambiar la cadena del modelo.

Conectar una aplicación a LLMTR

Configura el acceso, el crédito y una primera solicitud contra el endpoint de la API de LLMTR.

1. Cuenta. Crea una cuenta en llmtr.com y verifica tu correo electrónico.
2. Recarga de crédito. Recarga crédito desde el Dashboard mediante el pago seguro. Se aplica una sola vez un margen de plataforma del 8 % sobre la cantidad solicitada: una recarga de 10,00 $ cuesta 10,80 $. El margen no se añade a los precios de los modelos.
3. Clave API. Crea una clave en Dashboard > API Keys. La clave sin procesar solo se muestra una vez; guárdala en una variable de entorno como LLMTR_API_KEY.
4. Primera solicitud. Envía la primera solicitud a https://llmtr.com/v1 con cualquier SDK compatible con OpenAI. Cambia únicamente base_url y api_key.

Frequently asked questions

¿LLMTR almacena mis prompts?

No. LLMTR no almacena los cuerpos de prompts ni respuestas; conserva tokens, coste, estado HTTP y los primeros 12 caracteres de la clave.

¿Qué modelos de LLMTR no usan mis datos para entrenamiento?

Según el proveedor, las filas EU de GreenPT no usan las entradas para entrenamiento. La fila estándar meta/muse-spark-1.2 declara que no se usa para entrenamiento. Para llmtr/ornith-1-35b, la documentación indica procesamiento en servidores de LLMTR en Turquía y ningún reenvío a un proveedor externo; para otros ids, revisa la página y evita Contributor.

¿Cómo impido que mi aplicación llame a un modelo que entrena con datos?

Define el alcance de la clave, hasta 50 ids. Cualquier otro id devuelve 403 model_not_allowed; separa claves por aplicación o clase de datos.

Artículos relacionados

• APIs de LLM seguras para integrar sin compartir datos
• Muse Spark 1.2 Contributor frente a Muse Spark 1.2

• Seguimiento de uso
• Claves de API
• Catálogo de modelos
• Precios