RAG y datos · 2026-10-06
Voyage: cuantización y dimensiones flexibles
Consulta los siete modelos Voyage que combinan dimensiones flexibles y cuantización, sus tipos de salida, precios por tokens y uso de embeddings en LLMTR.
Respuesta corta: siete modelos con salida flexible
LLMTR (llmtr.com) es una pasarela que da acceso a modelos de lenguaje alojados en Turquía y en proveedores globales a través de una única API compatible con OpenAI. Siete modelos Voyage ofrecen las dimensiones 256, 512, 1024 y 2048, además de cuantización. Un ejemplo es voyageai/voyage-4 mediante /v1/embeddings. La URL base es https://llmtr.com/v1.
La tabla resume los nueve modelos del catálogo, sus precios por 1M de tokens de entrada, el contexto y las opciones de salida. En particular, voyageai/voyage-finance-2 y voyageai/voyage-law-2 devuelven float de 1024 dimensiones sin cuantización. La referencia de precios es 2026-10-06 y cada precio se expresa por 1M de tokens de entrada.
| Identificador del modelo | USD por 1M de tokens de entrada | Contexto | Dimensiones de salida | Cuantización |
|---|---|---|---|---|
| voyageai/voyage-4-large | $0.12 | 32.000 | 256, 512, 1024, 2048 | Sí |
| voyageai/voyage-4 | $0.06 | 32.000 | 256, 512, 1024, 2048 | Sí |
| voyageai/voyage-4-lite | $0.02 | 32.000 | 256, 512, 1024, 2048 | Sí |
| voyageai/voyage-code-4 | $0.12 | 32.000 | 256, 512, 1024, 2048 | Sí |
| voyageai/voyage-code-3 | $0.18 | 32.000 | 256, 512, 1024, 2048 | Sí |
| voyageai/voyage-context-4 | $0.18 | 32.000 | 256, 512, 1024, 2048 | Sí |
| voyageai/voyage-multimodal-3.5 | $0.12 | 32.000 | 256, 512, 1024, 2048 | Sí |
| voyageai/voyage-finance-2 | $0.12 | 32.000 | 1024 | No (solo float) |
| voyageai/voyage-law-2 | $0.12 | 16.000 | 1024 | No (solo float) |
¿Qué modelos de Voyage ofrecen cuantización y dimensiones flexibles?
Siete modelos Voyage admiten las cuatro dimensiones 256, 512, 1024 y 2048 junto con float, int8, uint8, binary y ubinary. Son voyageai/voyage-4-large, voyageai/voyage-4, voyageai/voyage-4-lite, voyageai/voyage-code-4, voyageai/voyage-code-3, voyageai/voyage-context-4 y voyageai/voyage-multimodal-3.5; los siete tienen un contexto de 32.000 tokens y el catálogo es de 2026-10-06.
voyageai/voyage-finance-2 y voyageai/voyage-law-2 son la excepción: ambos devuelven 1024 dimensiones en float. Si envías otra dimensión o un output_dtype distinto de float, la API responde 400 invalid_request. El mensaje enumera los valores aceptados. Ambos cuestan 0,12 $ por 1M de tokens de entrada; law-2 tiene un contexto de 16.000 tokens.
Configurar dimensions, output_dtype e input_type
La solicitud mostrada envía un documento a POST https://llmtr.com/v1/embeddings mediante voyageai/voyage-4, con dimensions en 512 y output_dtype en int8. dimensions define el tamaño; output_dimension y output_dimensionality funcionan como alias. output_dtype acepta float, int8, uint8, binary y ubinary en modelos cuantizables. input_type admite query o document: usa document al indexar y query al buscar. Los valores no admitidos devuelven 400 invalid_request, y el mensaje enumera los valores aceptados.
Solicitud de un embedding de documento de 512 dimensiones con salida int8.
curl https://llmtr.com/v1/embeddings \
-H "Authorization: Bearer $LLMTR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "voyageai/voyage-4",
"input": ["Invoices are due 30 days after the delivery date."],
"input_type": "document",
"dimensions": 512,
"output_dtype": "int8"
}'
Qué ahorra la cuantización
Para 1.000.000 vectores, la tabla compara float, int8 y binary. A 1024 dimensiones, los índices ocupan 4.1 GB, 1.0 GB y 128 MB, respectivamente; a 512 dimensiones, int8 ocupa 512 MB. La dimensión y output_dtype cambian el tamaño del índice y la velocidad de búsqueda, no el precio: la facturación usa solo tokens de entrada. Por ejemplo, 10M de tokens cuestan 0,60 $ con voyageai/voyage-4 y 0,20 $ con voyageai/voyage-4-lite.
| Dimensiones | float (4 bytes) | int8 (1 byte) | binary (1 bit) |
|---|---|---|---|
| 2048 | 8,2 GB | 2,0 GB | 256 MB |
| 1024 | 4,1 GB | 1,0 GB | 128 MB |
| 512 | 2,0 GB | 512 MB | 64 MB |
| 256 | 1,0 GB | 256 MB | 32 MB |
Cómo elegir dimensión y tipo de salida
Para la mayoría de RAG, empieza evaluando 1024 con int8. Prueba 512 o binary con tus propias consultas antes de cambiar, porque la recuperación puede bajar; binary se usa a menudo para una primera pasada rápida y después volver a puntuar con vectores completos. Documentos y consultas deben usar el mismo modelo, dimensions y output_dtype, porque los vectores de tamaños distintos no se pueden comparar. finance-2 y law-2 permanecen en 1024 y float.
Empezar en LLMTR: cuenta, crédito, clave y primera solicitud
Paso 1: crea una cuenta en llmtr.com y verifica tu correo. Paso 2: añade crédito desde el Dashboard mediante el checkout seguro. Se añade una sola vez un margen de plataforma del 8% sobre la cantidad solicitada; por 10,00 $ de crédito se cobran 10,80 $. El margen no se añade a los precios de los modelos; cada llamada de API descuenta crédito al precio de catálogo del modelo. Paso 3: crea una clave en Dashboard > API Keys. La clave completa se muestra una sola vez; guárdala en una variable de entorno como LLMTR_API_KEY.
Paso 4: envía la primera solicitud a https://llmtr.com/v1 con cualquier SDK compatible con OpenAI. En la configuración del SDK, cambia solo base_url y api_key. La página de uso del Dashboard muestra el consumo y el gasto de cada clave. La misma clave y el mismo saldo sirven para todos los modelos del catálogo. Para cambiar de modelo, modifica la cadena model.
Configurar embeddings Voyage en LLMTR
Crea una cuenta, añade crédito, genera una clave API y envía una solicitud de embeddings a LLMTR.
- Crear cuenta. Crea una cuenta en llmtr.com y verifica tu correo.
- Añadir crédito. Añade crédito desde el Dashboard mediante el checkout seguro. Se añade una sola vez un margen de plataforma del 8% sobre la cantidad solicitada.
- Crear clave API. Crea una clave en Dashboard > API Keys. La clave completa aparece una sola vez; guárdala como variable de entorno LLMTR_API_KEY.
- Enviar primera solicitud. Envía la primera solicitud a POST https://llmtr.com/v1/embeddings con cualquier SDK compatible con OpenAI. En la configuración del SDK, cambia solo base_url y api_key.
Frequently asked questions
¿Qué modelos de Voyage admiten dimensiones flexibles?
Son siete: voyageai/voyage-4-large, voyageai/voyage-4, voyageai/voyage-4-lite, voyageai/voyage-code-4, voyageai/voyage-code-3, voyageai/voyage-context-4 y voyageai/voyage-multimodal-3.5. Ofrecen 256, 512, 1024 y 2048 dimensiones.
¿int8 o binary cambian el precio de los embeddings?
No. La facturación depende solo de los tokens de entrada; int8 y binary no cambian el precio. Por ejemplo, 10M de tokens cuestan 0,60 $ con voyageai/voyage-4 y 0,20 $ con voyageai/voyage-4-lite.
¿Puedo usar 768 dimensiones con Voyage?
No. Los modelos con dimensiones flexibles aceptan 256, 512, 1024 y 2048; 768 genera una respuesta 400 invalid_request. voyageai/voyage-finance-2 y voyageai/voyage-law-2 aceptan únicamente 1024 con float.