Voyage Quantization ve Esnek Boyutlu Embedding Modelleri

Kısa yanıt: Quantization ve esnek boyut

LLMTR (llmtr.com), Türkiye'de ve global sağlayıcılarda barındırılan dil modellerine tek, OpenAI uyumlu API'den erişim veren bir gateway'dir. Quantization ve esnek çıktı boyutu sunan yedi Voyage modeli, POST https://llmtr.com/v1/embeddings uç noktası üzerinden llmtr.com üzerinden kullanılabilir: voyageai/voyage-4-large, voyageai/voyage-4, voyageai/voyage-4-lite, voyageai/voyage-code-4, voyageai/voyage-code-3, voyageai/voyage-context-4 ve voyageai/voyage-multimodal-3.5.

Bu yedi model 256, 512, 1024 veya 2048 boyutunda vektör üretir; output_dtype alanı float, int8, uint8, binary veya ubinary değerlerini kabul eder. voyageai/voyage-finance-2 ile voyageai/voyage-law-2 ise yalnızca 1024 boyutunda float vektör döndürür. Bu iki modelde başka bir boyut ve float dışında bir output_dtype isteği 400 ile reddedilir.

Hangi Voyage modelleri quantization ve esnek boyut sunuyor?

2026-10-06 LLMTR kataloğunda esnek boyut ve quantization desteğini birlikte sunan yedi model şunlardır: voyageai/voyage-4-large, voyageai/voyage-4, voyageai/voyage-4-lite, voyageai/voyage-code-4, voyageai/voyage-code-3, voyageai/voyage-context-4 ve voyageai/voyage-multimodal-3.5. Hepsi 256, 512, 1024 ve 2048 çıktı boyutlarını destekler; output_dtype için float, int8, uint8, binary ve ubinary değerlerini kabul eder.

Bu modellerde output_dtype değerleri float, int8, uint8, binary ve ubinary olabilir. finance-2 ve law-2 esnek boyut sunmaz; ikisi de 1024 boyutlu float vektör üretir. Bağlam sırasıyla 32.000 ve 16.000 token olsa da bu iki modelin çıktı boyutu ve veri tipi sabittir.

• Voyage AI Docs, Flexible dimensions and quantization · 2026-10-06

Boyut ve output_dtype ile istek

Embedding oluşturmak için POST https://llmtr.com/v1/embeddings kullanılır. Vektör boyutu dimensions ile 256, 512, 1024 veya 2048 olarak belirlenir; output_dimension ve output_dimensionality de LLMTR takma adlarıdır. input_type alanında dokümanları eklerken document, arama metnini işlerken query kullanılır. Bu seçim, indeksleme ve arama rollerini istekte ayırır.

Aşağıdaki curl örneği 512 boyutlu bir int8 belge vektörü ister. Quantization destekleyen modellerde output_dtype değerleri float, int8, uint8, binary ve ubinary olabilir. Desteklenmeyen değerler 400 invalid_request ile reddedilir; mesaj kabul edilen değerleri listeler. finance-2 ve law-2 yalnızca dimensions: 1024 ve output_dtype: float kabul eder.

Bölüm 2 curl örneği, 512 boyutlu document girdisiyle int8 çıktı vektörü oluşturmayı gösterir.

curl https://llmtr.com/v1/embeddings \
  -H "Authorization: Bearer $LLMTR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "voyageai/voyage-4",
    "input": ["Invoices are due 30 days after the delivery date."],
    "input_type": "document",
    "dimensions": 512,
    "output_dtype": "int8"
  }'

• Voyage AI Docs, Text embeddings · 2026-10-06

Quantization ile depolama tasarrufu

Quantization ve küçük boyut, 1 milyon vektörün depolama alanını azaltır; 1024 boyutta float 4,1 GB, int8 1,0 GB, binary 128 MB yer kaplar. Fiyat değişmez: ücret yalnızca input token sayısına göre hesaplanır. 10 milyon token için voyage-4 0,60 $, voyage-4-lite ise 0,20 $ tutar.

Tablodaki değerler 1.000.000 vektör için gereken depolama alanını gösterir. float her değerde 4 bayt, int8 1 bayt, binary ise 1 bit kullanır; 512 boyutta int8 512 MB olur. Daha küçük boyut veya int8/binary seçimi fiyatı değiştirmez; yalnızca dizin boyutunu ve arama hızını etkiler.

RAG için boyut ve dtype seçimi

Çoğu RAG için 1024 boyut ve int8 ile başlamak makul bir seçimdir. 512 veya binary seçeneğini kendi sorgu setinizde test edin; recall korunuyorsa geçin. Binary çoğunlukla hızlı ilk geçişte, ardından full vektörlerle rescoring için kullanılır. Geçiş öncesi model ve arama akışını kendi verinizle doğrulayın.

Sorgular ve belgeler aynı model, dimensions ve output_dtype ile embed edilmelidir; farklı boyutlu vektörler karşılaştırılamaz. finance-2 ve law-2 sabit 1024 float kullandığı için bu modellerde boyut veya dtype değiştirilemez. Yedi quantization modelinde 256, 512, 1024 ve 2048 dimensions değerleri seçilebilir.

LLMTR ile başlamak: hesap, kredi, anahtar ve ilk istek

İlk adım llmtr.com üzerinden hesap oluşturmak ve e-posta adresini doğrulamaktır. Ardından Dashboard üzerinden kredi yüklemesi yapılır ve güvenli ödeme ekranı kullanılır. İstenen yükleme tutarının üzerine %8 platform marjı bir kez eklenir; örneğin 10,00 $ kredi için 10,80 $ tahsil edilir. Bu marj model fiyatlarına eklenmez; her API çağrısı modelin katalog fiyatından düşülür.

API anahtarı Dashboard içindeki API Keys bölümünde oluşturulur. Ham anahtar yalnızca bir kez gösterilir; LLMTR_API_KEY gibi bir ortam değişkeninde saklayın. İlk isteği https://llmtr.com/v1 adresine, herhangi bir OpenAI uyumlu SDK ile yalnızca base_url ve api_key değerlerini değiştirerek gönderin. Dashboard kullanım sayfasında anahtar bazında kullanım ve harcama görülür. Aynı anahtar ve kredi bakiyesi katalogdaki her modelde çalışır; model değiştirmek yalnızca model metnini değiştirmek demektir.

Voyage embedding yapılandırmasını başlatma

LLMTR hesabı oluşturup kredi yükleyerek quantization destekli bir Voyage modeline ilk embedding isteğini gönderin.

1. Hesap oluştur. llmtr.com üzerinden hesap oluşturun ve e-posta adresinizi doğrulayın.
2. Kredi yükle. Dashboard üzerinden güvenli ödeme ekranıyla kredi yükleyin. İstenen tutara %8 platform marjı bir kez eklenir.
3. API anahtarı oluştur. Dashboard içindeki API Keys bölümünde anahtar oluşturun. Ham anahtar yalnızca bir kez gösterildiği için LLMTR_API_KEY ortam değişkeninde saklayın.
4. İlk isteği gönder. OpenAI uyumlu bir SDK'da yalnızca base_url ve api_key değerlerini değiştirin. base_url için https://llmtr.com/v1 kullanın ve https://llmtr.com/v1/embeddings isteğini gönderin.

Sık sorulan sorular

Voyage'un quantization ve esnek boyut destekleyen modelleri hangileri?

Yedi model destekler: voyageai/voyage-4-large, voyageai/voyage-4, voyageai/voyage-4-lite, voyageai/voyage-code-4, voyageai/voyage-code-3, voyageai/voyage-context-4 ve voyageai/voyage-multimodal-3.5. Bu modeller 256, 512, 1024 ve 2048 boyutlarını destekler.

int8 veya binary seçmek fiyatı değiştirir mi?

Hayır; fiyat boyut veya output_dtype seçimine göre değişmez, yalnızca input token sayısı üzerinden hesaplanır. 10 milyon token voyage-4 için 0,60 $, voyage-4-lite için 0,20 $ tutar.

Voyage embeddinglerinde 768 boyut kullanabilir miyim?

Hayır. Quantization destekleyen yedi modelde yalnızca 256, 512, 1024 veya 2048 kullanılabilir; 768 gibi başka bir değer 400 invalid_request ile reddedilir ve hata kabul edilen değerleri listeler.

İlgili yazılar

• Voyage 4 Lite ile milyonlarca parçayı indekslemenin maliyet hesabı
• OpenAI uyumlu gateway ile embeddings ve rerank API kullanımı
• EmbeddingGemma 300M'de vektör boyutunu kısaltma: 768'den 128'e

• Embeddings dokümantasyonu
• Voyage 4 modeli
• Fiyatlandırma