RAG ve veri · 2026-10-10

GDPR'ı gözeten RAG için AB'de barındırılan embedding API'si

GDPR'ı gözeten bir RAG için tensorx/qwen3-embedding-8b-tensorx embedding'ini ve AB'de barındırılan sohbet modelini tek OpenAI uyumlu API'den kullanın.

Kısa yanıt: embedding ve yanıt adımı aynı AB satırlarında

LLMTR (llmtr.com), Türkiye'de ve global sağlayıcılarda barındırılan dil modellerine tek, OpenAI uyumlu API'den erişim veren bir gateway'dir. RAG hattında embedding için tensorx/qwen3-embedding-8b-tensorx, yanıt için tensorx/glm-5.3-flash-tensorx ya da tensorx/deepseek-v4-flash-0731-tensorx kullanılabilir; hepsi https://llmtr.com/v1 üzerinden çağrılır. Bu kategorideki modeller için Avrupa Birliği içinde işlenme bilgisi sağlayıcının beyanıdır; LLMTR bunu bağımsız olarak doğrulamamıştır.

Embedding satırı /v1/embeddings uç noktasında yanıt verir, 4096 boyutlu vektör üretir ve 10 milyon token için 0,20 $ tutar. Üç satır da TensorX satırı olduğundan hesabınızda tek bir TensorX veri aktarım onayı yeterlidir. GDPR değerlendirmesi sizde kalır; bu yazı onun yerine geçmez.

GDPR'ı gözeten bir RAG için AB'de barındırılan embedding API'si nasıl kurulur?

Kurulum üç parçadır: belgeleri 4096 boyutlu vektörlere çeviren embedding çağrısı, vektörleri saklayıp sorguya en yakın pasajı bulan kendi vektör deponuz ve pasajı okuyup yanıt yazan sohbet modeli. LLMTR yalnızca birinci ve üçüncü parçayı sağlar; vektör deposu sizin tarafınızda kalır.

Embedding satırının bağlamı 40.960 token'dır ve fiyatı 1 milyon girdi token'ı başına 0,02 $'dır. Örneğin 10 milyon token'lık bir belge arşivini vektörlemek 0,20 $ tutar. Sağlayıcının beyanına göre istekler Avrupa Birliği içinde işlenir ve girdiler model eğitiminde kullanılmaz. Belgeleriniz bu bağlama sığmıyorsa metni makul parçalara bölün ve her parçayı ayrı vektörleyin; parça boyutunu kendi belge türünüze göre belirlersiniz. Sorgu anında da aynı embedding satırını kullanın; sorgu vektörü ile belge vektörü aynı satırdan gelmelidir.

Aynı indekste iki farklı embedding satırının vektörlerini karıştırmayın. Embedding modelini değiştirirseniz bütün arşivi yeniden vektörlemeniz gerekir; bu yüzden ilk seçimi ölçeklemeden önce yapın.

TensorX, Models · 2026-10-09

RAG hattının adımları, model kimlikleri ve fiyatlar

Tablo, hattın iki adımını ve iki yanıt seçeneğini gösterir. Yanıt adımı için 1 milyon girdi ve 100 bin çıktı token'ı varsayıldığında tensorx/glm-5.3-flash-tensorx 0,25 $, tensorx/deepseek-v4-flash-0731-tensorx 0,28 $ tutar. Fiyatlar TensorX'in kendi USD liste fiyatıdır; LLMTR bu satırların token fiyatına ekleme yapmaz.

Yanıt modeli bağlamı 1.048.576 token'dır; bu, çok sayıda pasajı tek istekte vermenize izin verir, ama istem uzadıkça girdi maliyeti de artar. Önce az sayıda ilgili pasajla başlayın, yanıt kalitesini kendi sorularınızla deneyin ve gerekirse pasaj sayısını artırın. Sohbet satırları araç çağrısını ve akışı (SSE) destekler; akışta kullanım bilgisi için istemcide stream_options içinde include_usage değerini true gönderin. Fiyatlar satır başına farklıdır ve her model sayfasında güncel hâli görünür. GreenPT'nin AB'de barındırılan embedding satırları da vardır; onların ayrı bir veri aktarım onayı gerekir ve fiyatları için model sayfasına bakın.

RAG hattı adımları ve TensorX satırları (2026-10-09 tarihinde kontrol edildi)
Hat adımı	Model kimliği	1 milyon token fiyatı	Not
Embedding (belge ve sorgu)	tensorx/qwen3-embedding-8b-tensorx	0,02 $ girdi	4096 boyut, 40.960 bağlam, /v1/embeddings
Yanıt (seçenek 1)	tensorx/glm-5.3-flash-tensorx	0,20 $ girdi, 0,50 $ çıktı	1.048.576 bağlam; 1 milyon girdi + 100 bin çıktı = 0,25 $
Yanıt (seçenek 2)	tensorx/deepseek-v4-flash-0731-tensorx	0,25 $ girdi, 0,30 $ çıktı	1.048.576 bağlam; 1 milyon girdi + 100 bin çıktı = 0,28 $

TensorX, Models · 2026-10-09

Python ile embedding ve yanıt çağrısı

Aşağıdaki örnek iki metni embedding satırıyla vektörler, vektör uzunluğunu yazdırır ve ardından bulunmuş bir pasajla sohbet modelini çağırır. İstemci OpenAI SDK'sıdır; yalnızca base_url ve api_key değişir. Pasaj yer tutucudur, gerçek hatta onu vektör deponuzdan alırsınız.

Embedding çağrısında input alanına metin listesi verebilirsiniz; dönen her kayıt, listedeki sıraya karşılık gelen bir vektör içerir. Büyük arşivleri küçük gruplar hâlinde göndermek, hata durumunda yalnızca ilgili grubu yeniden denemenizi kolaylaştırır. Sohbet çağrısında sistem mesajıyla modeli yalnızca verilen pasajdan yanıtlamaya yönlendirin. Hesapta TensorX onayı yoksa her iki çağrı da 403 provider_consent_required döndürür; istek TensorX'e gitmez ve faturalanmaz.

Embedding satırıyla iki metni vektörleyen, ardından AB'de barındırılan sohbet modeliyle yanıt üreten Python örneği.

import os
from openai import OpenAI

client = OpenAI(base_url="https://llmtr.com/v1", api_key=os.environ["LLMTR_API_KEY"])

# Embed two documents with the EU-hosted embedding row (4096 dimensions).
docs = ["Refund requests are answered within 14 days.", "Invoices are sent by e-mail."]
emb = client.embeddings.create(model="tensorx/qwen3-embedding-8b-tensorx", input=docs)
print(len(emb.data[0].embedding))

# Answer with a retrieved passage; the same TensorX consent covers both calls.
passage = "<retrieved passage from your vector store>"
reply = client.chat.completions.create(
    model="tensorx/glm-5.3-flash-tensorx",
    messages=[
        {"role": "system", "content": "Answer only from the passage."},
        {"role": "user", "content": f"Passage: {passage}\n\nQuestion: How long do refunds take?"},
    ],
    max_tokens=300,
)
print(reply.choices[0].message.content)

Veri, onay ve GDPR değerlendirmesi

LLMTR istem ve yanıt gövdelerini saklamaz; yalnızca model kimliği, token sayıları, gecikme, HTTP durum kodu, USD maliyet ve API anahtarının ilk 12 karakteri gibi meta verileri tutar. Bu kategorideki modeller için Avrupa Birliği içinde işlenme bilgisi sağlayıcının beyanıdır; LLMTR bunu bağımsız olarak doğrulamamıştır.

TensorX satırlarını çağırmadan önce Dashboard > Ayarlar altındaki Veri aktarım onayları bölümünden TensorX onayını verin. Onay hesap düzeyindedir, tüm API anahtarlarını kapsar ve aynı yerden geri çekilebilir. Aktarılan şey istek içeriğidir; ad ve e-posta aktarılmaz. GreenPT onayı TensorX satırlarını kapsamaz.

Bir RAG hattının GDPR'a uygunluğu; hukuki dayanağınıza, işleme sözleşmelerinize ve belgelerinizin niteliğine bağlıdır ve bu değerlendirme sizin sorumluluğunuzdadır. Karar için GDPR metnini ve TensorX'in veri işleme sözleşmesini okuyun.

LLMTR ile başlamak: hesap, onay, anahtar ve ilk istek

Adım 1: llmtr.com'da hesap oluşturun, e-postanızı doğrulayın ve Dashboard'dan kredi yükleyin. İstenen tutara bir kez yüzde 8 platform marjı eklenir; 10,00 $ kredi için 10,80 $ tahsil edilir. Her çağrı, modelin katalog fiyatıyla bakiyeden düşülür.

Anahtarı yalnızca bu hattın kullandığı üç model kimliğiyle sınırlayabilirsiniz; kapsam dışı bir modele yapılan istek 403 model_not_allowed döndürür. Kullanım ve anahtar bazlı harcama Dashboard kullanım sayfasında görünür. Adım 2: Ayarlar altında TensorX veri aktarım onayını verin. Adım 3: Dashboard > API Anahtarları altında anahtar oluşturun; ham anahtar yalnızca bir kez gösterilir, LLMTR_API_KEY ortam değişkeninde saklayın. Adım 4: yukarıdaki kodla ilk embedding isteğini https://llmtr.com/v1 adresine gönderin. Aynı anahtar ve bakiye katalogdaki tüm modellerde çalışır.

AB'de barındırılan embedding ile RAG çağrısı

Hesap ve kredi, TensorX veri aktarım onayı, API anahtarı ve ilk embedding isteğini dört adımda tamamlayın.

Hesap ve kredi. llmtr.com'da hesap oluşturup e-postanızı doğrulayın, Dashboard'dan kredi yükleyin. Bir kez %8 platform marjı eklenir; 10,00 $ kredi için 10,80 $ tahsil edilir.
TensorX veri aktarım onayı. Dashboard > Ayarlar altındaki Veri aktarım onayları bölümünden TensorX onayını verin. Onay olmadan istekler 403 provider_consent_required döndürür.
API anahtarı. Dashboard > API Anahtarları altında anahtar oluşturun. Ham anahtar yalnızca bir kez gösterilir; LLMTR_API_KEY ortam değişkeninde saklayın.
İlk istek. OpenAI uyumlu bir SDK ile https://llmtr.com/v1 adresine tensorx/qwen3-embedding-8b-tensorx modeliyle ilk embedding isteğini gönderin; yalnızca base_url ve api_key değerlerini ayarlayın.

Sık sorulan sorular

AB'de barındırılan embedding API'si için hangi model kimliği kullanılır?

LLMTR'de tensorx/qwen3-embedding-8b-tensorx kullanılır: 4096 boyut, 40.960 bağlam, 1 milyon girdi token'ı başına 0,02 $. Sağlayıcının beyanına göre istekler Avrupa Birliği içinde işlenir; LLMTR bunu bağımsız olarak doğrulamamıştır.

Embedding modelini sonradan değiştirebilir miyim?

Değiştirebilirsiniz ama bütün belge arşivini yeni modelle yeniden vektörlemeniz gerekir. İki farklı embedding satırının vektörleri aynı indekste karıştırılmamalıdır.

403 provider_consent_required hatası ne anlama gelir?

Hesapta TensorX veri aktarım onayı yoktur. Dashboard > Ayarlar altındaki Veri aktarım onayları bölümünden onayı verin; istek TensorX'e ulaşmadığı için faturalanmaz.