AB'de barındırılan modelde hata: yedek model rehberi

Kısa yanıt: aynı ailenin diğer satırına geçin

LLMTR (llmtr.com), Türkiye'de ve global sağlayıcılarda barındırılan dil modellerine tek, OpenAI uyumlu API'den erişim veren bir gateway'dir. Kullandığınız AB'de barındırılan model hata verdiğinde yeni bir sözleşme gerekmez: aynı API anahtarı ve aynı bakiye ile aynı model ailesinin diğer satırını çağırırsınız. Örneğin birincil satırınız greenpt/glm-5.3-eu ise yedek tensorx/glm-5.3-tensorx, birincil satırınız tensorx/glm-5.3-tensorx ise yedek greenpt/glm-5.3-eu olur. Adres https://llmtr.com/v1 olarak kalır, yalnızca model dizgesi değişir.

LLMTR sağlayıcıyı kendiliğinden değiştirmez; geçişi istemciniz yapar. Bu kategorideki modeller için Avrupa Birliği içinde işlenme bilgisi sağlayıcının beyanıdır; LLMTR bunu bağımsız olarak doğrulamamıştır. Her iki sağlayıcı için ayrı veri aktarım onayı gerekir; onay yoksa istek 403 provider_consent_required ile reddedilir.

• GreenPT konumlar · 2026-10-09
• TensorX DPA · 2026-10-09

AB'de barındırılan bir model hata verdiğinde AB dışına çıkmadan başka bir modele nasıl geçilir?

Önce hatanın türüne bakın. Geçiş 503 model_unavailable, 429, diğer 5xx hataları, zaman aşımı ve bağlantı hatalarında anlamlıdır; çünkü bu durumlarda istek geçerlidir ama çağırdığınız satır o anda cevap vermemektedir. Aynı isteği aynı ailenin diğer satırına göndermek makul olur. Tek bir istek için en fazla bir yedek satır deneyin; ikisi de hata verirse hatayı uygulamanıza olduğu gibi iletin.

400 hatalarında geçmeyin. unsupported_input veya invalid_request, isteğin kendisinde bir sorun olduğunu gösterir; örneğin görsel girdisi olmayan bir satıra görsel göndermek. Diğer satır da aynı isteği reddedebilir; önce isteği düzeltin ve yeniden gönderin. Reddedilen bu istekler sağlayıcıya iletilmez ve ücretlendirilmez.

403 hatalarında da geçmeyin. provider_consent_required, ilgili sağlayıcının veri aktarım onayının verilmediğini gösterir; çözüm onayı vermektir. Geçeceğiniz satırın sağlayıcısı için de onay gerekir, çünkü onaylar sağlayıcı başınadır. model_not_allowed ise API anahtarının model kapsamıyla ilgilidir; kapsamı düzeltin.

Aynı model ailesinden beş çift

Aşağıdaki çiftler aynı model ailesindeki iki satırdır. Hangi satır birincilse, aynı ailenin diğer satırı yedektir; çift iki yönde de çalışır. Çifti olmayan bir satır için ihtiyacınıza göre AB'de barındırılan başka bir model seçin ve geçişi kendi istemlerinizle önceden deneyin.

Her satırın fiyatı kendi model sayfasındadır; yedeğe güvenmeden önce iki sayfayı da açın ve bağlam uzunluğu ile görsel girdi gibi yeteneklerin sizin kullanımınız için yeterli olduğunu kontrol edin. Örneğin görsel gönderen bir uygulama, çiftin iki satırının da görsel girdiyi desteklediğinden emin olmalıdır; aksi hâlde yedek satır 400 unsupported_input ile istemi reddeder. Embedding satırlarında yedek mantığı kullanmayın: iki farklı embedding satırının vektörleri aynı indekste karıştırılmaz, sağlayıcı değiştirmek derlemin yeniden embed edilmesi anlamına gelir.

• LLMTR AB'de barındırılan modeller · 2026-10-09

Python ile iki yönlü yedek akışı

Aşağıdaki complete fonksiyonu, verdiğiniz model listesini sırayla dener. Yalnızca 429, 500, 502, 503 ve 504 durum kodlarında, ayrıca zaman aşımı ve bağlantı hatalarında sıradaki modele geçer; diğer hatalar olduğu gibi yukarı fırlatılır. Fonksiyon yanıtla birlikte kullanılan model id'sini de döndürür, böylece hangi satırın cevap verdiğini kaydedebilirsiniz. Birincil satırınızı listenin en başına koyun; çiftin diğer satırı ikinci sırada kalsın.

Diğer satır farklı bir sağlayıcıdan gelir ve yanıt biçimi ya da uzunluğu değişebilir. Yanıtı işleyen kodun model id'sine bağımlı olmamasına dikkat edin ve geçişi canlıya almadan önce kendi istemlerinizle deneyin. Hangi satırın yanıt verdiğini her istekte günlüğe yazmak, ileride birincil satırı değiştirmeniz gerekip gerekmediğine karar vermenizi kolaylaştırır.

Birincil satır hata verirse aynı anahtarla aynı ailenin diğer satırını deneyen Python örneği.

import os
import openai
from openai import OpenAI

client = OpenAI(base_url="https://llmtr.com/v1", api_key=os.environ["LLMTR_API_KEY"])

FALLBACK_STATUS = (429, 500, 502, 503, 504)

def complete(messages, models):
    last_error = None
    for model_id in models:
        try:
            reply = client.chat.completions.create(
                model=model_id,
                messages=messages,
                max_tokens=500,
            )
            return reply.choices[0].message.content, model_id
        except openai.APIStatusError as e:
            # 400 and 403 are request or permission problems: re-raise them.
            if e.status_code not in FALLBACK_STATUS:
                raise
            last_error = e
        except (openai.APITimeoutError, openai.APIConnectionError) as e:
            last_error = e
    raise last_error

# Put your primary first; the pair works in either order.
models = ["greenpt/glm-5.3-eu", "tensorx/glm-5.3-tensorx"]
text, used = complete([{"role": "user", "content": "Summarize this paragraph: ..."}], models)
print(used, text[:80])

Geçişten önce onayları ve anahtar kapsamını hazırlayın

Yedek yol ancak önceden hazırlanmışsa işe yarar. Dashboard > Ayarlar > Veri aktarım onayları bölümünde hem GreenPT hem TensorX onayını verin. Onay hesap düzeyindedir, hesaptaki tüm API anahtarlarına uygulanır ve aynı yerden geri alınabilir. Onay yokken istek sağlayıcıya ulaşmaz ve ücretlendirilmez. Yedek satırı ilk kez bir kesinti sırasında denemek yerine, onayları verdikten sonra küçük bir istekle önceden deneyin.

API anahtarınızı model kapsamıyla sınırlıyorsanız çiftin iki model id'sini de kapsama ekleyin; kapsam dışı bir model 403 model_not_allowed döndürür. Bir anahtar en fazla 50 seçili modelle sınırlanabilir. LLMTR istem ve yanıt gövdelerini saklamaz; yalnızca model id, token sayıları, gecikme, HTTP durum kodu, USD maliyet ve anahtarın ilk 12 karakteri gibi meta verileri tutar.

• LLMTR GreenPT dokümanı · 2026-10-09
• LLMTR TensorX dokümanı · 2026-10-09

LLMTR ile başlamak: hesap, kredi, onaylar, anahtar ve ilk istek

Adım 1: llmtr.com'da hesap oluşturun ve e-posta adresinizi doğrulayın. Adım 2: Dashboard üzerinden kredi yükleyin. İstenen tutara bir kez yüzde 8 platform marjı eklenir; örneğin 10,00 $ kredi için 10,80 $ tahsil edilir. Her çağrı, modelin katalog fiyatıyla bakiyeden düşülür.

Adım 3: Ayarlar > Veri aktarım onayları bölümünde GreenPT ve TensorX onaylarını verin. Adım 4: Dashboard > API Anahtarları altında anahtar oluşturun, ham anahtar yalnızca bir kez gösterilir; LLMTR_API_KEY ortam değişkeninde saklayın. Ardından yukarıdaki kodla https://llmtr.com/v1 adresine ilk isteği gönderin. Aynı anahtar ve bakiye tüm modellerde çalışır; model değiştirmek yalnızca model dizgesini değiştirmektir.

AB'de barındırılan modeller için yedek akışı kurulumu

Hesap ve kredi, iki sağlayıcının veri aktarım onayları, API anahtarı ve yedek akışlı ilk istek olmak üzere dört adımda kurulum.

1. Hesap ve kredi. llmtr.com'da hesap oluşturun, e-postanızı doğrulayın ve Dashboard'dan kredi yükleyin. İstenen tutara bir kez %8 platform marjı eklenir; 10,00 $ kredi için 10,80 $ tahsil edilir.
2. Veri aktarım onayları. Dashboard > Ayarlar > Veri aktarım onayları bölümünde GreenPT ve TensorX onaylarını verin. Onay eksikse istek 403 provider_consent_required ile reddedilir.
3. API anahtarı. Dashboard > API Anahtarları altında anahtar oluşturun. Kapsam kullanıyorsanız çiftin iki model id'sini de ekleyin. Ham anahtarı LLMTR_API_KEY ortam değişkeninde saklayın.
4. İlk istek. Makaledeki complete fonksiyonuyla https://llmtr.com/v1 adresine ilk isteği gönderin. Birincil satır 503 veya 429 verirse listedeki sıradaki satır denenir.

Sık sorulan sorular

LLMTR, bir model hata verince otomatik olarak başka modele geçer mi?

Hayır. LLMTR sağlayıcıyı kendiliğinden değiştirmez. Hatayı istemciniz yakalar ve aynı anahtarla aynı ailenin diğer satırını çağırır; çift GreenPT'den TensorX'e de TensorX'ten GreenPT'ye de çalışır.

Hangi hatalarda diğer satıra geçmeliyim?

503 model_unavailable, 429, diğer 5xx hataları, zaman aşımı ve bağlantı hatalarında. 400 hataları istek sorunudur, 403 provider_consent_required onayın eksik olduğunu, 403 model_not_allowed anahtar kapsamını gösterir; bunlarda geçiş çözüm değildir.

Diğer sağlayıcıya geçmek için ayrı hesap veya onay gerekir mi?

Ayrı hesap gerekmez, aynı anahtar ve bakiye çalışır. Ancak veri aktarım onayı sağlayıcı başınadır; GreenPT onayı TensorX satırlarını, TensorX onayı GreenPT satırlarını kapsamaz. İkisini de önceden verin.

İlgili yazılar

• TensorX API: tek API ile AB'de işlenen modeller
• GreenPT modelleri LLMTR üzerinden nasıl kullanılır?
• Avrupa'da barındırılan modeller: 54 satırlık kataloğun okuması
• DeepSeek GDPR: AB'de barındırılan API ile kullanım
• Ajan ve kodlama için AB'de barındırılan modeller
• TensorX'i doğrudan mı, LLMTR üzerinden mi kullanmalı?

• GreenPT dokümantasyonu
• TensorX dokümantasyonu
• AB'de barındırılan modeller
• Fiyatlandırma