Model karşılaştırması · 2026-09-08
GreenPT modelleri LLMTR üzerinden nasıl kullanılır?
GreenPT sağlayıcısının LLMTR kataloğundaki satırlarını, ölçülen davranış farklarını ve isteklerinizi etkileyecek üç maliyet sürprizini geliştirici gözüyle inceleyin.
GreenPT nedir, katalogda nasıl görünür
GreenPT, Utrecht merkezli ve modellerini Avrupa Birliği içinde çalıştırdığını belirten bir platformdur. LLMTR kataloğunda sohbet, embedding ve yeniden sıralama satırları bulunur ve hepsi greenpt öneki ile çağrılır.
Sağlayıcı kendi donanımını işletmez; anlaşmalı veri merkezlerinin önünde durur ve isteği uygun olana yönlendirir. Bu ayrıntı fiyat ve model çeşitliliği açısından avantaj sağlar, veri koruma değerlendirmesi açısından ise zinciri uzatır.
Model kimliklerinde -eu eki
Bazı GreenPT satırlarının kimliği -eu ile biter. Bunun sebebi biçimsel değil: aynı modeli katalogda başka bir sağlayıcı üzerinden de sunuyoruz ve sağlayıcı öneki olmadan gönderilen bir model kimliği de çözümleniyor.
İki satır aynı kimliği taşısaydı, önek göndermeyen bir istek ikisinden hangisi önce gelirse ona giderdi; fiyatlar farklı olduğu için faturanız fark etmeden değişebilirdi. Katalogda yazan kimliği olduğu gibi kullanın; arama kutusunda eksiz adı yazdığınızda satır yine bulunur.
Maliyeti belirleyen üç davranış
Bu sağlayıcıda faturayı beklenmedik biçimde büyüten üç şey ölçüldü ve üçü de model seçiminden önce bilinmeli.
Bunların hiçbiri arıza değil; sağlayıcının tasarım tercihleri. Ama hiçbiri fiyat tablosunda görünmediği için, ilk faturayı görmeden fark edilmeleri zor.
- 34 sohbet satırının 26'sı siz istemeseniz de akıl yürütür ve bu gizli token'lar çıktı olarak faturalanır.
- Bazı satırlar sunucu tarafında eklenmiş bir sistem yönergesiyle çalışır ve o yönerge her istekte giriş token'ı olarak faturalanır; ölçümde tek kelimelik bir istek bir satırda 8.082 giriş token'ı olarak faturalandı.
- Aynı yönergesiz karşılığı bulunan satırlarda aynı istek 72 token; kendi sistem yönergenizi yazacaksanız yönergesiz satırı seçin.
- Dar bir çıktı bütçesi yanıtı tamamen boş bırakabilir: bazı satırlar 256 token'lık bütçenin tamamını akıl yürütmeye harcadı.
Hız limiti ve pratik notlar
Sağlayıcı 300 saniyede 600 istek sınırı uyguluyor; sürdürülebilir hız saniyede yaklaşık iki istek. Ölçümde üç eşzamanlı istekle limit aşımı alındı, bu yüzden yüksek eşzamanlılıklı işlerde kendi tarafınızda kuyruk kullanın.
Yeniden sıralama tarafında iki davranış farkı var: sağlayıcı üst sınır alanını zorunlu tutuyor, LLMTR bunu belge sayısıyla sizin adınıza dolduruyor; ve kısaltma parametresi kabul edilmiyor, çünkü sağlayıcı uzun belgeyi kısaltmak yerine isteğin tamamını düşürüyor.
Sık sorulan sorular
GreenPT satırları için ayrı anahtar gerekiyor mu?
Hayır. Mevcut LLMTR anahtarınızla model kimliğini değiştirerek çağırırsınız. Sağlayıcıya doğrudan hesap açmanız gerekmez.
Neden bazı kimlikler -eu ile bitiyor?
Aynı modeli katalogda başka bir sağlayıcı üzerinden de sunduğumuz için. Önek göndermeyen istekler de çözümlendiğinden, iki satırın aynı kimliği taşıması faturanızı fark etmeden değiştirebilirdi.
Hangi satırlar akıl yürütme token'ı harcamıyor?
34 sohbet satırının sekizi harcamıyor ve bunlar dokümantasyon sayfasında adıyla sayılıyor. Çıktı maliyetinin öngörülebilir olması gereken toplu işlerde bu satırları tercih edin.