Model karşılaştırma · 2026-10-26

Türkçe metin sınıflandırma: Nanbeige4.2 3B mi, Leyla mı?

Türkçe metinleri sınıflandırmak için Nanbeige4.2 3B sohbet modelini ve Leyla karar modelini karşılaştırın: istek biçimi, fiyat, bağlam, olasılık.

Şema: https://llmtr.com/v1 altında iki kutu, llmtr/nanbeige4-2-3b ve llmtr/leyla.

Kısa yanıt: etiket için Leyla, etiket ve metin için Nanbeige4.2 3B

LLMTR, farklı sağlayıcıların dil modellerine tek bir OpenAI uyumlu API ile erişim veren bir gateway'dir. Nanbeige4.2 3B (llmtr/nanbeige4-2-3b), https://llmtr.com/v1 adresindeki /v1/chat/completions uç noktasından; Leyla (llmtr/leyla) ise /v1/systemone uç noktasından llmtr.com hesabınızın aynı API anahtarıyla çağrılır. Türkçe bir metni önceden tanımladığınız etiketlerden birine ayırmak, evet/hayır sorusuna olasılık almak ya da metne bir seviye vermek için LLMTR'de Leyla'yı llmtr/leyla kimliğiyle kullanın. Etiketin yanında kısa bir gerekçe, özet ya da cevap taslağı da gerekiyorsa Nanbeige4.2 3B'yi llmtr/nanbeige4-2-3b kimliğiyle çağırın.

İki model de LLMTR'de Türkiye'de barındırılır. Leyla'nın kartı isteğin Türkiye dışına çıkmadığını söyler; Nanbeige4.2 3B'de istekler üçüncü taraf bir sağlayıcıya yönlendirilmez. Leyla bir karar modelidir: verdiğiniz metne karşı tanımladığınız soruları değerlendirir ve serbest metin üretmez. Kartına göre Türkçe dahil 100'den fazla dili destekler. Nanbeige4.2 3B, Nanbeige LLM Lab'ın Apache 2.0 lisanslı açık ağırlıklı sohbet modelidir; model kartına göre gömme parametreleri hariç 3 milyar parametre taşır.

Türkçe metin sınıflandırmada Nanbeige4.2 3B mi, Leyla mı?

Fark istek biçimindedir. Leyla'ya bir state (metin) ve anahtarlarını sizin seçtiğiniz questions gönderirsiniz; her soru için noul (evet olasılığı), choice (seçim, olasılık dağılımı ve güven) ya da score (sıralı seviye) döner. Nanbeige4.2 3B'ye bir sohbet mesajı gönderirsiniz ve etiketi metin olarak, alanları sabit istiyorsanız araç çağrısının argümanları olarak alırsınız. Kalite farkı hakkında bir şey söylemiyoruz; iki modeli kendi etiketli örneklerinizle ölçmeden canlıya almayın.

Tablo iki satırı 26 Ekim 2026 itibarıyla LLMTR kataloğundaki ve dokümantasyondaki değerlerle gösterir; fiyatlar 1 milyon token başınadır.

LLMTR'de Türkiye'de barındırılan iki model, 26 Ekim 2026 itibarıyla
ÖzellikNanbeige4.2 3BLeyla
Model kimliğillmtr/nanbeige4-2-3bllmtr/leyla
Uç nokta/v1/chat/completions/v1/systemone
Çıktıserbest metin ya da araç çağrısıseçim, puan ya da evet olasılığı; serbest metin yok
Fiyat (girdi / çıktı)1,00 $ / 3,00 $0,03 $ / 0 $
Bağlam32.768 token, istem ve cevap birlikte1.024 token; aşan metin kesilir, hata dönmez
Metnin sayılmasıistekte bir kezher soru için ayrı
Tek istekte soruuygulanmaz (sohbet isteği)en fazla 64
Akışvar; yavaş yanıt için öneriliryok, yanıt tek parça döner
Türkçemodel çoğunlukla İngilizce ve Çince eğitilmiştir; Türkçe cevabı sistem mesajında isteyinTürkçe dahil 100'den fazla dil
BarındırmaTürkiye'deTürkiye'de

1.000 destek mesajını sınıflandırmak ne tutar?

Bir varsayımla hesaplayalım: her destek mesajı Leyla'da soru ve seçeneklerle birlikte 400 token, Nanbeige4.2 3B'de sistem mesajıyla birlikte 400 token istem eder. Leyla'da tek bir choice sorusuyla 1.000 mesaj 400.000 girdi token'ı ve 0,012 $ tutar; çıktı fiyatı 0 $'dır. Aynı metne ikinci bir soru eklerseniz Leyla metni her soru için ayrı saydığından tutar 0,024 $ olur; yalnızca kullanacağınız soruları gönderin. Nanbeige4.2 3B'de 5 token'lık bir etiketle 1.000 mesaj 0,415 $, etiket ve tek cümlelik gerekçe birlikte 40 token tutarsa 0,52 $ eder.

Aşağıdaki Python örneği aynı mesajı iki modele gönderir. Leyla'ya bir choice ve bir noul sorusu gider; en yüksek olasılık 0,6'nın altındaysa sonuç insana yönlendirilir. Nanbeige4.2 3B'ye etiketi ve tek cümlelik gerekçeyi Türkçe yazmasını söyleyen bir sistem mesajı gider; istemci zaman aşımı 300 saniyedir. Token sayıları örnektir; kendi mesajlarınızla ölçün.

Aynı Türkçe destek mesajını https://llmtr.com/v1/systemone üzerinden Leyla'ya ve https://llmtr.com/v1/chat/completions üzerinden Nanbeige4.2 3B'ye gönderen Python örneği.

import os

import requests
from openai import OpenAI

message = "Kartımdan iki kez çekim yapılmış, iadesini istiyorum."

# Leyla: a decision with probabilities on /v1/systemone (no free text, no streaming).
leyla = requests.post(
    "https://llmtr.com/v1/systemone",
    headers={"Authorization": "Bearer " + os.environ["LLMTR_API_KEY"]},
    json={
        "model": "llmtr/leyla",
        "state": message,
        "questions": {
            "departman": {
                "type": "choice",
                "instructions": "Which team should handle this request?",
                "criteria": {"faturalama": "ödeme, fatura, iade", "teknik": "hata, kesinti, entegrasyon", "satis": "fiyat, hesap açma"},
            },
            "iade_talebi": {"type": "noul", "instructions": "Does the customer ask for a refund?"},
        },
    },
    timeout=60,
).json()
team = leyla["answers"]["departman"]
label = team["choice"] if team["probabilities"][team["choice"]] >= 0.6 else "insana_yonlendir"
print("llmtr/leyla", label, team["probabilities"], leyla["answers"]["iade_talebi"]["noul"], leyla["usage"])

# Nanbeige4.2 3B: the label plus a one-sentence reason, as text. It answers slowly.
client = OpenAI(base_url="https://llmtr.com/v1", api_key=os.environ["LLMTR_API_KEY"], timeout=300.0)
response = client.chat.completions.create(
    model="llmtr/nanbeige4-2-3b",
    messages=[
        {"role": "system", "content": "Her zaman Türkçe cevap ver. İlk satıra faturalama, teknik ya da satis yaz; ikinci satıra tek cümlelik gerekçe yaz."},
        {"role": "user", "content": message},
    ],
    max_tokens=128,
)
print("llmtr/nanbeige4-2-3b", response.choices[0].message.content, response.usage.prompt_tokens, response.usage.completion_tokens)

Leyla'da Türkçe sorular nasıl yazılır?

LLMTR dokümantasyonu Türkçe metin gönderirken şu yazımı önerir: noul ve score sorularında instructions alanını ve seviye adlarını İngilizce yazın, metnin kendisi Türkçe kalabilir. choice sorusunda seçenek açıklamalarını Türkçe ve kısa anahtar kelimelerle yazın; uzun açıklama sonucu iyileştirmez. diger gibi genel bir seçeneğin seçilmesine güvenmeyin; en yüksek olasılık düşükse, örneğin 0,6'nın altındaysa sonucu belirsiz sayıp insana yönlendirin. Çok seçenekli bir sınıflandırmayı canlıya almadan önce 50-100 gerçek örnekle ölçün.

Leyla 1.024 token bağlamla çalışır; pencereyi aşan metin hata döndürmez, kesilir ve kesilen kısım değerlendirilmez. Karar için gereken kısmı siz seçin. Tek istekte en fazla 64 soru gönderilebilir. Leyla Playground'da görünmez ve sohbet uç noktalarında çağrılamaz; yalnızca /v1/systemone üzerinde yanıt verir. Nanbeige4.2 3B'de 32.768 token'lık pencere istem ve cevap arasında paylaşılır; cevap yavaş üretildiği için akış kullanın.

Hangi durumda hangisi?

Aşağıdaki seçimler istek biçimi, fiyat ve bağlam farkından çıkar; iki model de Türkiye'de barındırıldığı için barındırma seçimi değiştirmez. Doğruluğu kendi etiketli örneklerinizle karşılaştırın.

  • Türkçe destek taleplerini sabit ekiplere yönlendirmek: LLMTR'de Leyla, llmtr/leyla, bir choice sorusuyla; 1 milyon girdi token'ı başına 0,03 $, çıktı fiyatı 0 $.
  • Bir kararı otomatik uygulamak ya da insana devretmek: Leyla; probabilities ve confidence değerleriyle eşiği kodunuzda siz belirlersiniz.
  • Etiketin yanında gerekçe, özet ya da müşteriye gidecek bir cevap taslağı: Nanbeige4.2 3B, llmtr/nanbeige4-2-3b; Leyla serbest metin üretmez.
  • 1.024 token'dan uzun ve kesilmemesi gereken metin: Nanbeige4.2 3B, 32.768 token'lık pencereyle; Leyla'da pencereyi aşan kısım değerlendirilmez.
  • Aynı metne birkaç soru: Leyla tek istekte en fazla 64 soru alır ve metni her soru için ayrı sayar; yalnızca kullanacağınız soruları gönderin.

İki modeli aynı akışta kullanmak

Yaygın bir düzen şudur: her mesajı önce Leyla ile sınıflandırın, olasılık eşiği geçen mesajları doğrudan ilgili ekibe gönderin ve yalnızca cevap taslağı gereken mesajlar için Nanbeige4.2 3B'yi çağırın. Böylece her mesaj için metin üretmezsiniz ve sınıflandırmanın tutarı Leyla'nın girdi fiyatında kalır. İki çağrı da aynı API anahtarını ve aynı bakiyeyi kullanır; bakiye Panel > Faturalandırma'dan yüklenir.

Türkçe bir sınıflandırmayı Leyla ve Nanbeige4.2 3B ile karşılaştırma

Aynı etiketli Türkçe mesajları iki modele gönderin; doğruluğu, olasılıkları, token kullanımını ve tutarı karşılaştırın.

  1. Anahtar. llmtr.com'da bir API anahtarı oluşturun ve Panel > Faturalandırma'dan bakiye yükleyin.
  2. Etiketli örnekler. 50-100 gerçek mesajı Leyla'ya https://llmtr.com/v1/systemone, Nanbeige4.2 3B'ye https://llmtr.com/v1/chat/completions üzerinden gönderin.
  3. Eşik ve seçim. Doğru etiket oranını, Leyla'nın olasılıklarını ve tutarı karşılaştırın; eşiği ve model kimliğini seçin.

Sık sorulan sorular

Leyla serbest metin yazabilir mi?

Hayır. Leyla tanımladığınız her soru için bir seçim, bir puan ya da evet olasılığı döndürür. Gerekçe, özet ya da cevap taslağı için Nanbeige4.2 3B'yi /v1/chat/completions üzerinden çağırın.

Leyla'ya 1.024 token'dan uzun metin gönderirsem ne olur?

İstek hata döndürmez; metin kesilir ve kesilen kısım değerlendirilmez. Karar için gereken kısmı kendiniz seçin ya da metnin tamamının okunması gerekiyorsa 32.768 token'lık pencereyle Nanbeige4.2 3B'yi kullanın.

1.000 mesajı sınıflandırmak ne tutar?

Mesaj başına 400 token varsayımıyla Leyla'da tek soruyla 0,012 $, iki soruyla 0,024 $; Nanbeige4.2 3B'de 5 token'lık etiketle 0,415 $, etiket ve gerekçe 40 token tutarsa 0,52 $.

İlgili yazılar