LLMTR Qwen 3.8 27B

Qwen 3.8 27B, Türkiye'de barındırdığımız birinci taraf sohbet modelidir. llmtr/qwen3-8-27b canonical model kimliği ile /v1/chat/completions üzerinden çağrılır. Verinin Türkiye'de işlenmesi gereken ajan akışları, kod işleri ve uzun belge analizi için uygundur.

Özellik	Değer
Model kimliği	llmtr/qwen3-8-27b
Bağlam penceresi	262.144 token (262K)
Fiyat (input / output / cache read)	5.00 / 7.00 / 1.25 $ per 1M token
Görsel girdi	Yok
Prompt cache	Var
Araç çağırma	Var
JSON çıktısı	JSON nesnesi ve JSON şeması
Düşünme modu	Var, varsayılan kapalı
Ses / video girdisi	Yok
Görsel üretimi	Yok

curl "$LLMTR_BASE_URL/v1/chat/completions" \
  -H "Authorization: Bearer llmtr-your_key" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llmtr/qwen3-8-27b",
    "messages": [
      { "role": "user", "content": "Bu sozlesme maddesini iki cumlede ozetle." }
    ],
    "max_tokens": 1024
  }'

Düşünme modu varsayılan kapalıdır

Düz bir istekte model doğrudan yanıt verir; akıl yürütme adımı çalışmaz ve ek token harcanmaz. Çok adımlı muhakeme, zor bir hata ayıklama ya da planlama gerektiren işlerde düşünmeyi açın. İki yol da aynı işi yapar:

// Model kimliğine :think suffix'i
{ "model": "llmtr/qwen3-8-27b:think", "messages": [{ "role": "user", "content": "Bu fonksiyondaki yaris kosulunu bul." }], "max_tokens": 8192 }

// Veya istek gövdesinde reasoning alanı
{ "model": "llmtr/qwen3-8-27b", "reasoning": true, "messages": [{ "role": "user", "content": "Bu fonksiyondaki yaris kosulunu bul." }], "max_tokens": 8192 }

Düşünme açıkken akıl yürütme message.reasoning_content alanında döner ve ürettiği tokenlar max_tokens bütçenizden harcanır. Bütçe küçükse akıl yürütme bütçeyi tüketir ve model cevaba geçemeden durur; finish_reason length olur. Bu durumda yanıtta nihai cevap yoktur: content boş gelebilir ya da yarıda kalan akıl yürütmeyi taşıyabilir. Ayırt etmek için content alanına değil finish_reason değerine bakın:

{
  "choices": [
    {
      "message": {
        "role": "assistant",
        "content": "Fonksiyon iki is parcacigindan cagriliyor. Once...",
        "reasoning_content": "Fonksiyon iki is parcacigindan cagriliyor. Once..."
      },
      "finish_reason": "length"
    }
  ]
}

Düşünme açıkken max_tokens değerini en az 4096 verin; zor sorularda 8192 ve üstü gerekir. Yanıtı kullanmadan önce finish_reason değerini kontrol edin: length ise cevap tamamlanmamıştır, bütçeyi artırıp isteği yeniden gönderin.

:fast suffix'i ve reasoning: false düşünmeyi kapalı tutar; varsayılan davranış zaten budur.

Akıl yürütme tokenları output olarak faturalanır ve completion_tokens içinde zaten sayılıdır; ikinci kez ücretlendirilmez.

Girdi türü

Model yalnızca metin kabul eder. Mesaj içinde image_url, ses, video veya dosya parçası gönderirseniz istek 400 unsupported_input döner:

{
  "error": {
    "message": "Model does not support image input",
    "type": "unsupported_input"
  }
}

Görsel okuması gereken işler için katalogdaki görsel girdi destekleyen modellerden birini seçin.

Araç çağırma

Model standart OpenAI tools şemasını destekler ve gerçek tool_calls döndürür. tool_choice için auto, required, none ve adıyla seçilmiş tek bir fonksiyon kullanılabilir.

{
  "choices": [
    {
      "message": {
        "role": "assistant",
        "content": "",
        "tool_calls": [
          {
            "id": "call_1",
            "type": "function",
            "function": { "name": "get_weather", "arguments": "{\"city\":\"Ankara\"}" }
          }
        ]
      },
      "finish_reason": "tool_calls"
    }
  ]
}

Tek yanıtta birden fazla araç çağrısı gelebilir, garanti değildir; istemciniz tool_calls dizisinin tamamını işlemelidir. Çok adımlı akışlarda assistant mesajını tool_calls ve varsa reasoning_content alanlarıyla birlikte geçmişe ekleyin.

JSON çıktısı

response_format ile iki biçim desteklenir:

// Geçerli bir JSON nesnesi
{ "response_format": { "type": "json_object" } }

// Verdiğiniz şemaya uyan JSON
{
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "siparis",
      "strict": true,
      "schema": {
        "type": "object",
        "additionalProperties": false,
        "required": ["urun", "adet"],
        "properties": {
          "urun": { "type": "string" },
          "adet": { "type": "number" }
        }
      }
    }
  }
}

json_object yalnızca çıktının geçerli JSON olmasını sağlar; hangi alanların döneceğini isteminizde tarif edin. Alan adlarının ve tiplerinin sabit olması gerekiyorsa json_schema kullanın. max_tokens yanıtın tamamına yetmezse JSON yarıda kesilir; finish_reason değerini kontrol edin.

Prompt cache

Tekrar eden istem başlangıçları (uzun sistem promptu, sabit RAG bağlamı, ajan döngüsü) önbellekten karşılanabilir. Önbellekten gelen tokenlar prompt_tokens_details.cached_tokens alanında raporlanır ve input yerine cache read tarifesinden faturalanır:

"usage": {
  "prompt_tokens": 8461,
  "completion_tokens": 3,
  "total_tokens": 8464,
  "prompt_tokens_details": { "cached_tokens": 7840 }
}

Bu örnekte 7840 token 1.25 $/1M, kalan 621 token 5.00 $/1M üzerinden ücretlendirilir. Maliyeti düşürmek için sabit içeriği mesaj dizisinin başında, değişen içeriği sonunda tutun.

Önbellek isabeti garanti değildir: bir önek ilk gönderimde isabet etmez, sonraki tekrarlarda edebilir. Faturalama her zaman cached_tokens alanında bildirilen gerçek değere göre yapılır; isabet olmayan istekler normal input tarifesinden ücretlendirilir. Bu nedenle önbelleği bir maliyet optimizasyonu olarak planlayın, garantili bir indirim olarak değil.

Bağlam penceresi

Bağlam penceresi istek başına 262.144 tokendır ve prompt ile cevabı birlikte kapsar. Bu sınırı aşan istekler 400 döner. Çıktı için ayrı bir üst sınır yoktur; bir yanıt bağlamda kalan yer kadar uzayabilir.