Shanghai AI Lab modellerinde düşünmeyi kapatma ve token hakkı

Kısa yanıt: düşünme çıktı token'ı olarak hakka sayılır, :fast ya da "reasoning": false kapatır

LLMTR, farklı sağlayıcıların dil modellerine tek bir OpenAI uyumlu API ile erişim veren bir gateway'dir. Shanghai AI Lab'ın Intern-S2 (internlm/intern-s2-free), Atria-Dawn (internlm/atria-dawn-free), Atria-Dawn Preview (internlm/atria-dawn-preview-free), Agents-A1 (internlm/agents-a1-free) ve Sage-A1.5 (internlm/sage-a1.5-free) modelleri https://llmtr.com/v1 adresindeki /v1/chat/completions uç noktasından çağrılır ve 31 Ekim 2026 23:59'a (TSİ) kadar ücretsizdir. Beşi de varsayılan olarak yanıttan önce düşünür; düşünme token'ları completion_tokens içinde sayılır ve günlük token hakkından düşer. Düşünmeyi kapatmak için istek gövdesine "reasoning": false ekleyin ya da model kimliğinin sonuna :fast yazın; :think ya da "reasoning": true düşünmeyi açık tutar. 1 Kasım 2026'dan itibaren aynı işi Nemotron 3.5 Super VL (nvidia/nemotron-3.5-super-vl-free), Nemotron 3 Ultra (nvidia/nemotron-3-ultra-550b-a55b), Agnes 2.5 Flash (agnes/agnes-2.5-flash), Qwen3.6 35B-A3B (qwen/qwen3.6-35b-a3b), DeepSeek V4.1 Flash (deepseek/deepseek-flash) ya da MiniMax M3.1 Flash (minimax/minimax-m3.1-flash) ile sürdürürsünüz.

Hak her hesap için ve her model için ayrıdır: günde 500.000 token, girdi ve çıktı birlikte, düşünme token'ları dahil; yeni hesaplar ilk gün daha düşük bir hakla başlar. Hak her gün 00:00'da (TSİ) yenilenir ve bu satırlarda bakiyenizden ücret düşmez.

Düşünme günlük token hakkını nasıl tüketir, nasıl kapatılır?

Bir isteğin haktan düşen miktarı, yanıtın usage alanındaki prompt_tokens ile completion_tokens toplamıdır. Düşünme metni cevaptan ayrı olarak reasoning_content alanında gelir, ama token'ları completion_tokens içinde sayılır. Düşünmeyi kapattığınızda completion_tokens yalnızca cevabı sayar ve yanıtta reasoning_content metni olmaz.

Tablo dört ayarı ve her birinin sonucunu gösterir. Ayar istek başınadır: aynı model kimliğiyle bir istekte düşünmeyi kapatıp bir sonrakinde açabilirsiniz.

Aynı istekte düşünme açık ve kapalıyken hak kaç isteğe yeter?

Örneğin bir sınıflandırma isteği 1.500 token'lık istem taşısın ve cevabı 500 token olsun. Düşünme açıkken modelin cevaptan önce 3.000 token düşündüğünü varsayın: istek 1.500 + 3.000 + 500 = 5.000 token tutar ve 500.000 token'lık günlük hak bu boyutta 100 isteğe yeter (500.000 / 5.000); yeni hesaplar ilk gün daha düşük bir hakla başlar, o gün bu sayı da düşer. Düşünme kapalıyken aynı istek 1.500 + 500 = 2.000 token tutar ve hak 250 isteğe yeter (500.000 / 2.000). Bu sayılar varsayımsaldır; düşünmenin uzunluğu sorudan soruya değişir, kendi isteklerinizin usage değerlerine bakın.

Hak azaldığında cevap finish_reason: "length" ile kesilebilir. Hak bittiğinde istek 429 rate_limit_error döner; Retry-After başlığı ne zaman tekrar deneyeceğinizi söyler ve hak 00:00'da (TSİ) yenilenir. İstem kalan haktan büyükse hata daha kısa bir istek göndermenizi söyler.

max_tokens, finish_reason ve akışta düşünme parçaları

Düşünme token'ları max_tokens sınırına sayılır. Kısa bir max_tokens yanıtı düşünme bitmeden kesebilir; bu durumda finish_reason: "length" gelir ve cevap eksik kalır. Düşünme açıkken max_tokens için en az 4.096 verin, uzun problemlerde 16.384 gibi daha cömert bir değer kullanın. Çıktı ayrı bir sınırla değil bağlam penceresiyle sınırlıdır: Intern-S2, Agents-A1 ve Sage-A1.5'te 262.144, iki Atria satırında 524.288 token; istem ve çıktı aynı pencereyi paylaşır.

Akışta (stream: true) düşünme metni delta.reasoning_content, cevap delta.content alanında gelir. stream_options içinde "include_usage": true gönderirseniz son parçada usage gelir ve isteğin haktan ne kadar düştüğünü oradan okursunuz. Araç döngüsünde her tur ayrı bir istektir: her turun düşünmesi ayrıca sayılır ve önceki turların mesajları her istekte yeniden istem olarak sayılır.

Aynı soruyu :fast ile ve :fast olmadan göndermek

Aşağıdaki örnek aynı soruyu Atria-Dawn'a bir kez düz model kimliğiyle, bir kez sonuna :fast eklenmiş kimlikle gönderir; finish_reason, completion_tokens, reasoning_content uzunluğu ve haktan düşen toplamı yazdırır. reasoning_content standart bir OpenAI alanı olmadığı için getattr ile güvenli okunur. Aynı karşılaştırmayı diğer dört satırla da yapabilirsiniz; :fast yerine düz kimlikle extra_body={"reasoning": False} göndermek de düşünmeyi kapatır.

Aynı soruyu Atria-Dawn'a düşünme açık ve :fast ile kapalı olarak https://llmtr.com/v1/chat/completions üzerinden gönderip completion_tokens ve reasoning_content uzunluğunu karşılaştıran OpenAI Python SDK örneği.

import os

from openai import OpenAI

client = OpenAI(base_url="https://llmtr.com/v1", api_key=os.environ["LLMTR_API_KEY"])

QUESTION = "A train leaves at 09:40 and arrives at 13:05. How long is the trip in minutes?"

# Same question with reasoning on (plain id) and off (":fast" suffix).
# extra_body={"reasoning": False} on the plain id turns it off as well.
for model in ["internlm/atria-dawn-free", "internlm/atria-dawn-free:fast"]:
    response = client.chat.completions.create(
        model=model,
        messages=[{"role": "user", "content": QUESTION}],
        max_tokens=8192,
    )
    message = response.choices[0].message
    reasoning = getattr(message, "reasoning_content", None) or ""
    usage = response.usage
    # The daily allowance counts prompt + completion tokens; reasoning is inside completion_tokens.
    print(model, response.choices[0].finish_reason)
    print("  completion_tokens:", usage.completion_tokens)
    print("  reasoning_content characters:", len(reasoning))
    print("  counted toward the allowance:", usage.prompt_tokens + usage.completion_tokens)
    print("  answer:", (message.content or "").strip()[:200])

Hangi durumda hangisi?

Aşağıdaki seçimler token sayımından çıkar ve kalite iddiası taşımaz; çıktıyı kendi örneklerinizle karşılaştırın.

• Kısa sınıflandırma, etiketleme ya da alan çıkarma: düşünmeyi kapatın (:fast ya da "reasoning": false); hakkın büyük kısmı istem ve cevaba kalır.
• Çok adımlı bir matematik, kod ya da planlama problemi: düşünmeyi açık bırakın, max_tokens değerini cömert verin ve finish_reason: "length" gelirse sınırı yükseltin.
• Araç döngüsündeki ara adımlar: her turun düşünmesi ayrı sayıldığı için ara turları düşünme kapalı, son değerlendirme turunu düşünme açık göndermeyi deneyin ve sonucu kendi örneklerinizle karşılaştırın.
• Cevabın hemen başlaması gereken bir akış arayüzü: model cevaptan önce düşündüğü için düşünmeyi kapatın.
• Hassas, kişisel ya da müşteri verisi: düşünme ayarı ne olursa olsun bu satırları kullanmayın; veri notu istemlerin ve tamamlamaların sağlayıcı tarafından günlüğe kaydedilebileceğini ve modeli geliştirmek için kullanılabileceğini söyler.

1 Kasım 2026'dan sonra düşünme ayarı nasıl taşınır?

31 Ekim 2026 23:59'dan (TSİ) sonra, yani 1 Kasım 2026 00:00'dan itibaren beş satır da 410 model_retired döner, istek başka bir modele yönlendirilmez ve halefleri yoktur; model kimliğini değiştirmeniz gerekir. 31 Ekim 2026'dan sonra Intern-S2'nin görselli bilimsel soruları için ücretsiz devam satırı Nemotron 3.5 Super VL'dir (nvidia/nemotron-3.5-super-vl-free): varsayılan olarak düşünür ve aynı "reasoning": false ya da :fast ile kapanır. Ücretli Qwen3.6 35B-A3B (qwen/qwen3.6-35b-a3b) görsel kabul eder ve Qwen'in model kartına göre varsayılan olarak düşünme modunda çalışır; LLMTR'de aynı biçimle kapanır. Agents-A1 ve Sage-A1.5 akışları için de bu iki satır uygundur; ücretli bir seçenek olarak DeepSeek V4.1 Flash da görsel kabul eder.

Uzun metin ve JSON işlerinde 31 Ekim 2026 sonrası için ücretsiz Nemotron 3 Ultra'nın (nvidia/nemotron-3-ultra-550b-a55b) düşünmesi varsayılan olarak kapalıdır. Agnes 2.5 Flash (agnes/agnes-2.5-flash) :fast ve :think kabul eder, ama kotası token değil istek sayar; orada düşünmeyi kapatmak tüketilen hakkı değiştirmez. Ücretli DeepSeek V4.1 Flash (deepseek/deepseek-flash) varsayılan olarak düşünür ve kartında düşünmeyi kapatma seçeneği listelenmez. MiniMax M3.1 Flash'ta (minimax/minimax-m3.1-flash) düşünme kapatılamaz; derinliği reasoning_effort ile low ile max arasında seçilir. Ücretli satırlarda düşünme token'ları çıktı fiyatından faturalanır.

• Qwen, Qwen3.6-35B-A3B model kartı · 2026-10-22

Düşünmenin günlük hakka etkisini kendi isteğinizle görmek

Aynı soruyu düşünme açık ve kapalı gönderin, usage değerlerini karşılaştırın ve işe göre ayarı seçin.

1. Anahtar. llmtr.com'da Panel > API Anahtarları altında bir API anahtarı oluşturun.
2. İki istek. Aynı soruyu düz model kimliğiyle ve sonuna :fast eklenmiş kimlikle https://llmtr.com/v1/chat/completions uç noktasına gönderin.
3. Karar. prompt_tokens ve completion_tokens toplamlarını karşılaştırın; kısa işlerde düşünmeyi kapatın, çok adımlı işlerde açık bırakın.

Sık sorulan sorular

Bu satırlara reasoning_effort gönderirsem ne olur?

İstek 400 invalid_request döner. Hata mesajı modelin düşünmeyi açma ve kapama biçiminde sunduğunu söyler ve açmak için "reasoning": true ya da :think önerir. Kapatmak için "reasoning": false gönderin ya da model kimliğine :fast ekleyin.

Düşünme token'ları günlük hakka sayılır mı?

Evet. Hak girdi ve çıktı token'larını birlikte sayar ve düşünme token'ları çıktının içindedir. Hak her gün 00:00'da (TSİ) yenilenir; dolduğunda istek 429 rate_limit_error döner ve Retry-After başlığı tekrar deneme zamanını verir.

Düşünmeyi kapatınca reasoning_content gelir mi?

Hayır, düşünme kapalıyken model doğrudan cevap verir ve yanıtta reasoning_content metni olmaz. Düşünme açıkken düşünme metni reasoning_content alanında, akışta delta.reasoning_content alanında gelir.

İlgili yazılar

• Shanghai AI Lab modelleri: Intern-S2'den Sage-A1.5'e beş model
• Agents-A1 ile araç çağıran ajan döngüsü kurmak
• Intern-S2 API ile bilimsel grafik ve tablo okuma
• Ücretsiz Nemotron 3.5 Super VL API: görsel ve video girdi
• Atria-Dawn ile uzun dokümandan JSON Schema ile veri çıkarma

• Intern-S2 model sayfası
• Atria-Dawn model sayfası
• Atria-Dawn Preview model sayfası
• Agents-A1 model sayfası
• Sage-A1.5 model sayfası
• Nemotron 3.5 Super VL (ücretsiz) model sayfası
• Nemotron 3 Ultra 550B A55B model sayfası
• Agnes 2.5 Flash model sayfası
• Qwen3.6 35B-A3B model sayfası
• DeepSeek V4.1 Flash model sayfası
• MiniMax M3.1 Flash model sayfası
• Düşünme kontrolü dokümantasyonu
• Hata kodları
• Akış (streaming) dokümantasyonu