K2 Horizon API'si: 375B parametreli açık ağırlıklı model

Kısa yanıt: K2 Horizon'u OpenAI SDK ile çağırın

LLMTR, farklı sağlayıcıların dil modellerine tek bir OpenAI uyumlu API ile erişim veren bir gateway'dir. K2 Horizon'u burada ifm/k2-horizon-375b-a23b model kimliğiyle, https://llmtr.com/v1 adresindeki /v1/chat/completions uç noktasından çağırırsınız. OpenAI SDK'sında yalnızca base_url ve model kimliği değişir.

K2 Horizon, MBZUAI'nin Institute of Foundation Models (IFM) biriminin geliştirdiği model ailesidir. IFM'in model kartına göre 375B-A23B, 375 milyar parametre saklar ve token başına 23 milyarını çalıştırır. Bağlam penceresi 524.288 token'dır ve ağırlıklar Apache 2.0 lisansıyla açıktır. Aynı ailenin Arapçaya uyarlanmış modelleri Jais 3 adını taşır.

• IFM, K2-Horizon-375B-A23B model kartı · 2026-10-17
• IFM ve Inception42, Jais 3 duyurusu (15 Ekim 2026) · 2026-10-17

K2 Horizon API'si nasıl kullanılır?

LLMTR'de bir API anahtarı oluşturun ve onu LLMTR_API_KEY ortam değişkeninde saklayın. OpenAI istemcisinin base_url değerini https://llmtr.com/v1 yapın, model olarak ifm/k2-horizon-375b-a23b yazın. Aşağıdaki Python örneği, IFM'in model kartında önerdiği ayarlarla bir soru gönderir: reasoning_effort high, temperature 1,0 ve top_p 0,95.

Model her yanıttan önce düşünür ve bu kapatılamaz. Düşünme metni yanıtın reasoning_content alanında, cevap content alanında döner. Düşünme token'ları max_tokens sınırına sayılır; kısa bir sınır cevap yazılmadan düşünmeyi keser ve yanıt boş content ile finish_reason length döner. Örnek bu yüzden 16.384 token verir ve kesilmeyi kontrol eder.

stream true ile istek gönderdiğinizde önce düşünme parçaları reasoning_content alanında, ardından cevap parçaları content alanında gelir. stream_options içinde include_usage true gönderirseniz akışın son parçası token kullanımını taşır.

ifm/k2-horizon-375b-a23b'ye IFM'in önerdiği reasoning_effort, temperature ve top_p ayarlarıyla soru gönderen, max_tokens kesilmesini kontrol eden ve token kullanımını yazdıran OpenAI Python SDK örneği.

import os

from openai import OpenAI

client = OpenAI(base_url="https://llmtr.com/v1", api_key=os.environ["LLMTR_API_KEY"])

response = client.chat.completions.create(
    model="ifm/k2-horizon-375b-a23b",
    messages=[
        {"role": "system", "content": "You are a careful senior engineer. Answer briefly."},
        {
            "role": "user",
            "content": "A cron job runs at 02:30 every day in Europe/Istanbul. "
            "What UTC time is that, and does it change with daylight saving time?",
        },
    ],
    reasoning_effort="high",
    temperature=1.0,
    top_p=0.95,
    max_tokens=16384,
)

choice = response.choices[0]
print(choice.message.content)
if choice.finish_reason == "length":
    print("Cut at max_tokens: raise the limit, reasoning counts toward it.")
print(response.usage)

K2 Horizon'un LLMTR'deki değerleri

Tablo satırın katalogdaki değerlerini gösterir. Görsel ya da ses parçası içeren mesajlar 400 unsupported_input ile döner. Araç çağırmada tool_choice auto, required, adlandırılmış fonksiyon ve none desteklenir.

Uzun bağlam ve araçlarla çalışırken

524.288 token'lık pencere istem ve cevap tarafından birlikte paylaşılır. Uzun bir belgeyi istemle gönderiyorsanız düşünme ve cevap için yer bırakın; yanıttaki usage.prompt_tokens değeri istemin gerçek boyutunu söyler.

K2 Horizon araç çağırmada OpenAI biçimini kullanır ve tool_choice için required ile adlandırılmış fonksiyonu da destekler; LangChain'in yapılandırılmış çıktı yardımcıları gibi zorunlu araç çağrısı kullanan araçlarla çalışır. Çok turlu konuşmada önceki asistan mesajlarını geçmişe eklerken reasoning_content alanını geri göndermeniz gerekmez.

IFM'in model kartı dil olarak İngilizceyi listeler. Arapça için aynı ailenin Jais 3 modeli geliştirilmiştir.

Hata durumları ve ne yapmalı

400 invalid_request, isteğin bu satırda kabul edilmeyen bir değer taşıdığını söyler: reasoning_effort low ya da none ya da düşünmeyi kapatan bir reasoning alanı. 400 unsupported_input görsel ya da ses parçası içeren bir mesaj içindir. Bu hatalar istek modele gitmeden döner; mesajı okuyup isteği düzeltin, aynen tekrarlamayın.

429 iki durumda gelir. Retry-After birkaç saniyeyse kısa süreli istek sınırı doludur; o kadar bekleyip tekrarlayın. Retry-After saatlerle ölçülüyorsa günlük hak dolmuştur; 00:00'dan (TSİ) sonra tekrar deneyin. 503 model_unavailable geçici bir sorunu bildirir; Retry-After varsa o süre sonra tekrar deneyin.

6 Kasım 2026 00:00'dan (TSİ) itibaren gelen 410 model_retired kalıcıdır. Kodunuzda model kimliğini yapılandırmadan okuyun; böylece başka bir modele geçmek tek bir ayarı değiştirmek olur.

Ücretsiz dönem, günlük hak ve veri notu

Satır 5 Kasım 2026 23:59'a (TSİ) kadar ücretsizdir ve her hesabın bu model için günde 200.000 token hakkı vardır; girdi ve çıktı birlikte sayılır, düşünme token'ları da çıktıya dahildir. Bu hak Jais 3'ün hakkından ayrı sayılır. Hak dolduğunda API 429 döner, Retry-After başlığı ne zaman yeniden deneyebileceğinizi söyler ve hak 00:00'da (TSİ) yenilenir. Yeni açılan hesaplar ilk gün daha düşük bir hakla başlar. 6 Kasım 2026 00:00'dan itibaren model 410 model_retired döner ve istekler başka bir modele yönlendirilmez.

LLMTR'deki model sayfasının veri notuna göre istemler ve tamamlamalar sağlayıcı tarafından günlüğe kaydedilebilir ve modeli geliştirmek için kullanılabilir; hassas, kişisel veya müşteri verisi göndermeyin.

K2 Horizon'a ilk isteği gönderme

Bir API anahtarı oluşturun, base_url değerini https://llmtr.com/v1 yapın ve ifm/k2-horizon-375b-a23b ile bir soru gönderin.

1. API anahtarı. llmtr.com'da hesap açın, Dashboard > API Anahtarları altında bir anahtar oluşturun ve LLMTR_API_KEY ortam değişkeninde saklayın.
2. İstemciyi ayarlama. OpenAI SDK'sında base_url değerini https://llmtr.com/v1 yapın ve model olarak ifm/k2-horizon-375b-a23b yazın.
3. İstek. reasoning_effort high ve düşünmeye yer bırakan bir max_tokens ile soruyu gönderin, finish_reason değerini kontrol edin.

Sık sorulan sorular

K2 Horizon'da düşünme kapatılabilir mi?

Hayır. Model her yanıttan önce düşünür. reasoning_effort ile medium veya high seçilir; low, none ve reasoning enabled false 400 döner.

ifm/k2-horizon-375b-a23b hangi bağlamı destekler?

524.288 token. Pencere istem ve cevap tarafından birlikte paylaşılır; düşünme token'ları da cevaba dahildir.

K2 Horizon araç çağırmayı destekliyor mu?

Evet. OpenAI biçiminde araç çağırır; tool_choice için auto, required, adlandırılmış fonksiyon ve none desteklenir. response_format ile json_object ve json_schema da açıktır.

İlgili yazılar

• K2 Horizon'da reasoning_effort ve max_tokens ayarı
• Jais 3 mü, K2 Horizon mu? IFM'in iki modelini seçmek
• LLMTR'de Arapça modeller: Jais 3, Jais ASR ve K2 Horizon
• K2 Horizon, DeepSeek V4 Pro, GLM-5.3 ve Nemotron 3 Ultra

• K2 Horizon 375B A23B model sayfası
• IFM Jais dokümantasyonu
• Hata kodları