İçeriğe geç

StepFun

StepFun'un dört chat modeli LLMTR'de kullanılabilir. Hepsi /v1/chat/completions ile çağrılır, metin üretir ve yanıt vermeden önce düşünür.

Model Bağlam Giriş / Cache okuma / Çıkış ($/1M) Girdi
stepfun/step-5-preview 1.024.000 1 / 0.1 / 2.7 Metin, görsel, video
stepfun/step-3.7-flash 256.000 0.2 / 0.04 / 1.15 Metin, görsel, video
stepfun/step-3.5-flash 256.000 0.1 / 0.02 / 0.3 Metin
stepfun/step-3.5-flash-2603 256.000 0.1 / 0.02 / 0.3 Metin

Model fiyatlarına platform marjı eklenmez; marj yalnızca kredi yüklemede geçerlidir.

stepfun/step-5-preview, StepFun'un ajan işleri için geliştirdiği amiral gemisi modelin önizleme sürümüdür. Yazılım geliştirme, birden fazla kaynaktan uzun belge analizi, araç kullanan çok adımlı akışlar ve görsel ya da video yorumlama için uygundur. StepFun modeli "Preview" olarak yayınlıyor; katalogda Beta etiketiyle görünür.

Terminal window
curl "$LLMTR_BASE_URL/v1/chat/completions" \
-H "Authorization: Bearer llmtr-your_key" \
-H "Content-Type: application/json" \
-d '{
"model": "stepfun/step-5-preview",
"messages": [
{ "role": "system", "content": "Kısa ve Türkçe cevap ver." },
{ "role": "user", "content": "Bu hata kaydındaki asıl sorunu bul ve düzeltmeyi öner." }
],
"reasoning_effort": "medium",
"max_tokens": 4096
}'
from openai import OpenAI
client = OpenAI(base_url="https://llmtr.com/v1", api_key="llmtr-your_key")
response = client.chat.completions.create(
model="stepfun/step-5-preview",
messages=[{"role": "user", "content": "Bu üç raporun ortak bulgularını madde madde çıkar."}],
reasoning_effort="low",
max_tokens=4096,
)
print(response.choices[0].message.content)
print(response.usage)

StepFun bu model için 64K token çıktı belirtir. LLMTR bundan düşük bir tavan uygulamaz ve daha büyük bir max_tokens değerini reddetmez. Uzun çıktı beklediğiniz isteklerde yanıtın tamamlandığını finish_reason alanından kontrol edin: length dönerse çıktı bütçede kesilmiştir.

Düşünme derinliği reasoning_effort ile seçilir. Kabul edilen seviyeler modele göre değişir:

Model Kabul edilen seviyeler
stepfun/step-5-preview low, medium, high
stepfun/step-3.7-flash low, medium, high
stepfun/step-3.5-flash-2603 low, high
stepfun/step-3.5-flash Seviye seçilemez

Listede olmayan bir seviye (xhigh, max ya da Step 3.5 Flash'a gönderilen herhangi bir seviye) 400 ile reddedilir. Seviye, model kimliğine sonek olarak da verilebilir:

stepfun/step-5-preview -> varsayılan
stepfun/step-5-preview:low -> düşük efor, daha hızlı yanıt
stepfun/step-5-preview:high -> yüksek efor

reasoning_effort göndermediğinizde de model düşünür; parametre yalnızca derinliği ayarlar. Düşünce izi yanıtın message.reasoning_content alanında (akışta delta.reasoning_content) gelir, yanıtın kendisi content alanındadır.

Düşünme token'ları usage.completion_tokens içinde sayılır ve çıkış fiyatından faturalanır; completion_tokens_details.reasoning_tokens alanı bu modellerde ayrı bir sayı vermez. Düşünme max_tokens bütçesinden harcandığı için bütçeyi düşük tutarsanız model asıl yanıtı yazmadan durabilir ve finish_reason: "length" döner. Bu yanıtı tamamlanmamış sayın: akışsız çağrıda content boş gelmez, yarıda kalan düşünce metnini taşır. Kısa bir yanıt bekliyor olsanız bile bütçeyi bol tutun; birkaç bin token güvenli bir başlangıçtır.

Genel davranış için reasoning effort sayfasına bakın.

stepfun/step-5-preview ve stepfun/step-3.7-flash görsel ve video kabul eder.

  • Görsel: image_url parçası, data:image/...;base64, olarak. StepFun JPG, PNG, WebP ve hareketsiz GIF kabul eder.
  • Video: video_url parçası, data:video/mp4;base64, (veya video/quicktime) olarak. Base64 ile gönderilen video yaklaşık 9 MB ile sınırlıdır.
  • StepFun'un Files API'sine ait stepfile:// referansları LLMTR üzerinden kabul edilmez.
  • Bir mesajda en fazla 16 içerik parçası olabilir.
Terminal window
curl "$LLMTR_BASE_URL/v1/chat/completions" \
-H "Authorization: Bearer llmtr-your_key" \
-H "Content-Type: application/json" \
-d '{
"model": "stepfun/step-5-preview",
"messages": [{
"role": "user",
"content": [
{ "type": "text", "text": "Bu videoda hangi renkler görünüyor?" },
{ "type": "video_url", "video_url": { "url": "data:video/mp4;base64,AAAAIGZ0eXBpc29t..." } }
]
}],
"reasoning_effort": "low",
"max_tokens": 1024
}'

Görsel için aynı istekte { "type": "image_url", "image_url": { "url": "data:image/png;base64,iVBORw0KGgo..." } } parçasını kullanın.

Dört model de araç/fonksiyon çağrısını destekler. Model bir araç çağırdığında content boş gelir ve finish_reason tool_calls olur.

Terminal window
curl "$LLMTR_BASE_URL/v1/chat/completions" \
-H "Authorization: Bearer llmtr-your_key" \
-H "Content-Type: application/json" \
-d '{
"model": "stepfun/step-5-preview",
"messages": [{ "role": "user", "content": "İstanbul hava durumu?" }],
"tools": [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Bir şehrin güncel hava durumunu döndürür",
"parameters": {
"type": "object",
"properties": { "city": { "type": "string" } },
"required": ["city"]
}
}
}],
"max_tokens": 1024
}'

Araç sonucunu ikinci turda role: "tool" mesajıyla geri verin. Genel akış için araç çağrısı sayfasına bakın.

Dört model de response_format: { "type": "json_object" } ile JSON çıktısı üretir. stepfun/step-5-preview ayrıca json_schema ile verdiğiniz şemaya uyan çıktı üretir:

{
"model": "stepfun/step-5-preview",
"messages": [{ "role": "user", "content": "Türkiye'nin başkentini ve plaka kodunu ver." }],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "city",
"strict": true,
"schema": {
"type": "object",
"properties": {
"capital": { "type": "string" },
"plate_code": { "type": "integer" }
},
"required": ["capital", "plate_code"],
"additionalProperties": false
}
}
},
"max_tokens": 1024
}

StepFun, 256 token ve üzerindeki tekrarlanan istem öneklerini kendiliğinden önbelleğe alır; istekte bir şey işaretlemeniz gerekmez. Önbellekten karşılanan token sayısı usage.prompt_tokens_details.cached_tokens alanında döner ve bu token'lar cache okuma fiyatından faturalanır. Önbelleğe yazma için ayrı bir ücret yoktur. Önbellek bir indirimdir, garanti değildir: isabet, istem önekinin aynı kalmasına ve trafiğe bağlıdır. Uzun ve sabit kısmı (sistem mesajı, belge, araç tanımları) istemin başına koymak isabet ihtimalini artırır.

Dört model de stream: true ile gerçek akış verir; akışın son parçasında kesin usage gelir. Ayrıntılar için streaming sayfasına bakın.

StepFun istekleri StepFun'un kendi altyapısında işlenir; bu modeller LLMTR'nin kendi sunucularında barındırılmaz.