Model karşılaştırmaları · 2026-09-25

Ember-1 bağlam, cache ve kullanım maliyeti

Uzun bağlam her şeyi tek isteğe koymak için sınırsız izin değildir. Sistem talimatı, geçmiş, araç sonucu, yeni girdi ve üretilecek çıktı ortak bütçeyi paylaşır. Ember-1 katalog bağlamı 1.048.576 tokendir; ayrı output tavanı ilan edilmediği için kalan bağlamla plan yapın. Cache otomatik oluşur; `prompt_cache_key` göndererek oluşacağını varsaymayın.

Bu rehberin amacı

İlk deneyi tasarlamak

Uzun bağlam bütçesini belgeye göre planlayın. Sistem talimatı, önceki konuşma, araç sonucu, yeni girdi ve üretilen çıktı aynı pencereyi paylaşır. 1.048.576 token sınırı büyük olsa da her şeyi eklemek yerine alakasız bölümleri çıkarın ve beklenen çıktı için pay bırakın.

Cache'i indirim garantisi olarak değil usage ölçümü olarak görün. Tekrarlanan sabit önekleri düzenli tutun, fakat `prompt_cache_key` göndermenin cache oluşturacağını varsaymayın. Her sürümde cache read, cache'siz input ve output sayılarını ayrı kaydedin.

Uygulama sınırı

Ham oranlarda cache'siz input $3/M, cache read $0,30/M ve output $15/M tokendir. 100.000 cache'siz input ile 20.000 output yaklaşık $0,60 eder. Bu örnekte cache read yoktur; aynı tokenı iki satırda saymak maliyeti bozar.

LLMTR üzerinden temel Ember-1 çağrısı

curl "$LLMTR_BASE_URL/v1/chat/completions" \
  -H "Authorization: Bearer $LLMTR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"fireworks/ember-1","messages":[{"role":"user","content":"Write a concise technical summary."}],"max_tokens":800}'

Doğrulanacak API sınırları

Ham oranlar cache'siz input $3/M, cache read $0,30/M ve output $15/M tokendir. Varsayımsal 100.000 cache'siz input ve 20.000 output yaklaşık $0,60 eder; örnekte cache read yoktur. Streaming usage son çerçevede gelir; reasoning `delta.reasoning_content` olarak akabilir.

Streaming arayüzünde kesin usage son çerçevede gelir; ara metinden kesin ücret türetmeyin. Reasoning `delta.reasoning_content` olarak akabilir. Bütçe alarmını tahmine değil tamamlanmış kullanım kaydına ve istek başına üst sınıra bağlayın.

Model kimliği `fireworks/ember-1`, istek yüzeyi `/v1/chat/completions` olarak kullanılır.
Bu model üçüncü taraf altyapıda çalışır; hassas veri için sağlayıcı veri politikasını değerlendirin.
Uygulama işlemi öncesinde model çıktısını sunucu tarafında doğrulayın.

Yayın kararı ve kanıt kaydı

Her değerlendirmede `moonshot/kimi-k3` alternatifini de çalıştırın. LLMTR, `fireworks/ember-1` kimliğini 6 Ekim 2026 saat 00:00 Avrupa/İstanbul için emekli etmeyi planlar; bu, Fireworks tarafından ilan edilmiş mutlak bir kapanış değildir. Ember-1 bağlam, cache ve kullanım maliyeti için karar kaydına test setinin sürümünü, katalogdaki yetenekleri, beklenen istek biçimini ve kabul edilmeyen sonucu yazın. Yeni bir sağlayıcı yanıtı geldiğinde önce örneği saklayın, ardından davranışı yeniden üretin. Yalnızca başarılı örnekleri toplamak yanıltır; başarısız, boş veya beklenmeyen cevaplar da karşılaştırmanın parçasıdır. Değişiklikte hem kullanıcı sonucu hem de operasyon maliyeti izlenmelidir. İstek kimliği, model kimliği, gecikme, kullanım sayıları ve hata sınıfı gibi asgari metadatayı kaydedin; istem veya yanıt içeriğini varsayılan olarak saklamayın. Eşiklerin hangi sahip tarafından değiştirileceği ve geri dönüşün ne zaman devreye gireceği önceden belirlenmelidir. Sonuçları haftalık olarak gözden geçirmek, tek bir lansman gününün rastlantısına dayanmayı önler. Sağlayıcı açıklaması değiştiğinde kaynak sayfasını yeniden okuyun, katalogdaki iddiayı ve gerçek çağrıyı tekrar karşılaştırın. Bu disiplin, önizleme modelinin belirsizliğini gizlemez fakat geri alınabilir bir ürün kararına dönüştürür.

Uzun belgeyi tek seferde göndermek yerine arama, seçme ve sentez adımlarını kıyaslayın. Her bölümün soruyla ilişkisini işaretleyin, seçilen parçaların kaynak konumunu yanıtla birlikte taşıyın. Bu yöntem hem bağlamı küçültür hem de kullanıcının hangi bölümün sonuca dayanak olduğunu görmesini sağlar.

Cache karşılaştırmasında aynı sistem talimatı ve aynı uzun öneki koruyun. Tarih, istek kimliği veya kullanıcıya özgü rastgele metni başa koymak tekrar kullanım olasılığını azaltabilir. Buna rağmen cache hit zorunlu değildir; kararınızı gerçek usage satırlarıyla verin.

Maliyet tahminini yayın öncesi senaryolara bölün: normal istek, uzun belge, yoğun araç sonucu ve yeniden deneme. Her senaryoda input, cache read ve output ayrı hesaplanır. En pahalı senaryo için kullanıcıya anlamlı bir sınır veya kuyruk davranışı tanımlayın.

Streaming arayüzünde kullanıcıya erken metin göstermek yararlıdır, fakat tamamlanmış iş anlamına gelmez. Bağlantı koparsa uygulama son usage çerçevesini ve işlem durumunu kontrol etmelidir. Kullanım kaydı gelmeden kesin fatura veya başarı bildirimi üretmeyin.

Ember-1 bağlam, cache ve kullanım maliyeti çalışmasının sonunda üç somut kanıt saklayın: kabul edilen ve reddedilen örneklerin özeti, kullanım ve gecikme ölçümü, ayrıca geri dönüş kararının nedeni. Bu kayıt bir sonraki model güncellemesinde aynı tartışmayı baştan yapmayı önler. Sonuçları yalnızca teknik ekip değil, ilgili ürün sahibi de okumalıdır; çünkü doğru görünen bir değişiklik kullanıcı akışını, destek yükünü veya maliyet bütçesini farklı biçimde etkileyebilir. Yeni davranışın hangi koşulda geçerli olduğunu kısa ve kullanıcıya dönük olarak belgelendirin. Böylece katalog iddiası, uygulama doğrulaması ve gerçek işletim sonucu birbirinden ayrılmadan izlenebilir.

Sık sorulan sorular

Cache her istekte çalışır mı?

Hayır. Tekrarlanan öneklerde otomatik oluşabilir; usage içinden kendi hit oranınızı izleyin.

100 bin input token ne tutar?

Cache'siz ham oranla yaklaşık $0,30; output ve cache read ayrı hesaplanır.

Streaming maliyeti erken bilinir mi?

Kesin usage son çerçevede gelir.