Model karşılaştırmaları · 2026-09-25

Ember-1 ile tool calling ve JSON Schema

Tool calling, modelin dış dünyada işlem yaptığı değil uygulamanın çağırabileceği fonksiyonu önerdiği anlamına gelir. Ember-1 otomatik ve zorunlu araç seçimini desteklese de iş kuralı uygulamada kalır. JSON Schema ayrıştırma hatasını azaltır ama veriyi doğru yapmaz; tutar, sahiplik, izin ve güncellik için ayrı sunucu doğrulaması gerekir.

Bu rehberin amacı

İlk deneyi tasarlamak

Araç çağrısını işlem izni değil, modelin ürettiği öneri olarak ele alın. Her araç için sunucu tarafında allowlist, kullanıcı yetkisi, sahiplik ve idempotency denetimi bulunmalıdır. Modelin `tool_choice: required` ile bir araç seçmesi bu denetimlerin yerine geçmez.

Araç sözleşmesini küçük tutun. Alan adları, türler, izin verilen değerler ve başarısızlık davranışı açık olmalıdır. Modelin gönderdiği argümanı Zod veya eşdeğeriyle parse edin; geçersiz değer gördüğünüzde dış sistemi çağırmak yerine düzeltilebilir hata döndürün.

Uygulama sınırı

`json_object` JSON nesnesi istemek için kullanılabilir, fakat strict JSON Schema desteği varsayılmamalıdır. Şekil doğrulamasını uygulamaya taşıyın ve cevap metni ile araç argümanını birbirine karıştırmayın. Bu ayrım kayıt ve hata ayıklamayı kolaylaştırır.

LLMTR üzerinden temel Ember-1 çağrısı

curl "$LLMTR_BASE_URL/v1/chat/completions" \
  -H "Authorization: Bearer $LLMTR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"fireworks/ember-1","messages":[{"role":"user","content":"Write a concise technical summary."}],"max_tokens":800}'

Doğrulanacak API sınırları

Function calling, `tool_choice: "required"` ve belirli aracı zorlayan seçim desteklenir. `json_object` ve strict `json_schema` desteklenir. Araç izinleri model prompt'undan değil server-side allowlist'ten gelir; çıktıdan sonra argümanları Zod veya eşdeğer şemayla doğrulayın.

Ödeme, silme veya erişim değişimi gibi geri döndürülemez araçlarda insan onayı ekleyin. Test setine yanlış kullanıcı, eski kaynak, yinelenen istek ve modelin var olmayan araç seçtiği örnekleri koyun. Güvenli sonuç, modelin değil uygulamanın kararıdır.

Model kimliği `fireworks/ember-1`, istek yüzeyi `/v1/chat/completions` olarak kullanılır.
Bu model üçüncü taraf altyapıda çalışır; hassas veri için sağlayıcı veri politikasını değerlendirin.
Uygulama işlemi öncesinde model çıktısını sunucu tarafında doğrulayın.

Yayın kararı ve kanıt kaydı

Her değerlendirmede `moonshot/kimi-k3` alternatifini de çalıştırın. LLMTR, `fireworks/ember-1` kimliğini 6 Ekim 2026 saat 00:00 Avrupa/İstanbul için emekli etmeyi planlar; bu, Fireworks tarafından ilan edilmiş mutlak bir kapanış değildir. Ember-1 ile tool calling ve JSON Schema için karar kaydına test setinin sürümünü, katalogdaki yetenekleri, beklenen istek biçimini ve kabul edilmeyen sonucu yazın. Yeni bir sağlayıcı yanıtı geldiğinde önce örneği saklayın, ardından davranışı yeniden üretin. Yalnızca başarılı örnekleri toplamak yanıltır; başarısız, boş veya beklenmeyen cevaplar da karşılaştırmanın parçasıdır. Değişiklikte hem kullanıcı sonucu hem de operasyon maliyeti izlenmelidir. İstek kimliği, model kimliği, gecikme, kullanım sayıları ve hata sınıfı gibi asgari metadatayı kaydedin; istem veya yanıt içeriğini varsayılan olarak saklamayın. Eşiklerin hangi sahip tarafından değiştirileceği ve geri dönüşün ne zaman devreye gireceği önceden belirlenmelidir. Sonuçları haftalık olarak gözden geçirmek, tek bir lansman gününün rastlantısına dayanmayı önler. Sağlayıcı açıklaması değiştiğinde kaynak sayfasını yeniden okuyun, katalogdaki iddiayı ve gerçek çağrıyı tekrar karşılaştırın. Bu disiplin, önizleme modelinin belirsizliğini gizlemez fakat geri alınabilir bir ürün kararına dönüştürür.

Araç testinde doğru çağrının yanında yanlış çağrıyı da tasarlayın. Modelin eksik alan, fazla alan, geçersiz para birimi veya başka kullanıcıya ait kimlik göndermesi beklenen vakalardır. Uygulamanın bu girdileri işlem yapmadan reddettiğini ve açıklanabilir hata verdiğini doğrulayın.

Araç sonucunu yeniden modele vermeden önce hassas alanları ayıklayın. Bir ödeme sağlayıcısının ham yanıtı veya dahili erişim kaydı gereksiz bilgi taşıyabilir. Modele yalnızca sonraki dilsel karar için gereken durum özetini verin; otorite kaynağını uygulama veritabanında tutun.

Zaman aşımı ve çift tıklama senaryosu için idempotency anahtarı kullanın. Model aynı aracı yeniden önerebilir veya istemci bağlantıyı tekrar deneyebilir. Anahtar, ikinci çağrının yeni bir tahsilat ya da silme işlemi olmamasını sağlar; bu koruma JSON biçiminden bağımsızdır.

İnsan onayı ekranında modelin serbest açıklaması yerine uygulamanın doğruladığı tutar, hedef ve işlem özeti gösterilmelidir. Kullanıcı onayından sonra da yetki tekrar kontrol edilir. Böyle bir akış, araç çağrısını sohbet çıktısından denetlenebilir bir işleme dönüştürür.

Ember-1 ile tool calling ve JSON Schema çalışmasının sonunda üç somut kanıt saklayın: kabul edilen ve reddedilen örneklerin özeti, kullanım ve gecikme ölçümü, ayrıca geri dönüş kararının nedeni. Bu kayıt bir sonraki model güncellemesinde aynı tartışmayı baştan yapmayı önler. Sonuçları yalnızca teknik ekip değil, ilgili ürün sahibi de okumalıdır; çünkü doğru görünen bir değişiklik kullanıcı akışını, destek yükünü veya maliyet bütçesini farklı biçimde etkileyebilir. Yeni davranışın hangi koşulda geçerli olduğunu kısa ve kullanıcıya dönük olarak belgelendirin. Böylece katalog iddiası, uygulama doğrulaması ve gerçek işletim sonucu birbirinden ayrılmadan izlenebilir.

Sık sorulan sorular

Required tool_choice güvenli mi?

Hayır. Araç çağrısı üretir; kimin hangi işlemi yapabileceğini uygulama belirler.

Schema yetki sorununu çözer mi?

Hayır. Biçimi doğrular; yetkilendirme ve iş kuralları ayrıdır.

Ödemeyi doğrudan bağlayabilir miyim?

Geri döndürülemez işlemde insan onayı, server-side politika ve idempotency ekleyin.