NVIDIA / nvidia/nemotron-3-ultra-550b-a55b-262k

Nemotron 3 Ultra 550B A55B 262K - LLMTR üzerinden erişim

Nemotron 3 Ultra 550B A55B, NVIDIA'nin en buyuk acik agirlikli Nemotron modelidir: 550 milyar parametresinin token basina 55 milyarini calistiran seyrek bir Mixture-of-Experts mimarisidir. Zor reasoning, orkestrasyon, kodlama ajanlari ve uzun soluklu kurumsal akislar icin tasarlanmistir. Bu dagitim 262.144 tokenlik baglam penceresi, yerel arac cagrisi, JSON nesne modu ve JSON Schema ile sema zorlamali cikti sunar. `tool_choice` alanini `auto` veya `required` ile kullanin; belirli bir fonksiyonu ada gore zorlamak bu dagitimda uygulanmaz — model istediginiz araci degil prompt'a uyan araci cagirir, bu yuzden adlandirilmis secimi bir kisit olarak kullanmayin. Prompt cache kendiliginden devrededir: tekrarlanan onek 8.192 tokenlik tam bloklar halinde saklanir ve indirimli cached input fiyatindan faturalanir, artan kisim standart girdi fiyatindan islenir. Adim adim dusunme varsayilan olarak aciktir ve yanittan ayri doner; bu yuzden kisa bir soru bile dusunme tokeni harcar, `max_tokens` degerini buna gore verin. Istek bazinda kapatilabilir ve dusunme tokenlari cikti olarak faturalanir. Model yalnizca metin kabul eder ve yalnizca metin uretir; gorsel, ses ve video girdisi desteklenmez. Baglam penceresinin altinda ayri bir cikti tavani yoktur.