Entegrasyon rehberleri · 2026-10-17
Moondream 3.1 API: base64 görsel, düşünme ve fiyat
Moondream 3.1'i moondream/moondream3.1-9b-a2b kimliğiyle OpenAI uyumlu API'den çağırın: base64 görsel, 32.000 token bağlam, reasoning: true ve fiyat.
Kısa yanıt: görseli base64 data URL olarak gönderin
LLMTR, farklı sağlayıcıların dil modellerine tek bir OpenAI uyumlu API ile erişim veren bir gateway'dir. Moondream 3.1'i burada moondream/moondream3.1-9b-a2b model kimliğiyle, https://llmtr.com/v1 adresindeki /v1/chat/completions uç noktasından çağırırsınız. Model metin ve görsel alır, metin döndürür; görseli mesajın içinde base64 data URL taşıyan bir image_url parçası olarak gönderirsiniz.
Moondream 3.1, Moondream'in görselleri anlamak için geliştirdiği küçük bir vision-language modelidir: toplam 9 milyar parametre, token başına 2 milyar aktif parametre. LLMTR kataloğu onu görsel soru-cevap, görsel açıklama, görseldeki metni okuma (OCR) ve görsel akıl yürütme işleri için listeler. Moondream'in model sayfası 3.1'in yayın tarihini 7 Temmuz 2026 olarak verir ve OCR ile istemlerin İngilizce ve Latin alfabesindeki metinlerde daha iyi sonuç verdiğini yazar. LLMTR'de bağlam penceresi 32.000 token'dır.
Moondream 3.1 API'si nasıl kullanılır?
LLMTR'de bir API anahtarı oluşturup LLMTR_API_KEY ortam değişkeninde saklayın. OpenAI istemcisinin base_url değerini https://llmtr.com/v1 yapın ve model olarak moondream/moondream3.1-9b-a2b yazın. Aşağıdaki Python örneği yerel bir raf fotoğrafını okur, base64'e çevirir ve data:image/png;base64, önekiyle gönderir; aynı soruyu önce düşünme kapalıyken, sonra düşünme açıkken sorar.
https:// ile başlayan bir görsel adresi bu modelde kabul edilmez: LLMTR isteği sağlayıcıya göndermeden 400 unsupported_input ile reddeder. Görseli her zaman kendi tarafınızda okuyup isteğe gömün. Görselsiz, yalnızca metin içeren istekler de kabul edilir. Moondream'in model sayfası çağrı başına tek görseli esas alır ve birden fazla görseli deneysel olarak tanımlar; isteklerinizi tek görselle kurun. Aynı görsel hakkında ikinci bir soru soracaksanız önceki mesajları görselle birlikte yeniden gönderin, çünkü Chat Completions durumsuzdur.
Cevap choices[0].message.content alanında, token sayıları usage içinde gelir; görselin kaç token tuttuğu usage.prompt_tokens alanında görünür. Sağlayıcı tek yanıt için en fazla 4.096 token çıktı belirtir. Uzun yanıtlarda finish_reason alanına bakın: length ise yanıt max_tokens sınırında kesilmiştir.
Yerel bir görseli base64 data URL olarak moondream/moondream3.1-9b-a2b'ye gönderen, aynı soruyu düşünme kapalı ve açıkken soran OpenAI Python SDK örneği.
import base64
import os
from openai import OpenAI
client = OpenAI(base_url="https://llmtr.com/v1", api_key=os.environ["LLMTR_API_KEY"])
with open("shelf.png", "rb") as f:
image_b64 = base64.b64encode(f.read()).decode("ascii")
messages = [
{
"role": "user",
"content": [
{"type": "image_url", "image_url": {"url": f"data:image/png;base64,{image_b64}"}},
{"type": "text", "text": "How many bottles are on the top shelf? Answer with a number."},
],
}
]
response = client.chat.completions.create(
model="moondream/moondream3.1-9b-a2b",
messages=messages,
max_tokens=256,
)
print(response.choices[0].message.content)
print(response.usage)
# Same question with reasoning turned on
response = client.chat.completions.create(
model="moondream/moondream3.1-9b-a2b",
messages=messages,
max_tokens=512,
extra_body={"reasoning": True},
)
message = response.choices[0].message
print(message.content)
print(getattr(message, "reasoning_content", None))
print(response.usage)
Moondream 3.1 fiyatı ve bir isteğin maliyeti
Moondream 3.1 ücretlidir ve token başına faturalanır: 1 milyon token başına girdi 0,30 $, çıktı 2,50 $'dır. Görsel, istemin parçası olarak girdi fiyatından faturalanır. Düşünme açıkken üretilen token'lar completion_tokens içinde sayılır ve çıktı fiyatından faturalanır. Bu satır için önbellek fiyatı yoktur. Bir görselin kaç token tuttuğu boyutuna ve içeriğine göre değişebilir; bütçe planlarken kendi görsellerinizden birkaç örnekte usage.prompt_tokens değerine bakın.
Örnek hesap: görsel dahil istemi 1.000 token, yanıtı 200 token olan bir istek (1.000 x 0,30 $ + 200 x 2,50 $) / 1 milyon = 0,0008 $ tutar. Aynı soruyu düşünme açıkken sorduğunuzda yanıt uzar ve fark çıktı fiyatından yansır; gerçek tutarı her yanıttaki usage değerleriyle hesaplayın. LLMTR'nin reddettiği istekler ücretlendirilmez.
| Özellik | Değer |
|---|---|
| Model kimliği | moondream/moondream3.1-9b-a2b |
| Uç nokta | /v1/chat/completions |
| Bağlam penceresi | 32.000 token |
| Girdi fiyatı | 0,30 $ / 1 milyon token |
| Çıktı fiyatı | 2,50 $ / 1 milyon token |
| Girdi | metin, görsel (yalnızca base64 data URL) |
| Çıktı | metin |
| Düşünme | varsayılan kapalı; reasoning: true ya da :think ile açılır |
| Desteklenmeyenler | araç çağırma, response_format, stop dizileri, reasoning_effort |
Düşünmeyi açmak: reasoning: true ya da :think
Düşünme varsayılan olarak kapalıdır. Daha yakından bakılması gereken sorularda istek gövdesine "reasoning": true ekleyin ya da model kimliğinin sonuna :think yazın (moondream/moondream3.1-9b-a2b:think). OpenAI Python SDK'da bu alan extra_body ile gönderilir; örnekteki ikinci istek bunu yapar. "reasoning": false ve :fast düşünmeyi kapalı tutar. Düşünmeyi her istekte açmak yerine sayma, karşılaştırma ya da birden çok ayrıntıya bakılması gereken sorularda açın; kısa açıklama ve tek kelimelik cevaplarda kapalı bırakmak, iz token'ları üretilmediği için çıktı faturasını küçük tutar.
reasoning alanı true ya da false almalıdır; {"enabled": true} gibi bir nesne gönderirseniz istek 400 ile döner. reasoning_effort bu modelde desteklenmez ve o da 400 döner.
Düşünme açıkken iz cevaptan ayrı gelir: akışsız yanıtta message.reasoning_content alanında, akışta choices[].delta.reasoning_content parçalarında. Moondream'in model sayfası düşünme izlerinin cevapla her zaman örtüşmeyebileceğini yazar; cevabı message.content alanından alın, izi yalnızca inceleme için kullanın.
Desteklenmeyen alanlar ve parametreler
Moondream 3.1 araç çağırma, JSON çıktı modu ve durdurma dizileri sunmaz; Moondream'in model sayfası da modelin araç kullanmadığını yazar. LLMTR, cevabı değiştirecek alanları sağlayıcıya göndermeden 400 invalid_request ile reddeder: içi dolu tools, json_object ya da json_schema türünde response_format ve içi dolu stop. Hata mesajı ne yapacağınızı söyler: araçları kaldırın, istediğiniz biçimi istemde tarif edin, yanıtı kendi ayıracınızda kesin ya da uzunluğu max_tokens ile sınırlayın.
Cevabı değiştirmeyen boş biçimler istekten çıkarılır ve yanıtın llmtr_dropped_parameters alanında listelenir: boş tools dizisi, araçsız tool_choice, {"type": "text"} türünde response_format ve boş stop. seed ve include_reasoning da çıkarılır; düşünmeyi reasoning ile açın. temperature, top_p, presence_penalty, frequency_penalty ve user kabul edilir. stream: true desteklenir; stream_options içinde include_usage: true gönderirseniz usage son parçada gelir.
Başlamak ve veri notu
Adım 1: llmtr.com'da bir hesap oluşturun ve Dashboard > Faturalandırma'dan bakiye yükleyin. Adım 2: Dashboard > API Anahtarları altında bir anahtar oluşturun; ham anahtar yalnızca bir kez gösterilir, onu LLMTR_API_KEY ortam değişkeninde saklayın. Adım 3: örneği kendi görselinizle çalıştırın. Her istek, işlendiği andaki katalog fiyatıyla bakiyenizden düşülür.
Model kartındaki veri notu şöyledir: bu model üçüncü taraf bir sağlayıcı üzerinden sunulur. Aynı ailenin önizleme sürümü moondream/moondream3-preview da katalogdadır; iki modelin farkını serideki karşılaştırma yazısı anlatır.
Moondream 3.1'i LLMTR üzerinden çağırma
Bakiye yükleyin, API anahtarı oluşturun ve moondream/moondream3.1-9b-a2b ile https://llmtr.com/v1 adresine base64 görselli ilk isteği gönderin.
- Hesap ve bakiye. llmtr.com'da bir hesap oluşturun ve Dashboard > Faturalandırma'dan bakiye yükleyin.
- API anahtarı. Dashboard > API Anahtarları altında bir anahtar oluşturun ve LLMTR_API_KEY ortam değişkeninde saklayın.
- İlk istek. base_url değerini https://llmtr.com/v1 yapın, görseli base64 data URL'ye çevirin ve model olarak moondream/moondream3.1-9b-a2b ile gönderin.
Sık sorulan sorular
Moondream 3.1 API'si ne kadar?
LLMTR'de 1 milyon token başına 0,30 $ girdi ve 2,50 $ çıktı. Görsel girdi fiyatından, düşünme token'ları çıktı fiyatından faturalanır.
Moondream 3.1'e https görsel adresi gönderebilir miyim?
Hayır. Bu model görseli yalnızca base64 data URL olarak kabul eder; https adresi gönderilirse LLMTR isteği 400 ile reddeder. Dosyayı okuyup data:image/png;base64, gibi bir önekle gönderin.
Moondream 3.1'de düşünme nasıl açılır?
İstek gövdesine "reasoning": true ekleyin ya da model kimliğini moondream/moondream3.1-9b-a2b:think olarak yazın. Düşünme varsayılan olarak kapalıdır; reasoning_effort desteklenmez.