İçeriğe geç

Liquid AI

Liquid AI'nin LFM2.5-24B-A2B modeli LLMTR'de /v1/chat/completions ile çağrılır. Toplam 24 milyar, token başına yaklaşık 2 milyar etkin parametreli bir mixture-of-experts modelidir; araç çağrısı ve çok adımlı agent görevleri için eğitilmiştir.

Model Bağlam Giriş / Cache okuma / Çıkış ($/1M) Girdi
liquid/lfm-2.5-24b-a2b 128.000 0.05 / 0.025 / 0.7 Metin

Model fiyatlarına platform marjı eklenmez; marj yalnızca kredi yüklemede geçerlidir.

Terminal window
curl "$LLMTR_BASE_URL/v1/chat/completions" \
-H "Authorization: Bearer llmtr-your_key" \
-H "Content-Type: application/json" \
-d '{
"model": "liquid/lfm-2.5-24b-a2b",
"messages": [
{ "role": "system", "content": "Kısa ve net cevap ver." },
{ "role": "user", "content": "Bu hata kaydındaki asıl sorunu bul ve düzeltmeyi öner." }
],
"max_tokens": 4096
}'
from openai import OpenAI
client = OpenAI(base_url="https://llmtr.com/v1", api_key="llmtr-your_key")
response = client.chat.completions.create(
model="liquid/lfm-2.5-24b-a2b",
messages=[{"role": "user", "content": "Bu üç maddeyi önceliğe göre sırala ve nedenini yaz."}],
max_tokens=4096,
)
print(response.choices[0].message.content)
print(response.usage)

Model her yanıttan önce düşünür ve bu kapatılamaz. Düşünce izi yanıtın message.reasoning_content alanında (akışta delta.reasoning_content) gelir, yanıtın kendisi content alanındadır.

  • reasoning: false ya da reasoning: { "enabled": false } gönderen istek 400 ile reddedilir.
  • Düşünme derinliği seçilemez: reasoning_effort gönderen istek 400 ile reddedilir.
  • Düşünme token'ları usage.completion_tokens içinde sayılır ve çıkış fiyatından faturalanır.

Bir yanıt, düşünme dahil en fazla 8.192 token olabilir. Daha büyük bir max_tokens ya da max_completion_tokens değeri 400 ile reddedilir.

Düşünme bu bütçeden harcandığı için uzun bir görevde model asıl yanıtı yazmadan sınıra ulaşabilir ve finish_reason: "length" döner. Bu yanıtı tamamlanmamış sayın: akışsız çağrıda content boş gelmez, yarıda kalan düşünce metnini taşır. Uzun işleri daha küçük adımlara bölün ve her adımda tek bir çıktı isteyin.

Model araç/fonksiyon çağrısını destekler. Model bir araç çağırdığında finish_reason tool_calls olur ve çağrı message.tool_calls alanında gelir.

Terminal window
curl "$LLMTR_BASE_URL/v1/chat/completions" \
-H "Authorization: Bearer llmtr-your_key" \
-H "Content-Type: application/json" \
-d '{
"model": "liquid/lfm-2.5-24b-a2b",
"messages": [{ "role": "user", "content": "İstanbul hava durumu?" }],
"tools": [{
"type": "function",
"function": {
"name": "get_weather",
"description": "Bir şehrin güncel hava durumunu döndürür",
"parameters": {
"type": "object",
"properties": { "city": { "type": "string" } },
"required": ["city"]
}
}
}],
"max_tokens": 2048
}'

Araç sonucunu ikinci turda role: "tool" mesajıyla geri verin. Genel akış için araç çağrısı sayfasına bakın.

response_format ile json_schema verdiğinizde model şemaya uyan JSON üretir:

{
"model": "liquid/lfm-2.5-24b-a2b",
"messages": [{ "role": "user", "content": "Fransa'nın başkentini ve nüfusunu milyon olarak ver." }],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "city",
"strict": true,
"schema": {
"type": "object",
"properties": {
"city": { "type": "string" },
"population_millions": { "type": "number" }
},
"required": ["city", "population_millions"],
"additionalProperties": false
}
}
},
"max_tokens": 2048
}

Tekrarlanan istem önekleri kendiliğinden önbelleğe alınır; istekte bir şey işaretlemeniz gerekmez. Önbellekten karşılanan token sayısı usage.prompt_tokens_details.cached_tokens alanında döner ve bu token'lar cache okuma fiyatından faturalanır. Önbelleğe yazma için ayrı bir ücret alınmaz. Önbellek bir indirimdir, garanti değildir: uzun ve sabit kısmı (sistem mesajı, belge, araç tanımları) istemin başına koymak isabet ihtimalini artırır.

Model stream: true ile gerçek akış verir; akışın son parçasında kesin usage gelir. Ayrıntılar için streaming sayfasına bakın.

Türkçe, Liquid'in resmi olarak desteklediği diller arasında değildir. Türkçe iş akışlarında çıktıyı kendi örneklerinizle doğrulayın.

Bu model üçüncü taraf bir sağlayıcı üzerinden sunulur. Gönderdiğiniz metinler sağlayıcı tarafından saklanabilir ve Liquid modellerinin eğitiminde kullanılabilir. Hassas, kişisel veya müşteri verilerini göndermeyin.