Meta / meta/llama-3.1-8b-instruct-16k

Llama 3.1 8B Instruct - LLMTR üzerinden erişim

Llama 3.1 8B Instruct, Meta'nın hızlı ve verimli çalışan küçük, açık ağırlıklı instruction modelidir. Kısa sohbet, sınıflandırma, veri dönüşümü ve düşük gecikme isteyen hafif otomasyon işleri için uygundur, JSON formatında çıktı destekler. Bağlam penceresi ve tek yanıttaki azami çıktı 16.384 token ile sınırlıdır. Bu model function calling (araç çağrısı) desteklemez.

Teknik özellikler

Canonical IDmeta/llama-3.1-8b-instruct-16k
SağlayıcıMeta
Context penceresi16.384 tokens
OperasyonlarCHAT_COMPLETIONS
Modalitelertext

Fiyatlandırma

Kredi yüklemede %8 platform marjı uygulanır; model kullanım fiyatları ayrıca yükseltilmez.

OperationMetricUnitPrice
CHAT_COMPLETIONSINPUT_TEXTPER_1M_TOKENS$0.020000
CHAT_COMPLETIONSOUTPUT_TEXTPER_1M_TOKENS$0.050000

Örnek kullanım

Mevcut OpenAI SDK akışında yalnızca base URL ve model kimliğini değiştirirsiniz.

curl https://llmtr.com/v1/chat/completions \
  -H "Authorization: Bearer llmtr-your_key" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta/llama-3.1-8b-instruct-16k","messages":[{"role":"user","content":"Hello"}]}'

İlgili modeller