Abliteration

Abliteration, açık ağırlıklı modellerin ret davranışı azaltılmış sürümlerini OpenAI uyumlu bir API ile sunar. LLMTR kataloğunda iki Abliteration modeli vardır; ikisi de abliteration/ önekiyle, katalogda yazdığı gibi /v1/chat/completions ucunda çağrılır. İki model de yalnızca metin okur.

Model	Bağlam	Giriş / Önbellek okuma / Çıkış ($/1M)
abliteration/abliterated-model-large-v2	1.000.000	3.00 / 0.30 / 5.00
abliteration/abliterated-model-large	1.000.000	3.00 / 0.30 / 5.00

Tekrarlanan istem ön ekleri önbellekten karşılanabilir; bu token'lar tablodaki önbellek okuma fiyatıyla faturalanır. Tek yanıtta en fazla 999.990 token üretilir; daha büyük bir max_tokens istek gönderilmeden 400 invalid_request ile reddedilir.

Sağlayıcı abliterated-model-large modelini eski sürüm olarak işaretledi. Yeni işler için abliteration/abliterated-model-large-v2 modelini kullanın.

Ret davranışı azaltılmış olsa da çocuk istismarı ve kendine zarar vermeye yardım içeren istekler engellenir.

Sohbet

curl "$LLMTR_BASE_URL/v1/chat/completions" \
  -H "Authorization: Bearer llmtr-your_key" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "abliteration/abliterated-model-large-v2",
    "messages": [
      { "role": "system", "content": "Kısa ve net cevap ver." },
      { "role": "user", "content": "Bu sözleşme maddesindeki yükümlülükleri üç maddede özetle." }
    ],
    "max_tokens": 4096
  }'

İki model de akışı (streaming), response_format ile JSON modunu ve JSON şemasını destekler.

temperature 0 ile 1 arasında, top_p 0.01 ile 1 arasında olmalıdır. Bu aralığın dışındaki bir değer istek gönderilmeden 400 invalid_request ile reddedilir.

Bu modellerde web araması yoktur: web_search_options gönderen istek 400 invalid_request ile reddedilir.

Akıl yürütme

İki model de akıl yürütür ve bu token'lar çıktı olarak faturalanır. Seviyeyi reasoning_effort alanıyla ya da model kimliğinin sonuna eklenen son ekle seçin (abliteration/abliterated-model-large-v2:max).

Model	Seviyeler	Seviye gönderilmezse
abliteration/abliterated-model-large-v2	low, high, max	low
abliteration/abliterated-model-large	none, high, max	high

abliteration/abliterated-model-large-v2 modelinde düşünme kapatılamaz. "reasoning_effort": "none", "reasoning": false ya da :fast gönderilirse istek 400 invalid_request ile reddedilir; en az düşünme için low kullanın.

abliteration/abliterated-model-large modelinde düşünmeyi kapatmak için "reasoning_effort": "none" ya da "reasoning": false gönderin veya model kimliğinin sonuna :none ekleyin. Kapalıyken düşünme token'ı üretilmez ve faturalanmaz.

Listede olmayan bir seviye 400 invalid_request ile reddedilir. Yanıt finish_reason: "length" ile dönerse max_tokens değerini artırıp tekrarlayın.

Araç çağrısı

İki model de araç/fonksiyon çağrısını destekler; model aracı kendisi seçer. tool_choice alanı yalnızca auto olarak uygulanır. required ya da adı verilen bir fonksiyon gönderilirse istek 400 invalid_request ile reddedilir; aracın ne zaman kullanılacağını istemde belirtin.

Araçlar ekliyken tool_choice: "none" gönderilirse istek 400 unsupported_input ile reddedilir. Araç kullanımını kapatmak için tools alanını hiç göndermeyin.

curl "$LLMTR_BASE_URL/v1/chat/completions" \
  -H "Authorization: Bearer llmtr-your_key" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "abliteration/abliterated-model-large-v2",
    "messages": [{ "role": "user", "content": "İstanbul'\''da hava nasıl?" }],
    "tools": [
      {
        "type": "function",
        "function": {
          "name": "get_weather",
          "description": "Bir şehrin anlık hava durumunu getirir",
          "parameters": {
            "type": "object",
            "properties": { "city": { "type": "string" } },
            "required": ["city"]
          }
        }
      }
    ],
    "max_tokens": 1024
  }'

İkinci turda modelin araç çağrısını içeren mesajı ve aracın sonucunu (role: "tool") geri gönderin; akıl yürütme metnini geri göndermeniz gerekmez.