Responses API

LLMTR gateway, OpenAI'ın yeni /v1/responses endpoint'ini destekler. GPT-5 Codex serisi (gpt-5-codex, gpt-5.1-codex, gpt-5.1-codex-max, gpt-5.1-codex-mini, gpt-5.2-codex, gpt-5.3-codex) gibi modeller yalnızca bu endpoint üzerinden çalışır; bu modelleri /v1/chat/completions'a göndermek 400 endpoint_mismatch hatası döner.

Ne zaman kullanılır

Reasoning effort kontrolü gerektiğinde (low / medium / high / xhigh)
Cached input avantajı olan modelleri kullanırken
Sadece Responses endpoint'ini destekleyen modellerle çalışırken

Klasik chat tamamlama akışı için /v1/chat/completions kullanmaya devam edin.

Request

POST /v1/responses
Authorization: Bearer llmtr-your_key
Content-Type: application/json

Gövde parametreleri

Alan	Tip	Zorunlu	Açıklama
`model`	string	evet	Canonical model ID (örn. `openai/gpt-5.1-codex`). İsteğe bağlı suffix: `openai/gpt-5.3-codex:max`
`messages` veya `input`	array \| string	evet	OpenAI mesaj formatı veya doğrudan input
`instructions`	string	hayır	System prompt karşılığı
`reasoning`	object	hayır	`{ "effort": "low" \| "medium" \| "high" \| "xhigh", "summary": "auto" \| "concise" \| "detailed" }`
`max_output_tokens`	integer	hayır	Çıktı token üst sınırı
`temperature`	number	hayır	Modelin desteklediği aralıkta
`tools`	array	hayır	Function calling (destekleyen modellerde)
`tool_choice`	string \| object	hayır	`auto`, `none` veya belirli tool
`response_format`	object	hayır	Structured output (Chat Completions yazımı; `text.format`'a çevrilir)
`text`	object	hayır	Structured output (Responses yazımı): `{ "format": { "type": "json_schema", ... } }`
`stream`	boolean	hayır	SSE akışı. Sağlayıcı akışı olduğu gibi aktarılır

Temel örnek

curl "$LLMTR_BASE_URL/v1/responses" \
  -H "Authorization: Bearer llmtr-your_key" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-5.1-codex:high",
    "messages": [
      {"role": "user", "content": "Refaktör et: bu fonksiyonu pure yap"}
    ]
  }'

Aynı isteği reasoning.effort body alanı ile de yapabilirsiniz:

curl https://llmtr.com/v1/responses \
  -H "Authorization: Bearer llmtr-your_key" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-5.1-codex",
    "reasoning": { "effort": "high" },
    "messages": [
      {"role": "user", "content": "Refaktör et: bu fonksiyonu pure yap"}
    ]
  }'

Response

{
  "id": "resp_xxx",
  "object": "response",
  "status": "completed",
  "model": "gpt-5.1-codex",
  "output": [
    {
      "type": "message",
      "role": "assistant",
      "content": [
        { "type": "output_text", "text": "İşte refaktör edilmiş hali..." }
      ]
    }
  ],
  "usage": {
    "input_tokens": 142,
    "input_tokens_details": { "cached_tokens": 24 },
    "output_tokens": 318,
    "output_tokens_details": { "reasoning_tokens": 256 }
  }
}

status alanı completed, incomplete veya failed olabilir.

Streaming

stream: true gönderdiğinizde gateway sağlayıcının SSE akışını olduğu gibi aktarır: token'lar model ürettikçe gelir, yanıtın tamamlanması beklenmez.

curl https://llmtr.com/v1/responses \
  -H "Authorization: Bearer llmtr-your_key" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-5.3-codex",
    "input": "Cursor tabanlı sayfalamayı anlat.",
    "stream": true
  }'

Akış, OpenAI Responses olay adlarını kullanır:

event: response.created
data: {"type":"response.created","response":{"id":"resp_xxx","model":"openai/gpt-5.3-codex"}}

event: response.output_text.delta
data: {"type":"response.output_text.delta","delta":"Cursor"}

event: response.completed
data: {"type":"response.completed","response":{"status":"completed","usage":{...}}}

data: [DONE]

Notlar:

Olay gövdelerindeki response.model alanı canonical LLMTR model ID'sine çevrilir; non-streaming yanıtla aynı değeri görürsünüz.
usage yalnızca response.completed olayında gelir. Faturalama bu bloktan yapılır, dolayısıyla streaming ile non-streaming arasında maliyet farkı yoktur.
Akış başlamadan önce oluşan hatalar normal HTTP durum kodu döner. Akış başladıktan sonra oluşan hatalar akışın içinde {"error":{...}} gövdesiyle bildirilir, çünkü 200 durum satırı çoktan gönderilmiştir.
Bağlantı beklerken düzenli aralıklarla SSE yorum satırı (: keepalive) gönderilir. Uyumlu tüm SSE ayrıştırıcıları bunları yok sayar.

Structured output

İki yazım da kabul edilir. Chat Completions'tan gelen response_format, Responses API'nin text.format alanına çevrilir:

curl https://llmtr.com/v1/responses \
  -H "Authorization: Bearer llmtr-your_key" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openai/gpt-5.3-codex",
    "input": "İstanbul için hava JSON'u üret.",
    "text": {
      "format": {
        "type": "json_schema",
        "name": "weather",
        "strict": true,
        "schema": {
          "type": "object",
          "properties": { "city": { "type": "string" }, "tempC": { "type": "number" } },
          "required": ["city", "tempC"],
          "additionalProperties": false
        }
      }
    }
  }'

Hem response_format hem text.format gönderirseniz text.format kazanır.

Kullanım ve maliyet notları

input_tokens_details.cached_tokens, cache kullanılan token miktarını gösterir.
output_tokens_details.reasoning_tokens, reasoning sırasında harcanan tokenları gösterir.
Toplam maliyet modelin kendi fiyatlandırmasına göre hesaplanır; platform marjı yalnızca kredi yüklemede uygulanır.
Üretim kullanımı öncesinde ilgili modelin güncel fiyatını dashboard veya katalog üzerinden doğrulayın.

xAI Grok

xai/grok-4.3, xai/grok-4.20-multi-agent, xai/grok-4.20-0309-reasoning ve xai/grok-4.20-0309-non-reasoning için önerilen endpoint /v1/responses:

curl https://llmtr.com/v1/responses \
  -H "Authorization: Bearer llmtr-your_key" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "xai/grok-4.3",
    "input": "Bir TypeScript servis fonksiyonunu sadeleştir."
  }'

Uyumluluk için /v1/chat/completions çağrıları da kabul edilir; gateway bu istekleri içeride Responses akışına çevirir ve OpenAI Chat Completions formatında yanıt döner. LLMTR bu modellerde store:false gönderir. store:true, previous_response_id, instructions ve xAI server-side tools alanları bu sürümde reddedilir. Sistem mesajı gerekiyorsa input veya messages içindeki ilk system ya da developer mesajını kullanın.

Grok 4.3'te 200K üzeri input şu an desteklenmiyor; bu isteklere pricing_unverified döner. xAI bir metin isteği için gerçek maliyeti bildirmezse, istek sağlayıcı tarafında başarılı olsa bile ücretlendirme yapılmaz ve provider_usage_missing döner — bu durumda sizden ücret alınmaz. Grok 4.20 Multi-Agent modelinde reasoning.effort yalnızca ajan sayısını kontrol eder; high ve xhigh daha fazla token tüketebilir.

Image, video, TTS ve STT örnekleri dahil Grok ailesinin tam kullanımı için xAI Grok modelleri sayfasına bakın.

Reasoning effort

Reasoning seviyeleri ayrı bir sayfada detaylandırılmıştır: Reasoning effort.

Hata kodları

HTTP	`error.type`	Anlamı
400	`invalid_request_error`	Geçersiz parametre / bilinmeyen suffix
400	`endpoint_mismatch`	Model `/v1/responses` gerektiriyor ama `/v1/chat/completions` çağrıldı (veya tersi)
400	`unsupported_capability`	Model bu reasoning seviyesini veya modaliteyi desteklemiyor
401	`auth_error`	Geçersiz API anahtarı
402	`insufficient_balance`	Bakiye yetersiz
429	`rate_limit_exceeded`	RPM/TPM limiti aşıldı
502	`provider_error`	Sağlayıcı hatası

Detay için Hatalar bölümüne bakın.