Chat-Completions (anbietereigener Pfad)

Hinweis

Der Endpunkt verlangt einen Token des Gateways in der Kopfzeile Authorization: Bearer <token>, solange am Gateway auth_required: true eingestellt ist. Das ist die Voreinstellung.

Senden Sie die Anfrage als POST an den Pfad /v1/{tenant}/{gateway}/{provider}/chat/completions.

Beschreibung

Der Endpunkt nimmt eine Chat-Anfrage für einen bestimmten Anbieter entgegen. Das Gateway leitet die Anfrage im eigenen Format des Anbieters {provider} weiter. Die Antwort überführt das Gateway in das Schema von OpenAI.

Anfrage

Die folgenden Parameter sind verfügbar:

Parameter	Ort	Typ	Erforderlich	Beschreibung
tenant	Pfad	string	ja	Slug des Mandanten aus dessen Feld slug.
gateway	Pfad	string	ja	Slug des Gateways aus dessen Feld slug.
provider	Pfad	string	ja	Kennung des Anbieters. Zulässig sind unter anderem openai, anthropic, gemini, bedrock, azure, mistral, groq, cohere, deepseek, fireworks, perplexity, together und openrouter.
x-aig-byok-alias	Kopfzeile	string	nein	Wählt den hinterlegten eigenen Anbieter-Schlüssel für diese Anfrage. Ohne Angabe gilt default. Die Kopfzeile ist erforderlich, wenn zu einem Anbieter mehrere Schlüssel unter verschiedenen Aliasen hinterlegt sind.
x-aig-extensions	Kopfzeile	string	nein	Schaltet für eine Anfrage im Datenstrom den Nebenkanal aig_* des Gateways frei, der die Gedankengänge, die Telemetrie der Tools, die Quellen sowie die Hinweise zu PII und Tools führt. Das Gateway erkennt genau die Werte 1, true, yes und on. Jeder andere Wert, auch 0 und ein leerer Wert, ist zulässig und gilt als nicht gesetzt. Die Antwort ist dann ein reiner Datenstrom im Schema von OpenAI. Ein gültiges x-aig-turn-id schaltet den Nebenkanal ebenfalls frei.
x-aig-collect-log-payload	Kopfzeile	string	nein	Mit false hält das Gateway den Rumpf der Anfrage und der Antwort für diese eine Anfrage nicht im Protokoll fest. Die Kopfzeile eignet sich für Anfragen mit schützenswerten Daten, auch wenn am Gateway log_payloads: true eingestellt ist.

Beispiel

Beispiel für den Rumpf der Anfrage:

{
  "model": "gpt-4o",
  "messages": [
    {
      "role": "system",
      "content": {},
      "name": "string",
      "tool_calls": [
        {}
      ]
    }
  ],
  "stream": false,
  "temperature": 0.7,
  "max_tokens": 1024,
  "top_p": 0.0,
  "n": 1,
  "stop": {},
  "tools": [
    {}
  ],
  "tool_choice": {},
  "response_format": {
    "type": "text"
  },
  "user": "string",
  "metadata": {}
}

Antworten

Der Endpunkt beantwortet die Anfrage mit den folgenden Statuscodes:

Statuscode	Beschreibung
200	Antwort der Chat-Completion.
400	Der Anfragerumpf ist ungültig, oder eine Pflichtangabe fehlt.
401	Der Token fehlt oder ist ungültig.
424	provider_key_missing: das gewählte Modell läuft über einen Anbieter, der einen API-Schlüssel verlangt. Für dieses Gateway und diesen Alias ist keiner hinterlegt. Die Administration muss einen Anbieter-Schlüssel hinterlegen. Das Gateway meldet den Fehler, bevor es den Anbieter aufruft.
429	Das Ratenlimit oder das Budget ist überschritten.
502	Alle vorgelagerten Anbieter sind ausgefallen. Wiederholungen und Ausweichwege sind erschöpft.