Anfrageprotokolle¶
Ansicht Anfrageprotokolle
Die Ansicht Anfrageprotokolle zeichnet die Anfragen an die Gateways auf und zeigt zu jeder Anfrage den zugehörigen Trace an. Der Trace nennt die beteiligten Anbieter, das verwendete Modell, die Token, die Kosten und die Latenz. Die Unterzeile nennt die Anzahl der Einträge.
Die folgenden Informationen sind verfügbar:
| Spalte | Beschreibung |
|---|---|
| Zeit | Zeitpunkt, zu dem das Gateway die Anfrage empfangen hat. |
| Provider | Anbieter, der die Anfrage beantwortet hat, zum Beispiel anthropic. |
| Modell | Modell, das die Anfrage beantwortet hat, zum Beispiel gpt-4o. |
| Statuscode | HTTP-Statuscode der Antwort, zum Beispiel 200, 401, 429 oder 500. |
| Ein | Anzahl der Eingabe-Token der Anfrage. |
| Aus | Anzahl der Ausgabe-Token der Antwort. |
| Cache | Anteil der aus dem Prompt-Cache gelesenen Token, zum Beispiel 80% Treffer. Der Hinweis der Spalte nennt die Cache-Schreib- und Cache-Lese-Token. |
| Kosten | Kosten der Anfrage in US-Dollar. |
| Latenz | Gesamtdauer der Anfrage im Gateway in Millisekunden. |
| Upstream | Dauer der Anfrage beim Anbieter in Millisekunden. Wenn keine Dauer vorliegt, dann zeigt die Spalte — an. |
| Guardrail | Dauer der Guardrail-Prüfung in Millisekunden und deren Ergebnis. |
| Detektoren | Detektoren, die angeschlagen haben. Ab dem dritten Detektor fasst die Spalte die übrigen als + |
| Flags | Kennzeichnungen der Anfrage: gecached, blockiert, bereinigt, Fallback und |
Die folgenden Filter sind verfügbar:
| Filter | Beschreibung |
|---|---|
| Auswahlliste Mandant | Beschränkt die Liste auf einen Mandanten. Der Eintrag Alle Mandanten hebt den Filter auf. |
| Auswahlliste Provider | Beschränkt die Liste auf einen Anbieter. Der Eintrag Alle Provider hebt den Filter auf. |
| Eingabefeld Modell | Beschränkt die Liste auf ein Modell, zum Beispiel gpt-4o. |
| Auswahlliste Statuscode | Beschränkt die Liste auf einen Statuscode: 200 OK, 400, 401, 429 oder 500. |
| Auswahlliste Blockiert | Der Eintrag Nur blockierte beschränkt die Liste auf die blockierten Anfragen. |
| Auswahlliste Guardrail-Ergebnis | Beschränkt die Liste auf ein Ergebnis der Guardrails: Beliebiger Treffer, Blockiert, Bereinigt oder Markiert. |
| Auswahlliste Limit | Höchstzahl der geladenen Einträge: 20, 50, 100 oder 200. |
| Eingabefelder Von und Bis | Beschränken die Liste auf einen Zeitraum. |
Die folgenden Optionen sind verfügbar:
| Option | Beschreibung |
|---|---|
| Schaltfläche Aktualisieren | Lädt die Liste mit den gesetzten Filtern erneut. |
| Schaltfläche CSV exportieren | Lädt die gefilterten Einträge als CSV-Datei herunter. Während des Exports trägt die Schaltfläche die Beschriftung Exportiere…. |
| Schaltfläche XLSX exportieren | Lädt die gefilterten Einträge als Excel-Datei herunter. |
| Zeile der Liste | Blendet den Prompt und die Antwort der Anfrage ein oder aus. |
| Symbol Trace anzeigen | Öffnet den Bereich Anfrage-Trace unterhalb der Liste. Das Symbol erscheint ausschließlich bei einer Anfrage mit Trace. |
Die folgenden Abschnitte beschreiben die Ansicht im Einzelnen: