SSE-Stream-Decoder für LLMs
Fügen Sie eine rohe Streaming-Antwort von OpenAI, Anthropic, Gemini oder einer OpenAI-kompatiblen API ein und erhalten Sie den vollständigen Text, Tool-Aufrufe, Reasoning und Token-Verbrauch.
Eingabe
Ergebnis
Das Ergebnis erscheint hier.Wenn ein Streaming-Aufruf an ein LLM Probleme macht, haben Sie meist ein Log voller data:-Zeilen – Hunderte kleiner JSON-Fragmente, die mühsam zu lesen sind. Dieses Tool setzt sie wieder zusammen. Es parst den Event-Stream nach den WHATWG-Regeln, die openai-node (openai/openai-node, Apache-2.0) und das SDK von Anthropic umsetzen, erkennt das Übertragungsformat jedes Events und zeigt die zusammengesetzte Antwort, die Tool-Aufrufe mit ihren gestreamten Argumenten, den Beendigungsgrund, das Modell und den Token-Verbrauch.
So arbeitet es
- Es liest vier Formate: OpenAI Chat Completions und jede API, die es nachbildet (DeepSeek, Qwen, Groq, vLLM, Ollamas /v1), OpenAI Responses, Anthropic Messages und streamGenerateContent von Gemini.
- Zeilenenden mit CR, LF oder CRLF, mehrzeilige data-Felder, Kommentare wie : keep-alive und eine fehlende letzte Leerzeile werden so behandelt, wie der Standard es verlangt.
- Reasoning – reasoning_content von DeepSeek, Thinking-Deltas von Anthropic, thought-Teile von Gemini, Reasoning-Zusammenfassungen von OpenAI – wird getrennt gesammelt und auf Wunsch über der Antwort angezeigt.
- Events, die kein gültiges JSON sind, werden mit Zeilennummer aufgelistet, statt das Dekodieren abzubrechen, und ein Log, das die Leerzeilen zwischen Events verloren hat, wird wieder in einzelne Events zerlegt.
Wohin Ihre Daten gehen
Nirgendwohin. Dieses Werkzeug läuft vollständig in Ihrem Browser: Der eingefügte Text wird von der Seite verarbeitet und weder an einen Server übertragen noch protokolliert.
Dieses Tool ist kostenlos und braucht kein Konto. Die Ergebnisse existieren nur in Ihrer geöffneten Seite und werden nirgends gespeichert.
Was es kostet
Dieses Werkzeug ist kostenlos, ohne Anmeldung und ohne Punkte.
Häufige Fragen
- Wie erfasse ich einen rohen Stream?
- Mit curl fügen Sie der Anfrage -N (ohne Pufferung) hinzu und kopieren die Ausgabe. Im Browser zeigt der Netzwerk-Tab der Entwicklertools für die Anfrage eine EventStream-Ansicht oder die rohe Antwort. In Ihrem eigenen Code protokollieren Sie jede Zeile, bevor Ihr SDK sie parst.
- Warum heißt es, der Stream sei unvollständig?
- Es kam kein Beendigungsgrund und weder [DONE] noch message_stop – die Verbindung ist also wahrscheinlich abgebrochen, in ein Timeout gelaufen oder von einem Proxy gekappt worden, bevor das Modell fertig war. Suchen Sie in der Ausgabe nach einem Stream-Fehler und prüfen Sie die Timeouts von Proxy und Load Balancer, die lange Streams oft nach 60 Sekunden beenden.
- Warum fehlt der Token-Verbrauch?
- Die Chat-Completions-API von OpenAI sendet den Verbrauch nur in einem letzten Chunk, wenn die Anfrage stream_options: {"include_usage": true} setzt; viele kompatible APIs verhalten sich ebenso. Anthropic sendet ihn in message_start und message_delta, Gemini in usageMetadata und die Responses-API in response.completed, daher wird er angezeigt, sobald er vorhanden ist.
- Was passiert bei n > 1 oder mehreren choices?
- Zusammengesetzt wird nur choice 0. Anfragen, die mehrere Vervollständigungen in einem Stream verlangen, verschachteln sie nach index, und sie zu vermischen ergäbe Unsinn; filtern Sie zuerst die Zeilen des anderen index heraus, wenn Sie sie brauchen.
Das Open Source dahinter
Dieses Werkzeug ist eine eigenständige Implementierung ohne fremde Bibliothek. openai/openai-node (Apache-2.0) erledigt dieselbe Aufgabe als Bibliothek — wer sie im eigenen Programm braucht, fängt dort an, statt eine Webseite aufzurufen.
openai/openai-nodeAuch bekannt als
- SSE Decoder
- Server-Sent Events Parser
- OpenAI Stream Parser
- Streaming Antwort dekodieren
- Anthropic Stream Events
- LLM Streaming debuggen