OmniRoute: ein Gateway, das kostenlose AI-Kontingente hinter einem Endpunkt sammelt
OmniRoute stellt einen OpenAI-kompatiblen Endpunkt für mehrere Modellanbieter bereit, mit kontingentbewusstem Routing, automatischem Fallback und optionaler Antwortkomprimierung.
Auf einen Blick
- Was ist das?
- Ein TypeScript-Gateway mit OpenAI-kompatiblem Endpunkt auf Port 20128, das Anbieter, Kontingentplanung, Fallback-Ketten und eine nachgeprüfte Free-Tier-Katalogisierung verbindet.
- Für wen ist es gedacht?
- OmniRoute eignet sich für Entwickler, die über ein einziges lokales SDK auf viele Modellanbieter zugreifen und dabei kostenlose Kontingente systematisch ausschöpfen wollen, ohne Dutzende SDKs zu pflegen.
- Darf ich es kommerziell nutzen?
- Ja. MIT ist eine freizügige Lizenz: Sie dürfen darauf aufbauende Software nutzen, verändern und verkaufen, solange Sie die Urheberrechts- und Lizenzhinweise beibehalten.
- Wird es noch gepflegt?
- Ja. Das Repository hat innerhalb des letzten Tages neue Commits erhalten.
- In welcher Sprache ist es geschrieben?
- Hauptsächlich TypeScript, laut der Sprachstatistik von GitHub.
Die Antworten beruhen auf den GitHub-Daten des Projekts (zuletzt abgeglichen am 15. September 2026) und auf unserer Analyse. Sie sind keine Rechtsberatung.
TIEFGEHENDE OPEN-SOURCE-ANALYSE
Ein Endpunkt für viele Anbieter: Port 20128
OmniRoute von diegosouzapw ist ein TypeScript-Gateway, das einen einzelnen OpenAI-kompatiblen Endpunkt bereitstellt und dahinter Dutzende Anbieter verwaltet. Die Installation läuft über npm install -g omniroute && omniroute, alternativ über Docker, Docker-Compose-Profile, ein Arch-Linux-AUR-Paket oder eine Void-Linux-Vorlage. Nach dem Start öffnet das Dashboard unter http://localhost:20128, ein Split-Port-Modus kann API und Dashboard trennen.
Die Zahl der angebunden Anbieter wächst mit den Versionen: Die Wachstumstabelle des README nennt 290 Provider und 1.185 eindeutige Chat-Modell-IDs für v3.8.49, für v3.8.50 sind es 350 Provider und 1.312 Modell-IDs. Releases erscheinen in kurzen Abständen, v3.8.50 datiert auf den August 2026, der Standardzweig trägt die Bezeichnung release/v3.8.49.
Der Endpunkt übersetzt zwischen OpenAI-, Claude- und Gemini-Formaten, stellt also nicht nur Chat-Completions bereit, sondern auch Einbettungen, Bildgenerierung, Video, Musik, Audio, Re-Ranking und Websuche. Für Automatisierung enthält das Projekt einen MCP-Server, gestartet mit omniroute --mcp, der Werkzeuge wie omniroute_get_health und omniroute_list_combos anbietet, sowie einen A2A-JSON-RPC-Endpunkt unter /a2a mit message/send, message/stream und Task-Lifecycle-APIs.
Die Free-Tier-Rechnung: 445 Einträge, 39 Pool-Schlüssel
Das auffälligste Merkmal ist die kontrollierte Rechnung über kostenlose Kontingente. Das README beziffert 445 Free-Tier-Einträge über 39 wiederkehrende Pool-Schlüssel, aus denen sich die Token-Kopfzahl von rund 1,51 Milliarden pro Monat aus den 20 Pools mit veröffentlichtem positivem Monatsbudget ergibt, dedupliziert über geteilte Pools. Die Zahl bleibt sichtbar unter /dashboard/free-tiers.
Die Methodik liegt offen in docs/reference/FREE_TIERS.md und umfasst Pool-Dedupe, Kreditstufen und Anbieterbedingungen. Wichtig ist die Selbstauskunft des README, dass die Zahlen alle zwei Wochen gegen den lebenden Katalog geprüft werden und in beide Richtungen wandern: Endet ein kostenloser Kontingent, sinkt die Zahl; kommt ein neuer hinzu, steigt sie. Veröffentlicht wird, was der Katalog tatsächlich errechnet, nie ein aufgerundeter Bestfall.
Genau diese Transparenz unterscheidet OmniRoute von typischen Gateway-Werbeversprechen. Wer die Rechnung nachvollziehen will, vergleicht die Dashboard-Ansicht mit der Methodikdatei und sieht, welche Pools in den eigenen Nutzungsfenster tatsächlich Budget tragen.
Vier Fallback-Stufen und 13 Ausgleichsstrategien
Das Routing folgt einer vierstufigen Fallback-Kette: zuerst Abonnement, dann API-Schlüssel, dann günstig, dann kostenlos. Jede Stufe wird auf Kontingent und Budget geprüft, und der Router wechselt nach unten, wenn eine Stufe erschöpft ist. Multi-Konto-Nutzung mit Round-Robin gehört ebenso dazu wie 13 Ausgleichsstrategien, darunter Priorität, gewichtet und kostenoptimiert, plus quotenbewusste P2C-Auswahl.
Version v3.8.50 baut diese Ebene aus: Die Wachstumstabelle nennt Quota-Share-Scheduling und live Quota-Telemetrie als Neuigkeiten, dazu einen opt-in-fähigen Radar-Katalog als eigenes Release unter radar-export-latest. Wer Kontingentgrenzen über mehrere Projekte verteilen muss, findet damit eine Steuerung, die über einfaches Round-Robin hinausgeht.
Die Kompatibilitätsliste umfasst Claude Code, Codex, Cursor, OpenCode, Cline und Copilot; kostenlose Anbieter wie Kiro, Qoder und Qwen stehen neben kostenpflichtigen wie GLM, MiniMax und DeepSeek. Da der Endpunkt OpenAI-Format spricht, genügt meist eine Basis-URL-Änderung im bestehenden Client, um die Kette zu nutzen.
Kontextkompression vor dem Upstream
Eine eigene Ebene behandelt Kontextgröße. Das README beschreibt eine proaktive Kontextkompression, die alte Konversationsverläufe beschneidet, bevor die Anfrage den Upstream erreicht, mit strukturellem Integritätsschutz, der tool_use- und tool_result-Paare konsistent hält. Dazu kommt mehrschichtiges Verwerfen von System- und regulären Nachrichten.
Das ist praktisch relevant, weil Kontingentkosten oft von Eingabetoken getrieben werden. Wer lange Tool-Schleifen mit Agenten fährt, verliert Platz durch veraltete Verläufe, und die Kompression schneidet genau dort, ohne Paare von Werkzeugaufrufen und Ergebnissen auseinanderzureißen.
Interessant ist auch die Ehrung der Grenzen: Die README quantifiziert die Token-Einsparung nicht selbst. Die Metadaten des Repositorys zitieren einen Begriff namens RTK+Caveman-Kompression mit 15 bis 95 Prozent Ersparnis, aber dieser Prozentsatz erscheint nicht im README; wer darauf baut, sollte die Zahl als unbelegt behandeln.
Sicherheit, Protokolle und das Dashboard
Das Sicherheitskapitel des README listet API-Schlüsselverwaltung, Berechtigungen auf Modellebene, Ratenbegrenzung, IP-Filterung, Schutz gegen Prompt-Injection und AES-256-GCM-Verschlüsselung für Anmeldeinformationen auf. Die Beobachtbarkeit läuft über ein einheitliches Protokoll-Dashboard mit Anfrage-, Proxy-, Audit- und Konsolenprotokollen sowie ein Health-Dashboard mit p50-, p95- und p99-Latenzwerten.
Der Betrieb bleibt lokal: Der Gateway-Endpunkt lauscht auf dem eigenen Rechner, und für Fernzugriff beschreibt das README eine Cloudflare-Quick-Tunnel-Funktion sowie Umgebungsvariablen für Timeouts. Damit liegt die Kontrolle über Schlüssel und Protokolle beim Nutzer, nicht bei einem fremden Cloud-Dienst.
Das Projekt ist unter der MIT-Lizenz freigegeben, die Nutzung, Vervielfältigung, Änderung, Zusammenführung, Veröffentlichung, Verbreitung, Unterlizenzierung und den Verkauf von Kopien erlaubt, aber keine Garantie oder Haftung übernimmt. Der Lizenztext äußert sich nicht zur Sicherheitslage, zum Support oder zur Produktionsreife; das bleibt am jeweiligen Einsatz hängen.
Fazit: Ein Gateway als Kontingent-Verwalter für den Alltag
OmniRoute ist vor allem für die Praxis interessant, in der viele kleine Modellaufrufe über den Tag verteilt anfallen und die Summe der kostenlosen Kontingente die Rechnung drücken soll. Die Verbindung aus einem OpenAI-kompatiblen Endpunkt, vierstufigem Fallback, 13 Ausgleichsstrategien, Quota-Share-Scheduling und offener Free-Tier-Methodik ist ein vollständiges Konzept statt eines SDK-Wrappers.
Weniger geeignet ist das Gateway, wenn man einen zertifizierten Enterprise-Dienst braucht oder die Zahl der Anbieter klein und die Kostenstruktur stabil bleibt; dann ist ein direkter Anbietervertrag einfacher. Auch wer auf die zitierte 15-95-Prozent-Kompressionsersparnis setzt, sollte sie zuerst selbst messen.
Konkret lässt sich der Nutzen in einer Stunde prüfen: npm install -g omniroute && omniroute ausführen, im Dashboard unter http://localhost:20128 die Ansicht /dashboard/free-tiers öffnen, docs/reference/FREE_TIERS.md gegenlesen und mit omniroute_get_health sowie dem Health-Dashboard die Latenzwerte gegen den eigenen Clientlauf vergleichen.
Redaktionelles Fazit
OmniRoute eignet sich für Entwickler, die über ein einziges lokales SDK auf viele Modellanbieter zugreifen und dabei kostenlose Kontingente systematisch ausschöpfen wollen, ohne Dutzende SDKs zu pflegen. Wer strikte Zertifizierung oder einen zugehörigen Supportvertrag braucht, wird hier nicht fündig; vor produktiver Nutzung lohnt ein Blick auf docs/reference/FREE_TIERS.md und den Health-Dashboard unter http://localhost:20128, um die eigenen Kontingentzahlen selbst zu verifizieren.
Community-Notizen