Onyx: Eine selbst gehostete KI-Plattform mit RAG, Agents und zwei Betriebsmodi

Was Onyx löst und wer es braucht

Onyx adressiert ein konkretes Problem: Viele Teams wollen LLMs nicht nur als einfachen Chat nutzen, sondern in eigene Wissensbestände integrieren. Dazu braucht es eine Schicht, die Dokumente indexiert, Suchanfragen verarbeitet und Ergebnisse an ein Sprachmodell übergibt. Onyx will diese Anwendungsschicht sein. Die Zielgruppe sind Entwickler und Organisationen, die eine selbst gehostete Alternative zu proprietären KI-Chat-Oberflächen suchen, ohne von einem einzelnen LLM-Anbieter abhängig zu sein. Die README nennt explizit Unterstützung für selbst gehostete Modelle wie Ollama oder vLLM sowie proprietäre Dienste wie OpenAI. Das macht Onyx interessant für Unternehmen mit Datenschutzauflagen, die ihre Daten nicht an externe Dienste senden wollen. Für einzelne Nutzer, die nur einen schnellen Chat wünschen, gibt es einfachere Wege, etwa direkt über einen LLM-Anbieter. Onyx richtet sich an Teams, die Wert auf Kontrolle und Erweiterbarkeit legen.

Die Architektur: Zwei Modi, zwei Komplexitätsstufen

Bemerkenswert ist die Trennung in zwei Deployment-Modi. Onyx Lite ist eine schlanke Chat-Oberfläche, die unter 1 GB Arbeitsspeicher läuft. Sie verzichtet auf den Vektor- und Keyword-Index, der für RAG nötig ist. Der Standard-Modus fügt genau diese Komponenten hinzu: einen Hybrid-Index, Hintergrundcontainer für Job-Warteschlangen und Worker zum Synchronisieren von Connectors sowie Inferenzserver für Deep-Learning-Modelle. Dazu kommen Redis als In-Memory-Cache und MinIO als Blob-Speicher. Diese Architektur erklärt, warum Onyx als Plattform bezeichnet wird. Es ist kein einzelnes Programm, sondern ein Verbund aus Diensten. Der Lite-Modus ist für Tests gedacht, der Standard-Modus für den produktiven Einsatz. Diese Zweiteilung ist klug, weil sie den Einstieg erleichtert. Aber sie bedeutet auch: Wer RAG wirklich nutzen will, muss die volle Infrastruktur betreiben. Ein einfacher Chat mit Dokumenten ist im Lite-Modus nicht möglich.

Agentisches RAG und die Rolle der Connectors

Onyx setzt auf einen hybriden Index, kombiniert also Vektor- und Keyword-Suche. Dazu kommen KI-Agenten, die bei der Informationsbeschaffung helfen. Die README nennt das "Agentic RAG" und verspricht "best in class search and answer quality". Solche Superlative sollte man mit Vorsicht lesen, da kein Benchmark verlinkt ist. Der Deep-Research-Flow wird als mehrstufiger Prozess beschrieben, der auf einem internen Leaderboard führen soll. Was fehlt, sind Details zur Funktionsweise der Agenten. Wie sie Anfragen zerlegen, welche Werkzeuge sie nutzen und wie sie Ergebnisse priorisieren, bleibt offen. Die über 50 Connectors sind ein zentraler Baustein, denn sie bringen externe Daten in den Index. Die Liste der unterstützten Quellen ist im README nicht vollständig aufgeführt. Für eine Evaluierung muss man die Dokumentation konsultieren. Wer einen seltenen Datenspeicher anbinden will, sollte prüfen, ob ein Connector existiert oder ob MCP als Ausweg dient, da Onyx auch MCP unterstützt.

Installation: Ein Befehl, aber nicht ohne Voraussetzungen

Die README bewirbt eine Ein-Befehl-Installation: curl -fsSL https://onyx.app/install_onyx.sh | bash. Das klingt verlockend, aber wer Standard-Onyx betreibt, braucht mehr als ein Skript. Der Standard-Modus benötigt Docker oder Kubernetes, und die README verweist auf Helm/Terraform sowie Anleitungen für Cloud-Anbieter. Die genauen Systemanforderungen für den Standard-Modus sind nicht im README genannt. Nur für Lite wird die Speichergrenze von unter 1 GB erwähnt. Bevor man das Installationsskript ausführt, sollte man die Deployment-Dokumentation lesen. Ein blindes Ausführen von Skripten aus dem Internet ist ohnehin riskant. Wer Kubernetes nutzt, findet vermutlich Helm-Charts, aber die README gibt keine konkreten Befehle dafür. Die Konfiguration erfolgt vermutlich über Umgebungsvariablen oder Konfigurationsdateien, aber das bleibt Spekulation. Fakt ist: Die Installation ist für Lite trivial, für Standard aber ein Infrastrukturprojekt.

Erweiterte Funktionen: Code-Ausführung, Artifacts und Voice

Onyx geht über reine Textantworten hinaus. Die README listet Code-Ausführung in einer Sandbox, um Daten zu analysieren oder Grafiken zu rendern. Das ist ein mächtiges Werkzeug, aber auch ein Sicherheitsrisiko. Eine Sandbox muss robust isoliert sein, sonst kann Code Schaden anrichten. Artifacts erlauben das Erzeugen von Dokumenten und Grafiken, die der Nutzer herunterladen kann. Voice-Modus mit Sprachsynthese und -erkennung ist ebenfalls enthalten. Diese Funktionen machen Onyx zu einer Art Arbeitsplatz für KI-Aufgaben, nicht nur zu einem Chat. Für Unternehmen, die Mitarbeitern eine sichere Umgebung für Datenanalyse bieten wollen, ist das attraktiv. Aber jede dieser Funktionen erhöht die Angriffsfläche. Wer Code-Ausführung aktiviert, muss die Sandbox-Konfiguration genau prüfen. Die README gibt keine Details zur Isolierung. Das ist eine Lücke, die vor einem produktiven Einsatz geklärt werden muss.

Enterprise-Funktionen und Lizenz: Was ist wirklich frei?

Die Lizenzfrage ist bei Onyx nicht trivial. Die README zeigt ein MIT-Abzeichen, aber der Repository-Metadaten sagt NOASSERTION. Das ist ein Widerspruch. Onyx gibt es in zwei Editionen: Community Edition (CE) unter MIT und Enterprise Edition (EE) mit zusätzlichen Funktionen. SSO, RBAC, SCIM und Analytics sind laut README Enterprise-Funktionen. Das bedeutet: Für kleine Teams mag die CE ausreichen, aber sobald du zentrale Authentifizierung oder detaillierte Nutzungsanalysen brauchst, musst du die EE erwerben. Die README verlinkt auf eine Preisseite, aber die Kosten sind nicht öffentlich im README. Diese Trennung ist üblich bei Open-Source-Projekten, aber sie erfordert Aufmerksamkeit. Wer Onyx einführt, sollte vorher klären, welche Funktionen in der CE enthalten sind und welche nicht. Sonst droht später eine böse Überraschung, wenn das Team wächst und plötzlich RBAC benötigt.

Grenzen und Alternativen: Onyx ist nicht für jeden

Onyx ist nicht das richtige Werkzeug, wenn du nur eine einfache Chat-Oberfläche für ein einzelnes LLM suchst. Dafür gibt es leichtere Lösungen wie Open WebUI oder LibreChat, die weniger Ressourcen benötigen und einfacher zu betreiben sind. Diese Alternativen bieten oft ebenfalls RAG-Unterstützung, aber ohne den umfangreichen Connector-Stack und die Agenten-Funktionen. Wenn du jedoch eine Plattform brauchst, die viele Datenquellen anbindet und Agenten mit Aktionen und MCP unterstützt, ist Onyx einen Blick wert. Ein weiterer Grenzfall: Wenn du bereits eine eigene RAG-Pipeline mit Tools wie LangChain oder Haystack betreibst, könnte Onyx redundant sein. Es übernimmt die Orchestrierung, aber du bist an seine Architektur gebunden. Die README verspricht keine einfache Migration bestehender Pipelines. Wer also schon investiert hat, sollte prüfen, ob Onyx wirklich einen Mehrwert bietet oder ob es nur eine weitere Abstraktionsebene ist.

Wartung und Betrieb: Ein Langzeitprojekt

Die README zeigt eine aktive Entwicklung mit regelmäßigen Releases, zuletzt v4.7.1 im September 2026. Das ist ein gutes Zeichen, aber es bedeutet auch, dass Updates folgen. Wer Onyx betreibt, muss mit Wartungsaufwand rechnen, insbesondere im Standard-Modus. Die Hintergrundcontainer, Redis und MinIO müssen überwacht und aktualisiert werden. Die README erwähnt keine automatischen Update-Mechanismen. Ein Upgrade von einer Version auf die nächste könnte manuell erfolgen müssen. Die Dokumentation unter docs.onyx.app ist die primäre Quelle für Upgrade-Pfade, aber im README gibt es keine konkreten Anweisungen. Für Teams ohne DevOps-Erfahrung kann das eine Hürde sein. Die Community auf Discord mag helfen, aber für kritische Systeme braucht es verlässliche Prozesse. Bevor du Onyx einführst, solltest du abschätzen, ob dein Team die Zeit für Wartung hat. Ein einmaliges Deployment ist nicht genug, die Plattform muss gepflegt werden, um sicher und aktuell zu bleiben.

Redaktionelles Fazit

Onyx eignet sich für Organisationen, die eine vollständig selbst gehostete KI-Oberfläche mit RAG und Agenten suchen und Docker oder Kubernetes betreiben. Für einzelne Nutzer, die nur einen Chat wollen, ist der Lite-Modus geeignet, aber wer tiefe Dokumentensuche benötigt, muss den Standard-Modus mit höherem Ressourcenbedarf wählen. Vor der Einführung sollten Sie prüfen, ob die Enterprise-Funktionen wie SSO und RBAC in Ihrer Lizenz enthalten sind, da die README zwischen Community- und Enterprise-Edition unterscheidet. Verifizieren Sie außerdem, welche der über 50 Connectors für Ihre Datenquellen tatsächlich funktionieren, da die Liste nicht im README aufgeführt ist. Onyx ist kein Spielzeug, sondern eine Plattform mit ernsthaftem Betriebsaufwand, die nur dann ihren Wert zeigt, wenn Sie die Infrastruktur für den Standard-Modus bereitstellen können.

Offizielle Quellen

1. Official documentation
2. Official README
3. Project repository
4. Release notes