Bisheng: eine LLMOps-Plattform für komplexe Unternehmensabläufe
BISHENG is an open LLM devops platform for next generation Enterprise AI applications. Powerful and comprehensive features include: GenAI workflow, RAG, Agent, Unified model management, Evaluation, SFT, Dataset Management, Enterprise-level System Management, Observability and more.
Auf einen Blick
- Was ist das?
- Bisheng bündelt Workflow-Orchestrierung, RAG, Modellverwaltung und Dokumentenverarbeitung in einer selbst gehosteten Python-Anwendung. Der Docker-Compose-Start ist kurz, die eigentliche Arbeit liegt in der Modellierung der Abläufe und in der Frage, ob die eigene Infrastruktur die mitinstallierten Komponenten trägt.
- Für wen ist es gedacht?
- Bisheng passt zu Teams, die Workflows mit Schleifen, Parallelität und menschlichen Eingriffen selbst hosten wollen und dafür mindestens 16 GB RAM, besser 48 GB, bereitstellen. Wer nur einen Chatbot mit RAG braucht, greift zu Dify oder Flowise und spart sich Elasticsearch, Milvus und Onlyoffice.
- Darf ich es kommerziell nutzen?
- Ja. Apache-2.0 ist eine freizügige Lizenz: Sie dürfen darauf aufbauende Software nutzen, verändern und verkaufen, solange Sie die Urheberrechts- und Lizenzhinweise beibehalten.
- Wird es noch gepflegt?
- Ja. Das Repository hat innerhalb des letzten Tages neue Commits erhalten.
- In welcher Sprache ist es geschrieben?
- Hauptsächlich Python, laut der Sprachstatistik von GitHub.
Die Antworten beruhen auf den GitHub-Daten des Projekts (zuletzt abgeglichen am 15. September 2026) und auf unserer Analyse. Sie sind keine Rechtsberatung.
TIEFGEHENDE OPEN-SOURCE-ANALYSE
Welches Problem Bisheng adressiert und für wen
Viele Werkzeuge für LLM-Anwendungen decken genau einen Ausschnitt ab: eine Chat-Oberfläche, eine Vektordatenbank, eine Prompt-Verwaltung. Sobald ein Ablauf mehrere Schritte hat, mehrere Dokumenttypen verarbeitet und an einer Stelle einen Menschen einbeziehen soll, entsteht ein Flickenteppich aus Skripten und Diensten. Bisheng setzt genau dort an. Das Repository beschreibt die Plattform als "open LLM application devops platform, focusing on enterprise scenarios" und nennt als Anwendungsfälle Dokumentenprüfung, Erstellung formatgebundener Berichte, Multi-Agenten-Zusammenarbeit, Vergleich von Richtlinienversionen, Unterstützung im Support-Ticket-Verkehr, Protokollerstellung aus Meetings und Analyse unstrukturierter Daten. Das ist keine Sammlung von Demo-Notebooks, sondern eine Anwendung mit Rollen, Rechten und Betriebsfunktionen.
Die Zielgruppe ist entsprechend eng: Entwicklungsteams in Unternehmen, die Abläufe selbst betreiben und nicht an einen SaaS-Anbieter auslagern wollen. Dazu passt, dass das Repository Sicherheitsprüfung, RBAC, Benutzergruppenverwaltung, SSO/LDAP und gruppenweise Verkehrssteuerung als Bestandteil der Plattform nennt. Wer nur einen einzelnen Assistenten für eine Handvoll Nutzer baut, findet hier viel Betriebsaufwand für wenig zusätzlichen Nutzen.
Workflow-Ausführung mit Schleifen, Parallelität und menschlichen Eingriffen
Der Kern ist die Workflow-Engine. Laut README erlaubt sie die Ausführung verschiedener Aufgaben innerhalb eines einzigen Frameworks, während vergleichbare Produkte auf Bot-Aufrufe oder getrennte Module für Chat- und Arbeitsabläufe zurückgreifen. Unterstützt werden nach Angaben des Projekts Schleifen, Parallelverarbeitung, Stapelverarbeitung, bedingte Logik und die freie Kombination aller Logikkomponenten. Die Besonderheit liegt in der Darstellung: Schleifen, Parallelität und Stapelverarbeitung entstehen dem README zufolge durch das Zeichnen eines Flussdiagramms. Ein Kreis im Diagramm bildet eine Schleife, nebeneinander ausgerichtete Elemente laufen parallel, eine Mehrfachauswahl erzeugt Stapelverarbeitung.
Das zweite Unterscheidungsmerkmal ist Human in the loop. Nutzer können während der Ausführung eingreifen und Rückmeldung geben, auch in mehrstufigen Dialogen. Andere Produkte führen einen Workflow nach der Beschreibung des Projekts von Anfang bis Ende aus, ohne Unterbrechung. Für Prüfprozesse, Freigaben oder Berichte, die vor dem Versand gegengelesen werden müssen, ist das ein praktischer Unterschied. Wie die Eingriffsstelle technisch abgesichert ist, etwa durch Zeitlimits oder Rollenprüfung, geht aus dem vorliegenden Material nicht hervor. Das ist eine Lücke, die vor einem Produktiveinsatz mit eigenen Tests zu schließen ist.
Agenten, Dokumentenanalyse und Modellverwaltung als Bausteine
Neben der Workflow-Engine nennt das Repository einen allgemeinen Agenten namens Lingsight. Dessen Verhalten wird über die Agent Guidance Language (AGL) gesteuert, ein eigenes Framework im Repository dataelement/AgentGuidanceLanguage. Der Ansatz: Vorlieben, Erfahrung und Geschäftslogik von Fachexperten werden in den Agenten eingebettet, damit er bei Aufgaben mit Domänenbezug entsprechend handelt. Das ist ein anderer Weg als reines Prompt-Tuning, weil die Regeln als eigene Artefakte vorliegen und versioniert werden können.
Für die Dokumentenverarbeitung bringt Bisheng eigene Modelle mit. Das README beschreibt Erkennungsmodelle für gedruckten Text, Handschrift und seltene Zeichen sowie Modelle für Tabellenerkennung, Layoutanalyse und Siegel. Diese Modelle sollen auf Daten aus fünf Jahren Training aufbauen und privat, also ohne externen Dienst, betrieben werden können. Ein Modell für die optische Zeichenerkennung ersetzt keine Dokumentenpipeline, aber es beseitigt eine häufige Abhängigkeit: den Versand vertraulicher Scans an einen Fremdanbieter.
Hinzu kommen Verwaltung von Modellen, Bewertung (Evaluation), überwachtes Feintuning (SFT) und Dataset-Verwaltung. Das README nennt diese Punkte als Funktionsumfang, ohne Details zu Schnittstellen oder Dateiformaten. Wer Feintuning auf eigenen Daten plant, muss die Wiki-Dokumentation prüfen, bevor er Rechenzeit einplant.
Installation über Docker Compose
Der Einstieg ist knapp beschrieben. Vorausgesetzt werden mindestens 4 virtuelle CPU-Kerne, 16 GB RAM, Docker ab 19.03.9 und Docker Compose ab 1.25.1. Empfohlen werden 18 virtuelle Kerne und 48 GB Speicher, weil neben Bisheng standardmäßig Elasticsearch, Milvus und Onlyoffice mitinstalliert werden. Diese Empfehlung ist ernst zu nehmen: Elasticsearch und Milvus sind speicherhungrige Dienste, und Onlyoffice kommt für die Dokumentbearbeitung hinzu.
Der Ablauf aus dem README:
git clone https://github.com/dataelement/bisheng.git cd bisheng/docker docker compose -f docker-compose.yml -p bisheng up -d
Alternativ lässt sich das Repository als ZIP laden:
wget https://github.com/dataelement/bisheng/archive/refs/heads/main.zip unzip main.zip && cd bisheng-main/docker
Nach dem Start ist die Oberfläche unter http://IP:3001 erreichbar. Dort erfolgt die Registrierung, und der erste registrierte Nutzer wird laut README Systemadministrator. Das ist bequem für den Test, aber ein Punkt, den man in einer erreichbaren Umgebung kontrollieren sollte: Wer die Instanz zuerst erreicht, bekommt die höchsten Rechte. Für weitere Fragen verweist das README auf die Seite Self-hosting in der Feishu-Wiki.
Welche Umgebungsvariablen oder Konfigurationsschlüssel die Compose-Datei erwartet, geht aus dem vorliegenden Material nicht hervor. Diese Werte sind vor dem ersten Start in docker/docker-compose.yml nachzusehen.
Wo Bisheng an Grenzen stößt
Der Ressourcenbedarf ist die offensichtlichste Einschränkung. Mit den mitinstallierten Diensten ist eine Maschine mit 16 GB schnell am Limit, und die empfohlenen 48 GB sind für Einzelentwickler auf einem Laptop unrealistisch. Wer nur einen RAG-Chatbot mit einer kleinen Wissensbasis braucht, bezahlt hier für Fähigkeiten, die er nicht nutzt.
Zweitens die Reife. Die letzten veröffentlichten Stände sind v3.0.0-beta1 vom 27. August 2026 und ein Fehlerbehebungsstand v3.0.0-beta1-fix vom 3. September 2026. Der vorherige stabile Zweig ist v2.6.0-fix2 vom 11. August 2026. Wer auf einem Beta-Stand aufsetzt, muss mit Änderungen an Schnittstellen und Verhalten rechnen. Das ist keine Kritik an der Qualität, sondern eine Planungsgröße für Upgrades.
Drittens die Dokumentation. Das README verweist für Workflow-Details, Installation und Deployment auf die Feishu-Wiki. Das ist ein externes Portal, dessen Inhalt nicht im Repository liegt und dessen Versionsstand sich nicht am Git-Verlauf ablesen lässt. Für ein Projekt, das Betriebsverantwortung übernimmt, ist das ein Risiko: Wer die Plattform in fünf Jahren warten muss, verlässt sich auf eine Quelle außerhalb des Repositories.
Viertens die Sprache der Gemeinschaft. Das README liegt auf Englisch, Chinesisch und Japanisch vor. Die weiterführenden Verweise zeigen überwiegend auf chinesischsprachige Feishu-Seiten. Für Teams ohne chinesischsprachige Mitglieder verengt das den Zugang zu Beispielen und Fehlerbehebungen.
Alternativen und der eigentliche Unterschied
Dify verfolgt einen ähnlichen Anspruch, trennt aber laut der Beschreibung, die Bisheng selbst zieht, Chat-Abläufe und Arbeitsabläufe in getrennte Module und führt Workflows ohne Unterbrechung aus. Wer eine Plattform für einfache Assistenten sucht und auf eine breite, englischsprachige Dokumentationsbasis Wert legt, fährt mit Dify direkter. Flowise ist schlanker und stärker auf die visuelle Verkettung von Komponenten zugeschnitten, ohne den Betriebsapparat aus RBAC, SSO und Verkehrssteuerung, den Bisheng mitbringt.
Für die Dokumentenverarbeitung ist Unstructured die naheliegende Vergleichsgröße. Bisheng nennt es selbst unter den Projekten, von denen es profitiert. Unstructured liefert die Zerlegung und Anreicherung von Dokumenten als Bibliothek, nicht als Plattform. Der Unterschied liegt in der Verantwortung: Unstructured ist ein Baustein, den man in eine eigene Anwendung einbettet, Bisheng ist die Anwendung samt Oberfläche, Rechten und Betrieb.
Wenn es nur um Beobachtbarkeit und Evaluation von LLM-Aufrufen geht, sind Langfuse oder MLflow die passenderen Werkzeuge. Sie versionieren Prompts und Läufe, orchestrieren aber keine mehrstufigen Geschäftsprozesse mit menschlichen Freigaben. Die Entscheidung läuft also nicht auf besser oder schlechter hinaus, sondern darauf, ob man eine Plattform mit Betriebsverantwortung oder eine Bibliothek für den eigenen Code sucht.
Wartung, Upgrades und Lizenz
Bisheng steht unter Apache-2.0. Das erlaubt kommerzielle Nutzung, Veränderung und Weitergabe, solange die Lizenzbedingungen eingehalten werden, insbesondere Hinweise auf Urheberrecht und Lizenz. Wer die Plattform verändert und weitergibt, muss die Bedingungen der Apache-2.0 im Einzelfall prüfen; das ist keine Rechtsberatung. Zu beachten ist, dass die mitinstallierten Dienste eigene Lizenzen haben. Elasticsearch und Onlyoffice sind nicht Teil des Bisheng-Repositories, und ihre Bedingungen können sich von Apache-2.0 unterscheiden. Wer die Compose-Datei unverändert einsetzt, verteilt diese Komponenten mit und muss deren Lizenzmodelle kennen.
Der Upgrade-Aufwand hängt an zwei Dingen. Erstens am Tempo der Veröffentlichungen: Zwischen dem 11. August und dem 3. September 2026 liegen drei Stände, davon zwei im v3.0-Zweig. Wer früh auf v3.0.0-beta1 umsteigt, testet faktisch mit. Zweitens an der Kopplung: Da Elasticsearch, Milvus und Onlyoffice mitlaufen, bedeutet ein Sprung auf eine neue Hauptversion auch, die Kompatibilität dieser Dienste zu prüfen. Ein Upgrade ist damit kein einzelner Befehl, sondern ein Vorgang, der einen Probelauf mit den eigenen Workflows und Daten erfordert.
Was das Repository nicht liefert, ist eine Angabe dazu, wie lange einzelne Versionszweige gepflegt werden. Wer Bisheng produktiv betreibt, sollte die Fehlerbehebungsstände (v2.6.0-fix2, v3.0.0-beta1-fix) als Signal lesen: Das Projekt reagiert auf Fehler, veröffentlicht aber keine Zusagen über Supportzeiträume.
Redaktionelles Fazit
Bisheng passt zu Teams, die Workflows mit Schleifen, Parallelität und menschlichen Eingriffen selbst hosten wollen und dafür mindestens 16 GB RAM, besser 48 GB, bereitstellen. Wer nur einen Chatbot mit RAG braucht, greift zu Dify oder Flowise und spart sich Elasticsearch, Milvus und Onlyoffice. Wer ausschließlich Prompts und Evaluationsläufe versionieren will, ist mit Langfuse oder MLflow besser bedient. Vor dem Produktiveinsatz zuerst prüfen: ob der eigene Server die empfohlenen 18 virtuellen Kerne und 48 GB RAM liefert, ob die Apache-2.0-Lizenz des Repositories für die geplante Weitergabe der eigenen Workflow-Konfigurationen ausreicht, und ob die Dokumentation unter dataelem.feishu.cn den aktuellen Stand von v3.0.0-beta1 abbildet oder noch v2.6 beschreibt.
Community-Notizen