MLRun: Orchestrierung für den Lebenszyklus von KI-Anwendungen

Die MLRun-Plattform

MLRun ist eine in Python geschriebene Open-Source-KI-Orchestrierungsplattform. Laut README ist es für den Aufbau und die Verwaltung kontinuierlicher KI-Anwendungen über ihren gesamten Lebenszyklus konzipiert, integriert sich in Entwicklungs- und CI/CD-Umgebungen und automatisiert die Bereitstellung von Produktionsdaten, ML-Pipelines und Online-Anwendungen. Das Projekt beschreibt sich selbst als Reduzierung von Engineering-Aufwand, Time-to-Production und Rechenressourcen sowie als Überwindung von Silos zwischen Daten-, ML-, Software- und DevOps/MLOps-Teams. Die Repository-Metadaten listen 1.690 Sterne und 314 Forks auf, obwohl das README selbst keine Community-Kennzahlen behandelt.

Gen-KI-Aufgaben

Das README gruppiert die Unterstützung für generative KI in vier Bereiche. Datenmanagement umfasst Batch- oder Echtzeitverarbeitung in großem Maßstab, Datenherkunft und Versionierung sowie strukturierte und unstrukturierte Daten, mit Links zu Dokumentationen zur Verarbeitung unstrukturierter Daten mit LLMs, Vektordatenbanken und Schutzmaßnahmen. Die Entwicklung konzentriert sich auf den Aufbau automatisierter ML-Pipelines für Datenerfassung, Vorverarbeitung, Training und Bewertung, mit Dokumentation zu RAG, Bewertung von LLMs und Feinabstimmung von LLMs. Die Bereitstellung beschreibt die Bereitstellung eines neu trainierten LLM als serverlose Funktion unter Verwendung von Nuclio-Serverless-Funktionen mit Echtzeit-Autoskalierung und umfasst eine Anwendungspipeline, die Ereignisse akzeptiert, mit Zustand kontextualisiert, Merkmale vorbereitet, mit einem oder mehreren Modellen inferiert und Aktionen auslöst. Live-Ops umfasst die Überwachung von Ressourcen, Daten, Modell- und Anwendungsmetriken, die Identifizierung von Risiken, die Kontrolle von Kosten, die Messung von Geschäfts-KPIs und die Erfassung von Produktionsdaten für Optimierung und Governance. Jeder Bereich verlinkt auf spezifische Tutorials und Demos.

MLOps-Aufgaben

Der MLOps-Abschnitt des README beschreibt fünf Aufgabengruppen. Projektmanagement und CI/CD-Automatisierung organisieren Assets, Metadaten und Dienste in Projekten, die importiert/exportiert, Git-Repositorys oder IDE-Projekten zugeordnet und auf Benutzer und Rollen beschränkt werden können. Datenerfassung und -verarbeitung bieten abstrakte Schnittstellen zu Offline- und Online-Datenquellen, und der Feature-Store automatisiert Sammlung, Transformation, Speicherung, Katalog, Bereitstellung und Überwachung von Features. Entwicklung und Training von Modellen umfasst den Aufbau von Pipelines, die Daten verarbeiten, in großem Maßstab mit mehreren Parametern trainieren, testen, Experimente verfolgen, Modelle registrieren, versionieren und bereitstellen, mit Unterstützung für Drittanbieter-Trainingsdienste und eigene vortrainierte Modelle. Bereitstellung von Modellen und Anwendungen verwendet elastische, widerstandsfähige serverlose Funktionen für Echtzeit- oder Batch-Pipelines, die Anfragen abfangen, Datenverarbeitung, Inferenz und Integration mit Anwendungslogik durchführen. Modellüberwachung bettet Beobachtbarkeit in MLRun-Objekte ein, ermöglicht die Beobachtung von Ressourcennutzung und Modellverhalten wie Drift und Leistung und löst Warnungen oder erneute Trainingsaufträge aus.

Kernkomponenten

MLRun enthält mehrere Hauptkomponenten, wie im README beschrieben. Projektmanagement ist ein Dienst mit API, SDK, DB und UI, der Projektressourcen verwaltet und zentrale Steuerung und Metadaten bereitstellt. Funktionen sind automatisch bereitgestellte Softwarepakete mit Methoden und Laufzeitattributen wie Image, Bibliotheken, Befehl, Argumente und Ressourcen. Daten & Artefakte bieten Konnektivität zu Datenquellen, Metadatenverwaltung, Katalog und Versionierung für strukturierte und unstrukturierte Artefakte. Batch-Ausführungen und Workflows führen Funktionen mit Parametern aus und sammeln, verfolgen und vergleichen Ergebnisse. Die Echtzeit-Serving-Pipeline ermöglicht die schnelle Bereitstellung skalierbarer Daten- und ML-Pipelines unter Verwendung von Echtzeit-Serverless-Technologie, einschließlich API-Verarbeitung, Datenvorbereitung, Modell-Serving, Ensembles und Aktionsauslösung. Modellüberwachung verfolgt Daten, Modelle, Ressourcen und Produktionskomponenten mit Feedback-Schleifen für Drift-Erkennung, Anomalie-Warnungen und erneutes Training. Warnungen und Benachrichtigungen melden Probleme und Ausführungsstatus. Der Feature-Store sammelt, bereitet, katalogisiert und stellt Features für Offline- und Online-Bereitstellung automatisch bereit.

Integration und Umgebung

Das README besagt, dass MLRun in eine Entwicklungs- und CI/CD-Umgebung integriert ist und die Wahl einer beliebigen IDE auf einem lokalen Rechner oder in der Cloud ermöglicht. Es beansprucht auch die Unterstützung einer Reihe von Datenspeichern, Entwicklungstools, Diensten und Plattformen und verweist für die vollständige Liste auf eine Ökosystemseite auf der Dokumentationssite. Das README selbst zählt diese Integrationen nicht auf, daher müssen bestimmte unterstützte Produkte anhand dieser Seite verifiziert werden. Es erwähnt auch, dass Projekte Git-Repositorys oder IDE-Projekten in PyCharm, VSCode und ähnlichen zugeordnet werden können, was eine gewisse IDE-Integration impliziert, aber keine technischen Details liefert.

Repository und Lizenz

Das Repository wird auf GitHub unter dem Pfad mlrun/mlrun gehostet, ist in Python geschrieben und nicht archiviert. Die Metadaten zeigen 1.690 Sterne und 314 Forks. Das Projekt ist unter der Apache License 2.0 lizenziert. Diese Lizenz gewährt eine unbefristete, weltweite, nicht exklusive, kostenlose, lizenzgebührenfreie, unwiderrufliche Urheberrechtslizenz zur Vervielfältigung, Erstellung abgeleiteter Werke, öffentlichen Ausstellung, Aufführung, Unterlizenzierung und Verbreitung des Werks. Sie gewährt auch eine Patentlizenz für Patentansprüche von Mitwirkenden, die zwangsläufig durch ihre Beiträge verletzt werden, mit Beendigungsbestimmungen, wenn eine Patentklage eingereicht wird. Der Lizenztext enthält keine Garantien oder Unterstützungsverpflichtungen; Benutzer erhalten die Software "wie sie ist" gemäß den Lizenzbedingungen. Das README erwähnt keine kommerziellen Supportoptionen.

Lücken im README

Das README ist ein Überblick auf hoher Ebene und enthält keine Installationsbefehle, API-Nutzungsbeispiele oder versionsspezifische Informationen. Es verweist Leser auf externe Dokumentation für Tutorials, Setup-Anleitungen und Architekturdetails. Beispielsweise verlinkt es auf eine Seite "Richten Sie Ihre Client-Umgebung ein", bietet aber die Setup-Schritte nicht im README selbst. Ebenso gibt es keine Codeausschnitte, Befehlszeilenaufrufe oder Konfigurationsbeispiele. Das README enthält auch keine Leistungsbenchmarks, Sicherheitsgarantien oder Produktionsbereitstellungsergebnisse. Jeder, der MLRun evaluieren möchte, muss die verlinkte Dokumentation konsultieren oder die Tutorials ausführen, um diese Aspekte zu überprüfen.

mlrun: dokumentierter Einstieg

Der konkrete Einstieg in mlrun/mlrun lässt sich an pip install mlrun festmachen. Dabei sind die im README genannten Eingaben, Ausgaben und Abhängigkeiten zu erfassen. Ein erfolgreicher Lauf dieses Befehls zeigt nur, dass der dokumentierte Pfad in der geprüften Umgebung funktioniert; Aussagen über andere Plattformen oder Lastprofile sind daraus nicht abzuleiten.

Redaktionelles Fazit

Geeignet ist mlrun für den konkreten Einsatzbereich, den mlrun/mlrun im README beschreibt. Nicht belegt sind Fähigkeiten außerhalb dieser Dokumentation. Vor einer Entscheidung sollte pip install mlrun mit einer passenden Testeingabe ausgeführt und die projektspezifische Ausgabe geprüft werden; erst danach lassen sich Abhängigkeiten, Rechte und die Apache-2.0 Lizenz einordnen.

Offizielle Quellen

1. Official documentation
2. Official README
3. Project repository
4. Release notes