llm-action: eine kuratierte Tutorial-Sammlung für LLM-Engineering, kein ausführbares Framework

Ein Repository als Lehrbuch, nicht als Bibliothek

Die README beginnt mit einem Inhaltsverzeichnis, das den gesamten Lebenszyklus eines Sprachmodells abdeckt: Training, Inferenz, Kompression, Evaluation, Datenaufbereitung, Prompt Engineering, Anwendungsentwicklung und LLMOps. Das ist der Kern des Projekts. Es handelt sich nicht um ein Paket, das man mit pip installiert, sondern um eine Sammlung von Artikeln und begleitenden Codeverzeichnissen. Die Zielgruppe sind Ingenieure und Forschende, die Verfahren wie LoRA, QLoRA, P-Tuning v2, RLHF oder GPTQ nicht nur dem Namen nach kennen, sondern den Ablauf nachvollziehen wollen. Der Autor betreibt parallel einen Zhihu-Kolumnenkanal und verlinkt von dort auf die einzelnen Kapitel. Das Repository fungiert damit als dauerhaft adressierbarer Index für extern gehostete Inhalte. Wer die README öffnet, sieht zuerst eine Tabelle mit Modellen, Trainingsart, Parameterzahl, Artikelverweis und einem Link auf den zugehörigen Codeordner. Dieses Muster zieht sich durch das gesamte Dokument.

Die Tabellenstruktur als eigentliches Interface

Die zentrale Informationseinheit ist die Tabelle im Abschnitt LLM训练实战. Jede Zeile nennt ein Modell (Alpaca, ChatGLM, Vicuna, OPT, LLaMA), die Trainingsmethode (full fine-turning, LoRA, QLoRA, RLHF, GaLore), die Parameterklasse (7B bis 65B, bei OPT 0.1B bis 66B), einen Link auf einen Zhihu-Artikel und, sofern vorhanden, einen Link auf einen Unterordner im Repository. Diese vier Spalten sind die eigentliche Navigation. Auffällig ist die Spalte für den Code: bei BELLE, Vicuna und MiniGPT-4 steht N/A. Das ist eine ehrliche Angabe und zugleich ein Hinweis darauf, dass nicht jeder Artikel mit reproduzierbarem Code hinterlegt ist. Die Parameterangaben sind grob gerastert, etwa 7B~65B für Alpaca-LoRA oder 7B/65B für QLoRA. Wer daraus Hardwareanforderungen ableiten will, muss den verlinkten Artikel lesen. Die README selbst nennt keine Speichergrenzen, keine Batch-Größen und keine Durchsatzwerte. Für eine Ressourcensammlung ist das vertretbar. Für eine Kapazitätsplanung reicht es nicht.

Was in den Unterverzeichnissen tatsächlich liegt

Aus der README lassen sich konkrete Pfade ablesen: llm-train/alpaca, llm-train/alpaca-lora, llm-train/chatglm-lora, llm-train/chatglm, llm-train/deepspeedchat, llm-train/chinese-llama-alpaca, llm-train/qlora. Für GaLore verweist die Tabelle nicht auf einen Ordner, sondern direkt auf die Datei llm-train/galore/torchrun_main.py. Das deutet darauf hin, dass die Struktur nicht einheitlich ist: manche Themen haben ein vollständiges Verzeichnis, andere eine einzelne Einstiegsdatei. Der Dateiname torchrun_main.py legt nahe, dass der Einstieg über torchrun erfolgt, also über den verteilten Starter von PyTorch. Das ist eine plausible, aber aus dem Material nicht bestätigte Schlussfolgerung; die README zeigt den Aufruf nicht. Wer den Code nutzen will, muss den verlinkten Artikel lesen, weil dort die Umgebung, die Abhängigkeiten und die konkreten Kommandos beschrieben sind. Das Repository allein ist kein ausreichendes Betriebshandbuch.

Einrichtung: was die README zeigt und was sie offen lässt

Die README enthält keine Installationsanweisung für das Repository selbst. Es gibt kein requirements.txt auf oberster Ebene, kein pyproject.toml und keinen Hinweis auf ein Docker-Image. Die einzige technische Konfiguration, die im Material sichtbar wird, ist der Dateipfad llm-train/galore/torchrun_main.py, der auf einen Start über torchrun hindeutet. Alles Weitere, also CUDA-Version, DeepSpeed-Konfiguration, Datensatzpfade, Lernraten, das steht in den verlinkten Artikeln auf Zhihu. Das ist die entscheidende Einschränkung für die Praxis: Um einen der Trainingsläufe nachzuvollziehen, muss man zwei Quellen parallel lesen, den Artikel und den Codeordner. Wer nur die README liest, erfährt, welche Verfahren existieren, aber nicht, wie man eines davon auf einer konkreten Maschine startet. Für einen ersten Überblick ist das ausreichend. Für einen reproduzierbaren Build ist es zu wenig.

Die Sprachbarriere als praktische Grenze

Alle Artikel liegen auf Zhihu, einer chinesischen Plattform, und sind auf Chinesisch verfasst. Die README selbst ist chinesisch, mit englischen Fachbegriffen durchsetzt. Das ist keine Nebensache, sondern bestimmt, wer das Projekt nutzen kann. Wer die Sprache nicht liest, sieht nur die Tabellen und die Codelinks. Die Tabellen allein transportieren Methode, Modell und Parameterzahl, aber nicht die Begründung, die Fallstricke oder die gemessenen Ergebnisse. Genau diese Details sind der Grund, warum jemand eine Tutorialsammlung öffnet. Ein weiterer Punkt: Die Artikel liegen auf einer externen Plattform. Ändert Zhihu seine URL-Struktur oder entfernt Inhalte, brechen die Verweise. Das Repository hat keine Releases und damit keinen versionierten Snapshot der Inhalte. Wer sich darauf verlassen will, sollte die Artikel lokal archivieren.

Apache-2.0 für die Struktur, nicht für die Artikel

Das Repository steht unter Apache-2.0. Diese Lizenz erlaubt kommerzielle Nutzung, Weitergabe und Bearbeitung, sofern Urheberrechtshinweise und Lizenztext erhalten bleiben und Änderungen gekennzeichnet werden. Sie enthält außerdem eine ausdrückliche Patentgewährung. Wichtig ist die Reichweite: Die Lizenz gilt für den Inhalt des Repositories, also die README, die Codeordner und die Bilder. Sie gilt nicht automatisch für die verlinkten Zhihu-Artikel, die auf einer anderen Plattform liegen und deren Nutzungsbedingungen unterliegen. Wer Code aus llm-train/ in ein eigenes Produkt übernimmt, sollte zusätzlich prüfen, ob die dortigen Beispiele auf Modellgewichten oder Datensätzen mit eigenen Lizenzen aufbauen. Das ist bei Alpaca, LLaMA und ähnlichen Modellen regelmäßig der Fall. Diese Einschätzung ist keine Rechtsberatung.

Wartung: fortlaufende Pflege ohne Versionsanker

Der letzte Push liegt laut Repository-Metadaten im Juli 2026, das Projekt ist nicht archiviert. Es gibt keine Releases. Damit fehlt jede Möglichkeit, einen bestimmten Stand zu referenzieren. Wer in einem halben Jahr auf einen Abschnitt verweisen will, kann nur auf einen Commit-Hash zeigen, nicht auf eine Version. Für eine Sammlung von Lehrmaterial ist das nachvollziehbar, denn die Verfahren selbst ändern sich langsamer als ihre Verpackung. Der Preis ist, dass Änderungen an Struktur und Links unbemerkt bleiben können. Ein Aktualisierungsaufwand entsteht vor allem dadurch, dass die verlinkten Artikel gepflegt werden müssen; das Repository selbst ist im Wesentlichen eine README plus Codeordner. Wer es forkt, übernimmt diesen Pflegeaufwand vollständig, weil es keinen Upstream-Prozess gibt, an dem man sich orientieren könnte.

Alternativen: ausführbare Frameworks statt Leseliste

Der direkteste Vergleich ist nicht ein anderes Tutorial, sondern ein ausführbares Werkzeug. vLLM ist ein Inferenzserver mit eigener API, installierbar über pip, mit versionierten Releases und einer Konfiguration über Kommandozeilenparameter und Python-Aufrufe. DeepSpeed liefert eine Konfigurationsdatei im JSON-Format, die Zeile für Zeile in einem Trainingsskript referenziert wird, und dessen DeepSpeed-Chat ist im Repository unter llm-train/deepspeedchat verlinkt. Axolotl wiederum ist ein Trainingswerkzeug mit YAML-Konfiguration, das Full Fine-Tuning, LoRA und QLoRA über dieselbe Schnittstelle abbildet. Der Unterschied liegt nicht in der Themenabdeckung, sondern in der Form: Diese Projekte liefern ausführbaren Code mit Tests und Issue-Tracking, llm-action liefert Erklärungen mit Codeanhängen. Wer ein Verfahren verstehen will, bevor er es einsetzt, ist mit llm-action besser bedient. Wer es einsetzen will, greift zum Framework und nutzt llm-action als Begleitliteratur.

Redaktionelles Fazit

Wer sich in chinesischer Sprache einen Überblick über Full Fine-Tuning, LoRA, QLoRA, RLHF und Quantisierung verschaffen will und bereit ist, den verlinkten Artikeln zu folgen, findet hier eine dichte Einstiegsressource. Wer eine installierbare Bibliothek mit API, Tests und Release-Zyklus braucht, sollte zu vLLM, DeepSpeed oder Axolotl greifen. Vor dem Einsatz lohnt ein Blick in die Verzeichnisse llm-train/ und llm-infer/, um zu prüfen, ob der jeweilige Unterordner tatsächlich Code enthält oder nur auf einen externen Artikel verweist.

Offizielle Quellen

1. Issues
2. License: Apache-2.0
3. liguodongiot/llm-action on GitHub
4. Project website
5. README