Hands-On-Large-Language-Models: Begleitcode zu einem Buch, kein Framework

Was dieses Repository liefert und was nicht

Das Repository ist der offizielle Code zum Buch Hands-On Large Language Models von Jay Alammar und Maarten Grootendorst, das der README selbst als The Illustrated LLM Book bezeichnet. Es enthält zwölf Kapitel-Notebooks, jedes über einen Open-in-Colab-Badge verlinkt. Die Themen reichen von Introduction to Language Models über Tokens and Embeddings, Looking Inside Transformer LLMs, Text Classification, Text Clustering and Topic Modeling, Prompt Engineering, Advanced Text Generation Techniques and Tools, Semantic Search and Retrieval-Augmented Generation, Multimodal Large Language Models, Creating Text Embedding Models bis zu Fine-Tuning BERT und Fine-Tuning Generation Models. Das ist die vollständige inhaltliche Spanne, die der README abbildet. Was fehlt, ist ebenso wichtig: Es gibt keine Setup-Anleitung mit pip install, keine requirements-Datei im Auszug, keinen Paketnamen und keine veröffentlichten Releases. Der Nutzer lädt Notebooks, keine Abhängigkeit.

Zwölf Kapitel als didaktische Kette

Die Reihenfolge der Notebooks ist nicht beliebig. Kapitel 2 erklärt Tokenisierung und Embeddings, Kapitel 3 öffnet den Transformer, Kapitel 4 und 5 wenden Embeddings für Klassifikation und Clustering an, Kapitel 10 baut eigene Embedding-Modelle, Kapitel 11 und 12 fine-tunen Repräsentations- und Generierungsmodelle. Wer bei Kapitel 8 einsteigt, um semantische Suche und RAG zu verstehen, trifft auf Embedding-Konzepte aus Kapitel 2 und 5, die dort vorausgesetzt werden. Das Material ist also als Kurs angelegt, nicht als Nachschlagewerk. Für Ingenieure, die ein einzelnes Problem lösen wollen, bedeutet das: Man muss entscheiden, ob man die Kette von vorne durchläuft oder sich nur die relevanten Notebooks herauszieht und die Lücken in Kauf nimmt. Beides ist möglich, aber nur der lineare Weg ist der vom Autor vorgesehene.

Colab als primäre Laufzeitumgebung

Der README gibt eine klare Empfehlung: Alle Beispiele sollten über Google Colab ausgeführt werden, weil dort eine T4-GPU mit 16 GB VRAM kostenlos verfügbar ist. Alle Beispiele seien hauptsächlich in Google Colab gebaut und getestet worden, weshalb es die stabilste Plattform sei. Andere Cloud-Anbieter sollten ebenfalls funktionieren, so der README. Diese Aussage ist eine Einschränkung, keine Fußnote: Wer die Notebooks lokal oder in einer eigenen Kubernetes-Umgebung ausführen will, muss die GPU-Abhängigkeiten, die Colab vorinstalliert, selbst bereitstellen. Der README nennt keine Liste dieser Abhängigkeiten, keine Versionsnummern und keine Alternativen für kleinere GPUs. Die 16 GB VRAM sind die faktische Untergrenze, die das Material voraussetzt. Ob einzelne Notebooks auch auf kleineren Karten laufen, lässt sich aus dem vorliegenden Material nicht ableiten.

Fast 300 Abbildungen als eigentliches Verkaufsargument

Der README bewirbt das Buch mit fast 300 custom made figures. Das ist für die Bewertung des Repositorys relevant, weil die Notebooks den visuellen Ansatz des Buches spiegeln sollen. Wer die Abbildungen erwartet, findet im Repository einen Ordner images mit dem Buchcover, aber der README macht keine Aussage darüber, ob die 300 Abbildungen selbst im Repository liegen oder nur im gedruckten Buch. Diese Unterscheidung ist praktisch: Ein Notebook, das auf eine Abbildung verweist, die nur im Buch existiert, ist ohne Buch schwerer zu lesen. Wer das Repository als eigenständiges Lernmaterial nutzen will, sollte vorher prüfen, wie viel des visuellen Kontexts tatsächlich im Code steckt. Aus dem vorliegenden Material lässt sich das nicht beantworten.

Kein Release, keine Versionierung, kein Support-Versprechen

Das Repository hat laut den Metadaten keine abgerufenen Releases. Es gibt keinen Tag, an dem ein Stand als stabil markiert wäre, und keine Changelog-Datei im Auszug. Der letzte Push liegt bei 2026-04-24, das Repository ist nicht archiviert. Für ein Buchbegleit-Repository ist das üblich, hat aber Konsequenzen: Wenn eine Bibliothek im Notebook ihr API ändert, bricht das Notebook, und es gibt keinen gepflegten Branch, der eine kompatible Version festhält. Der Leser muss selbst herausfinden, welche Version von transformers, sentence-transformers oder anderen Paketen zu dem jeweiligen Notebook-Stand passt. Genau diese Versionierung fehlt im vorliegenden Material. Wer das Repository in einer Lehrveranstaltung oder einem Workshop einsetzt, sollte einen eigenen Snapshot erstellen, statt auf den main-Branch zu verweisen.

Apache-2.0 und die Frage der Weiterverwendung

Das Repository steht unter Apache-2.0. Das erlaubt kommerzielle Nutzung, Modifikation und Weitergabe unter Beibehaltung der Lizenzhinweise und der Patentgewährung. Für Unternehmen, die den Code als Grundlage für interne Schulungen verwenden wollen, ist das eine praktikable Grundlage. Zu beachten ist die Trennung: Die Lizenz gilt für den Code im Repository, nicht für den Buchtext. Wer Passagen aus dem Buch in eigene Materialien übernimmt, braucht dafür eine separate Erlaubnis, die Apache-2.0 nicht abdeckt. Ebenso sind die im Code verwendeten vortrainierten Modelle eigene Lizenzen, die je nach Modell variieren. Der README nennt dazu keine Details. Wer die Notebooks in Produkten einsetzt, muss die Modelllizenzen separat prüfen. Das ist keine Rechtsberatung, sondern der Hinweis auf eine Prüfung, die das Repository nicht abnimmt.

Wann ein anderes Lernmaterial die bessere Wahl ist

Wer eine Bibliothek sucht, die er in eine bestehende Pipeline einhängen kann, ist hier falsch. Das Repository liefert keinen Import-Pfad, keine Klasse, keine Funktion, die man aufrufen könnte. Die Alternative ist nicht ein konkurrierendes Buch, sondern ein Framework wie LangChain oder LlamaIndex, das tatsächlich als Paket installierbar ist und Abstraktionen für RAG, Tool-Nutzung und Modellaufrufe bereitstellt. Der Unterschied liegt im Ansatz: LangChain und LlamaIndex kapseln Konzepte in wiederverwendbare Komponenten und nehmen dem Nutzer Entscheidungen ab. Dieses Repository macht das Gegenteil. Es zeigt die Konzepte in Notebooks, damit der Leser sieht, was unter der Abstraktion passiert. Wer verstehen will, warum eine Vektordatenbank so funktioniert, wie sie funktioniert, profitiert von der Offenlegung. Wer schnell eine Anwendung bauen muss, verliert Zeit mit Code, der nie für den Dauerbetrieb gedacht war.

Wer einsteigen sollte und was vorher zu klären ist

Das Repository richtet sich an Leser, die das Buch begleiten oder die Konzepte eigenständig durcharbeiten wollen. Die Colab-Ausrichtung senkt die Einstiegshürde erheblich: Notebook öffnen, GPU aktivieren, Zellen ausführen. Wer bereits eine lokale GPU-Umgebung mit den passenden Bibliotheken betreibt, kann die Notebooks auch dort ausführen, muss aber die Abhängigkeiten selbst bereitstellen. Vor dem Einstieg sind drei Dinge zu klären. Erstens: Steht ein Colab-Konto oder eine GPU mit mindestens 16 GB VRAM zur Verfügung, da der README dies als getestete Basis nennt. Zweitens: Sind die im jeweiligen Notebook verwendeten Modell-IDs noch verfügbar, denn das Repository hat keine Releases, die einen kompatiblen Stand einfrieren. Drittens: Ist der lineare Durchlauf durch die Kapitel gewünscht oder nur ein einzelnes Thema, denn die Notebooks bauen aufeinander auf. Wer diese drei Punkte vorab beantwortet, weiß, ob das Material zu seinem Vorhaben passt.

Redaktionelles Fazit

Wer LLM-Konzepte von der Tokenisierung bis zum Fine-Tuning anhand nachvollziehbarer Notebooks lernen will, findet hier strukturiertes Material mit klarer Kapitelreihenfolge. Wer eine Bibliothek für den Produktivbetrieb sucht, ist falsch: Das Repository liefert keine installierbare Abhängigkeit, keine Release-Artefakte und keine API-Garantie, nur Notebooks. Vor dem Einstieg sollte man prüfen, ob die im Notebook verwendeten Modell-IDs und Bibliotheksversionen noch zu den eigenen Umgebungsbedingungen passen, denn die Beispiele richten sich laut README an Google Colab mit einer T4-GPU und 16 GB VRAM.

Offizielle Quellen

1. HandsOnLLM/Hands-On-Large-Language-Models on GitHub
2. Issues
3. License: Apache-2.0
4. Project website
5. README