Cours pratique d'ingénierie IA : de l'appel d'un grand modèle à votre propre GPT
Un cours d'IA gratuit, écrit à l'origine pour les développeurs de langue chinoise. On commence par construire des choses utiles avec les grands modèles de langage, puis on réimplémente de zéro réseaux de neurones et Transformer pour comprendre pourquoi ça marche.
Le code et les sorties des programmes sont reproduits tels qu’ils ont tourné : commentaires et sorties sont donc en chinois.
Ce cours a deux moitiés.
La première vous apprend à utiliser les grands modèles de langage : appeler une API, écrire des prompts, construire un système de questions-réponses sur une base documentaire, construire des agents, puis bien les évaluer et les mettre en production. À la fin, vous saurez construire seul une application d'IA que des gens utilisent vraiment.
La seconde vous apprend à comprendre les grands modèles : écrire à la main la descente de gradient et la rétropropagation avec numpy, construire de zéro un petit GPT avec PyTorch et l'entraîner à écrire des poèmes Tang, puis faire vous-même un fine-tuning LoRA. Ensuite, quand vous croiserez « attention », « cache KV » ou « quantification », vous aurez du code concret en tête, et non un brouillard.
Les deux moitiés peuvent se suivre séparément. Si vous voulez seulement construire des applications, la première partie suffit ; si vous en construisez déjà et voulez combler les bases théoriques, commencez directement par la seconde.
Le projet qui traverse tout le cours
La plupart des leçons de la première partie construisent la même chose : un assistant de questions-réponses pour la bibliothèque open source httpx, que nous appelons RepoBot.
Au début, c'est un simple programme de discussion en ligne de commande ; puis il apprend à lire la documentation du projet pour répondre, ensuite à chercher lui-même dans la documentation et le code source, et enfin il reçoit un jeu d'évaluation, des journaux et des garde-fous, pour devenir un service web. Chaque module ajoute une brique, et vous voyez comment une application d'IA grandit pas à pas.
Partie 1 : Construire avec les LLM
Appels d’API, prompts, RAG, agents, évaluation et mise en production, autour d’un vrai assistant de questions-réponses.
Choisir son parcours, installer l'environnement Python, obtenir une clé d'API pour un grand modèle et faire votre premier appel.
3 leçonsModule 01Comment fonctionne un grand modèleSans aucune mathématique, comprendre par l'expérience quelques faits de base sur les grands modèles de langage – tokens, prédiction du token suivant, température, contexte et coût, embeddings, et comment choisir un modèle.
6 leçonsModule 02Les promptsExpliquer par des expériences comparatives la structure d'un prompt, le few-shot, la réflexion avant la réponse, la sortie JSON, et enfin construire un petit outil pour tester des prompts en série.
5 leçonsModule 03Construire des applications avec l'APID'un simple appel à un vrai programme – conversation à plusieurs tours, sortie en streaming, appel d'outils, nouvelles tentatives après erreur et suivi des coûts, pour aboutir à la première version du projet fil rouge RepoBot.
5 leçonsModule 04RAG, faire lire vos documents au modèleConstruire de zéro un système de génération augmentée par la recherche – découpage des documents, recherche vectorielle, recherche par mots-clés, réécriture de requête, reranking, réponses avec citations et évaluation – puis faire lire la documentation de httpx à RepoBot.
7 leçonsModule 05Les agentsSe demander d'abord s'il faut un agent, puis en écrire un de zéro – conception d'outils, planification et auto-vérification, mémoire, agents multiples, MCP et sécurité –, pour enfin apprendre à RepoBot à fouiller lui-même le code source.
9 leçonsModule 06Évaluation et mise en productionConstruire un jeu d'évaluation, utiliser un modèle comme juge et le calibrer, journaliser chaque étape, réduire les coûts et accélérer, ajouter des garde-fous en entrée et en sortie, et enfin déployer RepoBot comme service web.
6 leçonsModule 07Programmer avec l'IALes différentes formes d'outils de programmation IA et ce à quoi chacune convient ; comment un fichier de description du projet lui fait comprendre votre projet ; et une méthode de travail fiable – fixer d'abord les critères d'acceptation, modifier par petites étapes, juger qu'une tâche est finie d'après les tests plutôt que d'après ce que dit l'IA.
3 leçonsPartie 2 : Comprendre les LLM depuis zéro
La rétropropagation à la main, un petit GPT construit et entraîné depuis zéro, puis le réglage fin LoRA et le déploiement local.
Partir d'une droite, écrire à la main la descente de gradient et la rétropropagation, entraîner un premier petit réseau, puis passer à PyTorch pour reconnaître des chiffres manuscrits, et voir de ses propres yeux le surapprentissage et les moyens de le combattre.
6 leçonsModule 09Implémenter un Transformer de zéroÉcrire à la main un tokenizer et l'attention, construire un petit GPT complet, l'entraîner sur plus de trente mille poèmes Tang jusqu'à ce qu'il écrive des poèmes, puis la génération, le cache KV, et ce qui sépare encore le petit GPT d'un vrai grand modèle.
7 leçonsModule 10Fine-tuning et déploiement localSe demander d'abord quand il faut fine-tuner, puis écrire LoRA à la main, fine-tuner un petit modèle open source avec peft, estimer la mémoire, écrire la quantification à la main, faire tourner un modèle sur son ordinateur avec Ollama, et enfin comprendre quel problème résolvent les frameworks de service comme vLLM.
5 leçonsModule 11le projet de fin de parcoursAvec tout ce qu'a apporté le cours, mener seul à son terme un projet d'IA dont vous choisissez le sujet : fixer ce que veut dire « terminé », produire quelque chose d'utilisable, montrer par l'évaluation ce qu'il vaut, et enfin l'écrire clairement pour les autres.
1 leçonsCe qu'il faut savoir avant de commencer
- Les bases de Python : fonctions, listes, dictionnaires, classes ; savoir installer des paquets avec
pipouuv. - Savoir utiliser la ligne de commande :
cd, lancer un script. - Mathématiques : aucune pour la première partie. Les dérivées et produits matriciels de la seconde partie sont expliqués depuis le début ; le niveau lycée suffit.
Pas besoin de carte graphique. La première partie appelle des API du début à la fin ; toutes les expériences de la seconde partie tournent sur le CPU d'un ordinateur portable ordinaire : environ 7 minutes pour entraîner le petit GPT, une dizaine de secondes pour fine-tuner un modèle open source de 500 millions de paramètres. Seule la dernière leçon du module 10, sur vLLM, demande un serveur avec une carte graphique NVIDIA, et c'est indiqué dans la leçon.
Combien ça coûte
La première partie appelle l'API d'un grand modèle, DeepSeek par défaut ; tous les exemples et exercices de la première partie coûtent en général moins de 10 yuans (aux prix de septembre 2026, soit environ un euro). Vous pouvez aussi utiliser n'importe quel service compatible avec l'interface d'OpenAI, ou faire tourner un modèle en local avec Ollama, entièrement gratuit mais moins performant. La seconde partie n'appelle pas d'API et ne coûte rien.
Où est le code
Le code de chaque leçon se trouve dans le dossier du module correspondant sous code/, et les quatre versions de RepoBot sous projects/repobot/. Chaque sortie montrée dans le cours a réellement été obtenue en exécutant le code au moment de l'écriture ; le début de chaque leçon indique la date, le modèle ou la version des logiciels utilisés. Le code qui n'appelle pas d'API fixe la graine aléatoire : vous devriez obtenir les mêmes nombres, ou des nombres très proches.
Comment en tirer le meilleur parti
Tapez vous-même le code de chaque leçon, ou au moins exécutez-le vous-même. Faites ensuite les exercices, en particulier ceux du type « changez une chose et voyez ce qui se passe ». À seulement lire sans pratiquer, vous perdez plus de la moitié de la valeur du cours.