Colibri : un client léger pour explorer un modèle local
Exécutez GLM-5.2 (744 B MoE) sur une machine grand public de 25 Go de RAM, en C pur, sans dépôt, avec des experts diffusés à partir du disque. Petit moteur, immense modèle.
En bref
- De quoi s’agit-il ?
- Fonctionnement documenté, périmètre d usage et points de contrôle propres à colibri.
- À qui s’adresse-t-il ?
- colibri s adresse aux lecteurs dont le besoin correspond aux interfaces décrites par justvugg/colibri. Il convient moins à ceux qui attendent une garantie absente du README.
- Puis-je l’utiliser commercialement ?
- Oui. Apache-2.0 est une licence permissive : vous pouvez utiliser, modifier et vendre un logiciel qui en dépend, à condition de conserver les mentions de droit d’auteur et de licence.
- Est-il encore maintenu ?
- Oui. Le dépôt a reçu de nouveaux commits au cours des dernières 24 heures.
- En quel langage est-il écrit ?
- Principalement C, d’après les statistiques de langage de GitHub.
Ces réponses reposent sur les données GitHub du projet (dernière synchronisation le 15 septembre 2026) et sur notre analyse. Elles ne constituent pas un avis juridique.
ANALYSE OPEN SOURCE APPROFONDIE
Ce que colibri affirme dans son README
colibri est présenté dans le README comme Run GLM-5.2 (744B MoE) on a 25GB-RAM consumer machine, pure C, zero deps, experts streamed from disk. Tiny engine, immense model.. Cette phrase fixe le périmètre de l article : elle rapporte la documentation du projet et ne transforme pas une affirmation d auteur en garantie de débit, de sécurité ou de compatibilité. Les éléments que la source ne détaille pas restent inconnus. Un moteur C à fichier unique pour diffuser les experts MoE colibri est un moteur d'inférence écrit en C pur avec zéro dépendance d'exécution. Il est conçu pour exécuter de très grands modèles de mélange d'experts sur du matériel qui n'a pas assez de VRAM ou de RAM pour contenir l'ensemble du modèle. Le README liste quatre familles de modèles actuellement prises en charge : GLM-5.2 avec 744B paramètres, Inkling avec 975B, Kimi K3 avec 2,8T et OLMoE avec 7B. Le moteur traite VRAM, RAM et stockage NVMe comme une seule hiérarchie mémoire et diffuse les experts routés depuis le disque à la demande. L'affirmation centrale est qu'un modèle n'a pas besoin de tenir dans la mémoire rapide, seulement d'être placé à travers les niveaux. Le README ne spécifie pas la taille binaire exacte, seulement que le programme fait quelques centaines de kilo-octets.
Pourquoi un modèle 744B peut fonctionner avec 25 Go de RAM Un modèle MoE 744B n'active qu'environ 40B paramètres par token, et seulement environ 11 Go de ceux-ci changent d'un token à l'autre, les experts routés. La partie dense, environ 17B paramètres, reste résidente en RAM en int4, environ 9,9 Go. Les 19 456 experts routés vivent sur le disque, environ 370 Go, et sont diffusés à la demande avec un cache LRU par couche, un magasin chaud épinglé appris et un niveau VRAM optionnel. Le README décrit cela comme un JIT pour les poids : le moteur observe la chaleur de routage et met en scène les experts réellement nécessaires, plutôt que de tout charger. Il rapporte également que le routage est prévisible à 71,6% une couche à l'avance, mais les conditions de mesure exactes ne sont pas données.
Le chemin en cinq étapes par token et le mi Dans justvugg/colibri, le premier point à examiner est README, package.json et interface locale. La structure du dépôt donne une indication concrète sur la manière dont l auteur sépare l interface, les exemples et les composants internes. Elle ne suffit pas à conclure que toutes les variantes d environnement sont couvertes. Cette lecture garde colibri dans le cadre précis de sa documentation.colibri est présenté dans le README comme Run GLM-5.2 (744B MoE) on a 25GB-RAM consumer machine, pure C, zero deps, experts streamed from disk. Tiny engine, immense model.. Cette phrase fixe le périmètre de l article : elle rapporte la documentation du projet et ne transforme pas une affirmation d auteur en garantie de débit, de sécurité ou de compatibilité. Les éléments que la source ne détaille pas restent inconnus. Un moteur C à fichier unique pour diffuser les experts MoE colibri est un moteur d'inférence écrit en C pur avec zéro dépendance d'exécution. Il est conçu pour exécuter de très grands modèles de mélange d'experts sur du matériel qui n'a pas assez de VRAM ou de RAM pour contenir l'ensemble du modèle. Le README liste quatre familles de modèles actuellement prises en charge : GLM-5.2 avec 744B
Le chemin d entrée de colibri
colibri doit être lu à partir de ses entrées réelles. Le README cite des commandes, des fichiers ou des formats qui déterminent le parcours utilisable. Pour ce projet, npm install puis npm test permet de relier l installation au comportement annoncé. Notez les paramètres effectivement employés et la sortie obtenue, car une commande qui démarre ne prouve pas que le flux complet fonctionne. Le nom justvugg/colibri sert ici de repère pour retrouver ce passage et son contexte.colibri doit être lu à partir de ses entrées réelles. Le README cite des commandes, des fichiers ou des formats qui déterminent le
Dépendances et artefacts de colibri
Les dépendances forment une partie du contrat pratique de colibri. Vérifiez la version du langage, les paquets requis et les éventuels modèles ou services externes mentionnés par justvugg/colibri. Si README, package.json et interface locale intervient dans le résultat, conservez cet artefact avec la version du dépôt. Le README ne permet pas d inventer une matrice de compatibilité absente. Cet artefact permet de relier le résultat à colibri, plutôt qu à une hypothèse extérieure.Les dépendances forment une partie du contrat pratique de colibri. Vérifiez la version du langage, les paquets requis et les évent
Quand colibri a du sens
La valeur du projet dépend aussi de son périmètre. colibri peut convenir à une équipe qui accepte de suivre les interfaces et les conventions de justvugg/colibri. Il convient moins à un produit qui attend un support contractuel, une disponibilité garantie ou des performances chiffrées non promises. Les risques doivent être formulés autour des fichiers et commandes propres au projet, pas autour d une appréciation générale des dépôts open source. Cette limite concerne directement le choix d intégrer colibri dans une équipe.La valeur du projet dépend aussi de son périmètre. colibri peut convenir à une équipe qui accepte de suivre les interfaces et les conventions de just
Vérifier colibri sur son propre terrain
La vérification doit rester spécifique à colibri. Exécutez npm install puis npm test, puis inspectez README, package.json et interface locale. Comparez l entrée choisie, la sortie, les journaux et le code d erreur avec les exemples du README. Pour un outil local ou un agent, contrôlez aussi les permissions et les données réellement touchées. Pour une bibliothèque, testez l appel documenté et la forme de l objet retourné. Cette séquence fournit un constat utile sans prétendre couvrir les usages que la source ne décrit pas. La sortie de colibri doit être comparée à l exemple correspondant, pas à une attente générale.La vérification doit rester spécifique à colibri. Exécutez npm install puis npm test, puis inspectez README, package.json et interface locale. Comparez l entrée choisie, la so
Licence et maintenance de colibri
La licence Apache-2.0 doit être mise en relation avec l usage prévu pour colibri. Une intégration interne, une redistribution d un binaire et une modification publiée peuvent imposer des obligations différentes. Lisez le texte présent dans justvugg/colibri et vérifiez les notices livrées avec les dépendances. La maintenance se juge ensuite sur les commits, issues et releases liés à ce projet, tandis que les promesses absentes restent à la charge de l intégrateur. Cette vérification de licence porte sur la manière concrète dont colibri sera distribué.La licence Apache-2.0 doit être mise en relation avec l usage prévu pour colibri. Une intégration interne, une redistribution d un binaire et une modificat
Conclusion éditoriale
colibri s adresse aux lecteurs dont le besoin correspond aux interfaces décrites par justvugg/colibri. Il convient moins à ceux qui attendent une garantie absente du README. Commencez par npm install puis npm test, observez README, package.json et interface locale, puis décidez en tenant compte de la licence Apache-2.0 et des dépendances réellement requises.
Notes de la communauté