llmfit associe vos gigaoctets aux modèles de LLM qui tiennent vraiment dessus
llmfit vérifie le matériel local par rapport aux exigences du modèle et recommande des modèles et des fournisseurs adaptés à la mémoire et au calcul disponibles.
En bref
- De quoi s’agit-il ?
- Un outil terminal en Rust qui détecte RAM, CPU et GPU, note chaque modèle sur quatre dimensions et expose les hypothèses de ses estimations, avec un canal pour contribuer des mesures réelles.
- À qui s’adresse-t-il ?
- Distribué sous licence MIT au nom d'Alex Jones, llmfit peut être intégré à des chaînes commerciales en conservant la notice de licence, les binaires Windows étant de surcroît signés Authenticode via SignPath.
- Puis-je l’utiliser commercialement ?
- Oui. MIT est une licence permissive : vous pouvez utiliser, modifier et vendre un logiciel qui en dépend, à condition de conserver les mentions de droit d’auteur et de licence.
- Est-il encore maintenu ?
- Oui. Les derniers commits datent d’il y a 1 jour.
- En quel langage est-il écrit ?
- Principalement Rust, d’après les statistiques de langage de GitHub.
Ces réponses reposent sur les données GitHub du projet (dernière synchronisation le 15 septembre 2026) et sur notre analyse. Elles ne constituent pas un avis juridique.
ANALYSE OPEN SOURCE APPROFONDIE
Le bon modèle est celui qui tient dans votre mémoire
llmfit répond à une question qui se pose avant tout téléchargement : tel modèle va-t-il tourner sur cette machine, et dans quel état. L'outil détecte RAM, CPU, GPU et VRAM, puis note chaque modèle de son catalogue sur quatre dimensions : adéquation mémoire, vitesse estimée, qualité et contexte. Chaque dimension vaut de 0 à 100, une note composite pondérée en sort, et les modèles qui ne peuvent pas fonctionner tombent en bas de tableau.
Le catalogue couvre des centaines de modèles et de fournisseurs d'exécution locaux, Ollama, llama.cpp, MLX, Docker Model Runner et LM Studio. La sélection de quantification est dynamique : l'outil retient le niveau de plus haute qualité qui entre dans la mémoire disponible. Les architectures MoE sont détectées et l'estimation de VRAM est ajustée en conséquence, seul un sous-ensemble d'experts étant actif par jeton.
Cinq sous-commandes pour scripts et diagnostics
Sans argument, llmfit ouvre une TUI interactive qui affiche la configuration détectée en haut et le classement complet, avec recherche, filtres, comparaison de plusieurs modèles, gestion des téléchargements, classement communautaire et simulation matérielle. Pour les scripts et les agents, le mode classique prend le relais.
Cinq sous-commandes structurent cet usage : llmfit fit sort le tableau des modèles classés par adéquation ; llmfit recommend --json livre les meilleurs choix en JSON pour consommation par un programme, la sortie du conteneur ghcr.io/alexsjones/llmfit se chaînant d'ailleurs à jq ; llmfit info détaille un modèle donné ; llmfit bench mesure les tok/s et le TTFT réels face au serveur en cours ; llmfit doctor produit le rapport de détection matérielle à joindre à un rapport de bug. Depuis les sources, cargo build --release produit le binaire dans target/release.
Des estimations qui exposent leurs hypothèses
La vitesse estimée vient d'un modèle de bande passante mémoire, calibré par échantillonnage d'exécution et par mesures communautaires. La formule divise la bande passante en Go/s par la taille du modèle en Go, puis applique un facteur d'efficacité par défaut de 0,55, ajustable dans le panneau de configuration avancée. Une table de correspondance couvre environ 80 GPU ; hors table, une constante par backend sert de repli.
Le choix notable est la transparence : chaque estimation embarque ses entrées, et llmfit info montre précisément ce qu'un nombre suppose et comment le vérifier sur sa propre machine. Le README ne présente pas ces chiffres comme des benchmarks ; ce sont des prédictions datées, qui cèdent la place dès qu'une mesure réelle existe.
Le benchmark participatif remplace l'estimation par la mesure
La fonction mise en avant du projet invertit la logique habituelle : télécharger un modèle, le servir, mesurer les tok/s réels, puis renvoyer le résultat au projet par une pull request déclenchée depuis la TUI, sans client gh ni compte tiers. Chaque exécution est d'abord enregistrée localement, et les mesures personnelles remplacent les estimations dans le tableau d'adéquation.
Les soumissions fusionnées partent dans la version suivante : toute personne au matériel identique voit alors des chiffres mesurés, marqués comme tels, avant même de lancer un benchmark. Le README situe le tournant à la version 1.0, présentée dans la discussion 708 du dépôt comme celle où les nombres sont devenus vérifiables. Le guide pas à pas vit dans docs/benchmarking.md.
Huit voies d'installation pour un binaire Rust
Windows passe par scoop install llmfit. macOS et Linux offrent le tap Homebrew avec binaire précompilé, brew install AlexsJones/llmfit/llmfit, la formule homebrew-core qui compile depuis les sources là où aucun bottle n'existe, MacPorts, et un script d'installation rapide qui dépose la dernière version dans /usr/local/bin, ou dans ~/.local/bin avec l'option --local quand sudo manque.
Le projet se distribue aussi en paquet Python, uv tool install -U llmfit ou uvx llmfit sans installation, et en image de conteneur ghcr.io/alexsjones/llmfit qui imprime le JSON de recommend. Les binaires de version Windows sont signés Authenticode via SignPath, avec un certificat gratuit de la SignPath Foundation, la signature étant automatisée dans le pipeline de publication. Les contributions de modèles passent par cargo fmt avant toute pull request, cause la plus fréquente d'échec de CI selon le README.
Là où la détection s'arrête
Les sondes diffèrent selon la plateforme : nvidia-smi pour NVIDIA, rocm-smi pour AMD, sysfs ou lspci pour Intel Arc, system_profiler pour Apple Silicon où la VRAM équivaut à la mémoire unifiée, npu-smi pour Ascend. Sous Windows, la détection GPU exige nvidia-smi. Les environnements Android du type Termux avec PRoot ne détectent aucun GPU.
Dans tous ces cas de détection impossible ou fausse, les drapeaux --memory, --ram et --cpu-cores permettent de forcer les valeurs. Le README cite lui-même une alternative, llm-checker, qui préfère exécuter les modèles via Ollama plutôt qu'estimer, mais traite tous les modèles comme denses, si bien que Mixtral ou DeepSeek-V3 y sont évalués sur leur total de paramètres. Les métadonnées du dépôt, au 29 août 2026, montrent environ 34 400 étoiles et 64 tickets ouverts, avec trois versions publiées en août 2026, de v1.1.10 à v1.1.12.
Conclusion éditoriale
Distribué sous licence MIT au nom d'Alex Jones, llmfit peut être intégré à des chaînes commerciales en conservant la notice de licence, les binaires Windows étant de surcroît signés Authenticode via SignPath. Avant de faire confiance à un chiffre du tableau, trois gestes suffisent : lancer llmfit doctor pour vérifier ce que la détection a réellement vu, ouvrir llmfit info sur le modèle visé pour lire les hypothèses de l'estimation et les commandes de vérification, puis mesurer avec llmfit bench contre son propre serveur, la mesure remplaçant alors l'estimation dans le tableau.
Notes de la communauté