turboderp-org/exllamav3
exllamav3
An optimized quantization and inference library for running LLMs locally on modern consumer-class GPUs
1 410 étoiles174 forksPythonMIT
En bref
- De quoi s’agit-il ?
- An optimized quantization and inference library for running LLMs locally on modern consumer-class GPUs
- Puis-je l’utiliser commercialement ?
- Oui. MIT est une licence permissive : vous pouvez utiliser, modifier et vendre un logiciel qui en dépend, à condition de conserver les mentions de droit d’auteur et de licence.
- Est-il encore maintenu ?
- Oui. Le dépôt a reçu de nouveaux commits au cours des dernières 24 heures.
- En quel langage est-il écrit ?
- Principalement Python, d’après les statistiques de langage de GitHub.
Ces réponses reposent sur les données GitHub du projet (dernière synchronisation le 15 septembre 2026) et sur notre analyse. Elles ne constituent pas un avis juridique.
Fraîcheur des données
Statut éditorial
Une analyse éditoriale complète de ce projet n'est pas encore publiée. Les faits ci-dessus proviennent des métadonnées GitHub publiques. Vérifiez le dépôt, la licence et le suivi des tickets avant de l'adopter en production.
Notes de la communauté