vmlx
vMLX - Modèles MLX compressés JANGTQ Uber - Cache disque L2 (survit au redémarrage) + L1 paginé (ttft super rapide) + Planificateur SSM hybride + Traitement par lots + etc !
Le problème qu’il résout
vMLX - Modèles MLX compressés JANGTQ Uber - Cache disque L2 (survit au redémarrage) + L1 paginé (ttft super rapide) + Planificateur SSM hybride + Traitement par lots + etc !
Le contexte du projet sur cette page est accessible gratuitement. Le dépôt GitHub d’origine reste la référence ; la connexion n’est nécessaire que pour enregistrer ou rejoindre la discussion.
Notes de la communauté