mirage
Mirage Persistent Kernel : compilation de LLM dans un MegaKernel. Quickstart Mirage vous permet de compiler des LLM du zoo modèle Hugging Face dans un méga-noyau en utilisant seulement quelques dizaines de lignes de Python, principalement pour définir les entrées et sorties du noyau.
Le problème qu’il résout
Mirage Persistent Kernel : compilation de LLM dans un MegaKernel. Quickstart Mirage vous permet de compiler des LLM du zoo modèle Hugging Face dans un méga-noyau en utilisant seulement quelques dizaines de lignes de Python, principalement pour définir les entrées et sorties du noyau.
Le contexte du projet sur cette page est accessible gratuitement. Le dépôt GitHub d’origine reste la référence ; la connexion n’est nécessaire que pour enregistrer ou rejoindre la discussion.
Notes de la communauté