sglang
SGLang est un framework de service hautes performances pour les grands modèles de langage et les modèles multimodaux.
Le problème qu’il résout
SGLang est un framework de service hautes performances pour les grands modèles de langage et les modèles multimodaux.
Le contexte du projet sur cette page est accessible gratuitement. Le dépôt GitHub d’origine reste la référence ; la connexion n’est nécessaire que pour enregistrer ou rejoindre la discussion.
Notes de la communauté