RÉPERTOIRE HYSEN LABS

vllm-project

Dépôts vérifiés, classifications et analyses de l’organisation vllm-project.

3 projets open source sélectionnés

vllm-project

vllm

★ 86 907

Un moteur d'inférence et de service à haut débit et économe en mémoire pour les LLM.

PythonIA et apprentissage automatique19 727 forks

Python IA et ML Bibliothèque Multiplateforme

vllm-project

vllm-omni

★ 5 699

Un cadre pour une inférence de modèle efficace avec des modèles omnimodaux.

PythonIA et apprentissage automatique1 341 forks

Python IA et ML Bibliothèque Multiplateforme

vllm-project

aibrix

★ 4 982

Composants d'infrastructure rentables et enfichables pour l'inférence GenAI.

GoSystèmes et infrastructure631 forks

Go Systèmes et infrastructure Bibliothèque Serveur