HYSEN LABS VERZEICHNIS

vllm-project

Geprüfte Repositories, Klassifikationen und Analysen der Organisation vllm-project.

3 kuratierte Open-Source-Projekte

vllm-project

vllm

★ 86.907

Eine speichereffiziente Inferenz- und Serving-Engine mit hohem Durchsatz für LLMs.

PythonKI & maschinelles Lernen19.727 Forks

Python KI & ML Bibliothek Plattformübergreifend

vllm-project

vllm-omni

★ 5.699

Ein Framework für effiziente Modellinferenz mit Omnimodalitätsmodellen.

PythonKI & maschinelles Lernen1.341 Forks

Python KI & ML Bibliothek Plattformübergreifend

vllm-project

aibrix

★ 4.982

Kosteneffiziente und steckbare Infrastrukturkomponenten für GenAI-Inferenz.

GoSysteme & Infrastruktur631 Forks

Go Systeme & Infrastruktur Bibliothek Server