sgl-project
★ 35.949sglang
SGLang ist ein leistungsstarkes Serving-Framework für große Sprachmodelle und multimodale Modelle.
HYSEN LABS VERZEICHNIS
Geprüfte Repositories, Klassifikationen und Analysen der Organisation sgl-project.
SGLang ist ein leistungsstarkes Serving-Framework für große Sprachmodelle und multimodale Modelle.
A compact implementation of SGLang, designed to demystify the complexities of modern LLM serving systems.
Train speculative decoding models effortlessly and port them smoothly to SGLang serving.