sgl-project
★ 35,949sglang
SGLang は、大規模な言語モデルおよびマルチモーダル モデル向けの高性能サービス フレームワークです。
HYSEN LABS ディレクトリ
sgl-project
sgl-project組織の検証済みリポジトリ、分類、分析。
厳選オープンソースプロジェクト 3 件
sgl-project
★ 5,066mini-sglang
A compact implementation of SGLang, designed to demystify the complexities of modern LLM serving systems.
sgl-project
★ 1,172SpecForge
Train speculative decoding models effortlessly and port them smoothly to SGLang serving.