ModelTC
★ 4,289LightLLM
LightLLM is a Python-based LLM (Large Language Model) inference and serving framework, notable for its lightweight design, easy scalability, and high-speed performance.
HYSEN LABS ディレクトリ
ModelTC組織の検証済みリポジトリ、分類、分析。
LightLLM is a Python-based LLM (Large Language Model) inference and serving framework, notable for its lightweight design, easy scalability, and high-speed performance.
プロジェクト概要:軽量の画像ビデオアクション生成推論フレームワーク。 2026 年 2 月 27 日: 自己回帰ビデオ生成モデル (Self Forcing) の FP8 および NVFP4 量子化をサポートするようになりました。
[EMNLP 2024 & AAAI 2026] A powerful toolkit for compressing large models including LLMs, VLMs, and video generative models.