ModelTC

ModelTC

LightLLM

★ 4.289

LightLLM is a Python-based LLM (Large Language Model) inference and serving framework, notable for its lightweight design, easy scalability, and high-speed performance.

ModelTC

LightX2V

★ 2.818

Projektüberblick: Leichtes Inferenz-Framework für die Generierung von Bild- und Videoaktionen. 27. Februar 2026: Wir unterstützen jetzt die FP8- und NVFP4-Quantisierung für autoregressive Videogenerierungsmodelle (Self Forcing)!

ModelTC

LightCompress

★ 748

[EMNLP 2024 & AAAI 2026] A powerful toolkit for compressing large models including LLMs, VLMs, and video generative models.