kacper-daftcode/vLLM-Moet
vLLM-Moet
A vLLM patch + hand‑written SM120 SASS kernels: 2‑bit MoE experts + an FP4 "delta" cache that recovers precision — matching the official (NV)FP4 checkpoint's quality on consumer Blackwell cards
541 個 Star50 個 ForkSassApache-2.0
秒懂
- 它是什麼?
- A vLLM patch + hand‑written SM120 SASS kernels: 2‑bit MoE experts + an FP4 "delta" cache that recovers precision — matching the official (NV)FP4 checkpoint's quality on consumer Blackwell cards
- 可以商用嗎?
- 可以。Apache-2.0 是寬鬆授權:你可以使用、修改並販售以它為基礎的軟體,只需保留著作權與授權聲明。
- 還在維護嗎?
- 有在維護。儲存庫最近一次提交在 7 天前。
- 用什麼語言寫的?
- 主要是 Sass(依據 GitHub 的語言統計)。
以上回答依據專案的 GitHub 資料(最近同步於 2026年9月15日)與我們的分析,不構成法律意見。
資料新鮮度
編輯狀態
本專案的完整編輯分析尚未發布。上方的資訊來自專案的公開 GitHub 中繼資料。在正式環境採用前,請先查看倉庫、授權條款與 issue 追蹤。
社群筆記