kacper-daftcode/vLLM-Moet
vLLM-Moet
A vLLM patch + hand‑written SM120 SASS kernels: 2‑bit MoE experts + an FP4 "delta" cache that recovers precision — matching the official (NV)FP4 checkpoint's quality on consumer Blackwell cards
541 Sterne50 ForksSassApache-2.0
Auf einen Blick
- Was ist das?
- A vLLM patch + hand‑written SM120 SASS kernels: 2‑bit MoE experts + an FP4 "delta" cache that recovers precision — matching the official (NV)FP4 checkpoint's quality on consumer Blackwell cards
- Darf ich es kommerziell nutzen?
- Ja. Apache-2.0 ist eine freizügige Lizenz: Sie dürfen darauf aufbauende Software nutzen, verändern und verkaufen, solange Sie die Urheberrechts- und Lizenzhinweise beibehalten.
- Wird es noch gepflegt?
- Ja. Die letzten Commits kamen vor 7 Tagen.
- In welcher Sprache ist es geschrieben?
- Hauptsächlich Sass, laut der Sprachstatistik von GitHub.
Die Antworten beruhen auf den GitHub-Daten des Projekts (zuletzt abgeglichen am 15. September 2026) und auf unserer Analyse. Sie sind keine Rechtsberatung.
Datenaktualität
Redaktionsstatus
Eine vollständige redaktionelle Analyse dieses Projekts ist noch nicht veröffentlicht. Die obigen Fakten stammen aus den öffentlichen GitHub-Metadaten. Prüfen Sie Repository, Lizenz und Issue-Tracker, bevor Sie es in Produktion einsetzen.
Community-Notizen