HYSEN LABS VERZEICHNIS

flashinfer-ai

Geprüfte Repositories, Klassifikationen und Analysen der Organisation flashinfer-ai.

1 kuratiertes Open-Source-Projekt

flashinfer-ai

flashinfer

★ 6.038

FlashInfer: Kernel-Bibliothek für LLM-Serving. Es bietet einheitliche APIs für Aufmerksamkeits-, GEMM- und MoE-Operationen mit mehreren Backend-Implementierungen, darunter FlashAttention-2/3, cuDNN, CUTLASS und TensorRT-LLM.

PythonKI & maschinelles Lernen1.204 Forks

Python KI & ML Bibliothek Plattformübergreifend