モデル / データセット
0xSero/turboquant avatar
0xSero/turboquant

turboquant

TurboQuant: Near-optimal KV cache quantization for LLM inference (3-bit keys, 2-bit values) with Triton kernels + vLLM integration

スター 1,770フォーク 197PythonGPL-3.0
GitHub

ひと目でわかる

これは何?
TurboQuant: Near-optimal KV cache quantization for LLM inference (3-bit keys, 2-bit values) with Triton kernels + vLLM integration
商用利用できる?
条件付きでできます。GPL-3.0 はコピーレフトのライセンスで、これを含むソフトウェアを配布する場合、そのソフトウェアのソースコードを同じライセンスで公開する必要があります。配布せず社内で使うだけなら、この義務は生じません。
今もメンテナンスされている?
されています。最後のコミットは 13 日前です。
何の言語で書かれている?
主に Python です(GitHub の言語統計による)。

回答はプロジェクトの GitHub データ(最終同期:2026年9月15日)と当サイトの分析に基づくもので、法的助言ではありません。

情報の鮮度

編集ステータス

このプロジェクトの完全な編集分析はまだ公開されていません。上の事実はプロジェクトの公開 GitHub メタデータに基づきます。本番利用の前に、リポジトリ、ライセンス、Issue トラッカーを確認してください。

コミュニティノート

コミュニティノート