模型 / 数据集
syv-ai/qwen38-27b-rtx3090 avatar
syv-ai/qwen38-27b-rtx3090

qwen38-27b-rtx3090

Qwen3.8-27B on a single RTX 3090 with vLLM: ~1,000 tok/s at 64 concurrent (int8 tensor-core GEMMs, fp16 DeltaNet state), ~114 tok/s single-user at default sampling / ~124 greedy (MTP drafts, own-output draft vocab, calibrated int4 lm_head, split-KV verify attention), 150k-262k context; patches, requant scripts, benchmarks

1,422 个 Star199 个 ForkPythonApache-2.0
GitHub

秒懂

它是什么?
Qwen3.8-27B on a single RTX 3090 with vLLM: ~1,000 tok/s at 64 concurrent (int8 tensor-core GEMMs, fp16 DeltaNet state), ~114 tok/s single-user at default sampling / ~124 greedy (MTP drafts, own-output draft vocab, calibrated int4 lm_head, split-KV verify attention), 150k-262k context; patches, requant scripts, benchmarks
能商用吗?
可以。Apache-2.0 是宽松许可证:你可以使用、修改并销售基于它的软件,只需保留版权和许可证声明。
还在维护吗?
在维护。仓库最近一次提交在 1 天前。
用什么语言写的?
主要是 Python(依据 GitHub 的语言统计)。

以上回答依据项目的 GitHub 数据(最近同步于 2026年9月16日)和我们的分析,不构成法律意见。

数据新鲜度

编辑状态

本项目的完整编辑分析尚未发布。上方的事实来自项目的公开 GitHub 元数据。在生产环境中采用前,请先查看仓库、许可证与 issue 追踪。

社区笔记

社区笔记