noonghunna/club-3090：README に基づく導入ガイド

noonghunna/club-3090 の README はプロジェクトを「Community recipes for serving LLMs on RTX 3090/4090/5090 CUDA gpus. Multi-engine (vLLM, llama.cpp, ikllama) and model-agnostic. Currently shipping Qwen3.6-27B Qwen3.6 35B Gemma 4 26B Gemma 4 31B configs for 1× and 2× cards.」と説明しています。ここではリポジトリで確認できる事実だけを整理します。star 数やバッジは注目度の手掛かりであり、品質の証明ではありません。「club-3090」には次の説明があります。Recipes for serving LLMs locally on RTX 3090s. Multi-engine (vLLM, llama.cpp, ikllama), multi-model, model-agnostic by design.。これは範囲の説明であり、本番検証の結果ではありません。

README の「TL;DR , what this is」にある内容から、用途が合うかを先に判断できます。🏎 vLLM dual = max throughput. Up to 127 TPS code (DFlash) or 4 concurrent streams @ 262K (turbo). Full feature stack (vision · tools · MTP · streaming).。目的が違うなら、人気だけで採用する理由にはなりません。プロジェクト名やコマンドは原文のまま残し、一次資料へ戻って用語を確認できるようにしています。 README には次の確認可能な項目もあります。Two complementary routes , pick by what your workload breaks on:。初回テストの材料にはなりますが、実際の環境での確認を省略する理由にはなりません。

動作の説明は「club-3090」など複数の箇所に分かれています。確認できる情報は次の通りです。> 🎯 4090 or 5090 owner? The composes run cross-rig , contributors have benched both with measured numbers: Can I use a 4090? → + cross-rig benchmark rows live in the FAQ.。書かれていない構成、性能、セキュリティを推測で補いません。導入時はディレクトリ、設定ファイル、release 履歴を確認してください。

初回導入は README の入口から始めます。確認できるコマンドは次の通りです。 # 1. Clone the repo git clone https://github.com/noonghunna/club-3090.git cd club-3090 # Profile compatibility tooling requires PyYAML. Ubuntu LTS usually has it via # python3-yaml; otherwise run: python3 -m pip install pyyaml # 2. Pick/download + SHA-verify the model (interactive hardware-aware picker) # (asks you which model, then where to put model weights , pick in-repo # default, ~/models, or a custom path on a different drive. To skip prompts: # `export MODEL_DIR=/path/to/mode 実行可能なコマンドがない場合は手順を作らず、「Quick start」で依存関係、待受ポート、初回設定を確認します。