club-3090

RTX 3090/4090/5090 CUDA gpu で LLM を提供するためのコミュニティ レシピ。マルチエンジン (vLLM、llama.cpp、ik_llama) およびモデルに依存しません。現在、Qwen3.6-27B Qwen3.6 35B Gemma 4 26B Gemma 4 31B 構成を 1 枚と 2 枚のカードで出荷しています。

このページのプロジェクト情報と編集内容は無料で読めます。元の GitHub リポジトリが最終的な情報源であり、保存や議論への参加時だけログインが必要です。