Chitu（赤兔）を採用する前に確認すべきこと
High-performance inference framework for large language models, focusing on efficiency, flexibility, and availability.
ひと目でわかる
- これは何？
- 国産アクセラレータを含む多元的なハードウェアで大規模モデルを動かすことを狙った推論フレームワーク。v0.6.0 で追加された chitu.run と、README から読み取れる設計上の制約を整理する。
- 誰に向いている？
- NVIDIA 以外のアクセラレータ（昇騰 910B、沐曦、海光、摩尔线程など）で DeepSeek 系 MoE モデルを動かす必要があり、ベンダー製の閉源スタックを避けたいチームに向く。逆に、NVIDIA GPU だけを使い vLLM や SGLang で既に運用が回っているなら、乗り換える理由は薄い。
- 商用利用できる？
- できます。Apache-2.0 は寛容なライセンスで、著作権表示とライセンス表示を残せば、使用・改変・販売が可能です。
- 今もメンテナンスされている？
- されています。最後のコミットは 6 日前です。
- 何の言語で書かれている？
- 主に Python です（GitHub の言語統計による）。
回答はプロジェクトの GitHub データ（最終同期：2026年9月15日）と当サイトの分析に基づくもので、法的助言ではありません。
オープンソース詳細解説
Chitu が埋めようとしているのは推論速度ではなくハードウェアの空白
大規模モデルの推論フレームワークは既に複数ある。Chitu が他と違うのは、対応チップの一覧である。README のマイルストーンには、2025/07/28 の v0.3.9 で华为昇腾 910B 上での智谱 GLM-4.5 MoE 推論を、2025/06/12 の v0.3.5 で昇腾 910B の完全なネイティブ対応を、2026/02/06 の v0.5.1 で摩尔线程 GPU 対応を挙げている。v0.4.0 では昇腾、英伟达、沐曦、海光を対象に、DeepSeek、Qwen、GLM、Kimi といったモデルを扱うと記されている。
つまり対象読者は、NVIDIA の GPU を自由に調達できる組織ではない。国産チップ上で DeepSeek-R1 671B のような MoE モデルを動かす必要があり、そのチップベンダーが提供する推論スタックでは要件を満たせない、あるいは中身を確認できない、という状況のチームである。README は自らを「生产级大模型推理引擎」と位置づけ、小規模な試験から大規模配備への段階的な要求を考慮すると述べている。
CPU だけで 671B を動かすという v0.2.2 の設計線
Chitu の機能一覧で最も具体的なのは、2025/04/18 の v0.2.2 で追加された CPU+GPU 異構混合推論である。README はこれを「实现单卡推理 DeepSeek-R1 671B」と説明する。単一 GPU と CPU メモリを組み合わせて 671B クラスのモデルを動かすという発想は、KTransformers から学んだと謝辞に書かれている。
もう一つの特徴が量子化の扱いだ。v0.1.0 で FP8 から BF16 へのオンライン変換演算子を、v0.3.0 で FP4 から FP8 / BF16 への変換を実装し、DeepSeek-R1 671B の FP4 量子化版を対象に含めている。重みをあらかじめ変換して保存するのではなく、推論時に変換する方式である。ストレージと転送量を抑えたいが、変換のオーバーヘッドを許容できる、というトレードオフの上に成り立っている。
配備形態は「全场景可伸缩」として、純 CPU、単一 GPU、大規模クラスタの 3 段階が挙げられている。v0.5.0 はクラスタ配備の性能を、v0.4.0 は一体机（アプライアンス）配備の性能と安定性を重点としている。同じコードベースでこの両端を狙うのは難しく、どちらに最適化が寄っているかはバージョンによって変わる。
v0.6.0 の chitu.run は配布形態の変更である
2026/07/02 の v0.6.0 で追加された chitu.run は、単一ファイルでマルチノード、マルチインスタンス、PD 分離（prefill と decode の分離）といった複雑なタスクを起動できる実行ファイルだと説明されている。README のインストール節も「建议使用 chitu.run 进行部署」とし、GitHub Releases の Assets からダウンロードするよう案内している。
これは pip で入れて Python から呼ぶタイプのフレームワークとは配布の思想が違う。Python パッケージとしての利用を前提にしていない可能性があり、README はインストール手順の全体を docs/zh/DEVELOPMENT.md に委ねている。この記事の範囲では、Python の import 名や API の形は確認できない。設定キーについても、README には具体的なキー名が一切現れない。設定は DEVELOPMENT.md 側に置かれていると考えるのが妥当で、導入検討時にまず読むべきはそちらである。
リリースの刻みは速い。v0.5.6 が 2026/05/21、v0.5.7 が 2026/06/04、v0.6.0 が 2026/07/02 で、約 1 か月から 2 か月ごとにマイナーが上がっている。アップグレードの追従コストは、この頻度を前提に見積もる必要がある。
マルチノードと PD 分離を単一ファイルに押し込むことの代償
chitu.run が単一ファイルで複雑な起動を担う設計は、配備先に Python 環境を用意しなくてよいという利点がある。その一方で、起動パラメータの検証やエラー時の挙動が実行ファイル側に閉じる。ログの形式、異常終了時の終了コード、部分的なノード障害の扱いは README からは分からない。マルチノード配備を検討するなら、この点は自分で確かめるしかない。
PD 分離そのものも、prefill と decode で異なるリソース比を持つ構成であり、ノード間の KV キャッシュ転送が入る。ネットワークが細い環境では、分離による利得が転送コストに食われる可能性がある。README は PD 分離を「できる」と述べるだけで、どの帯域で成立するかには触れていない。
もう一つの制約はサポート体制である。README は「受制于团队成员的精力，无法保证及时解决所有用户在使用中遇到问题」と明記し、专业技术服务の窓口として solution@chitu.ai を挙げている。issue を出せば必ず返答がある、という前提は置かないほうがよい。
vLLM や SGLang との違いは対応チップの一覧に出る
謝辞に並ぶのは DeepSeek、FlashAttention、FlashInfer、KTransformers、llama.cpp、SGLang、TensorRT-LLM、vLLM である。Chitu 自身がこれらの関数を一部再利用していると述べており、ゼロから積み上げた実装ではない。
では vLLM や SGLang と何が違うのか。README から読み取れる差は対応ハードウェアの範囲である。vLLM と SGLang は NVIDIA GPU を中心に発展してきた経緯があり、国産チップへの対応は各ベンダーや第三者による移植に依存する部分が大きい。Chitu は昇腾 910B、沐曦、海光、摩尔线程といった対象を README 上で明示し、それぞれのリリースで対応を積み上げている。逆に言えば、NVIDIA GPU だけを使うのであれば、この差は意味を持たない。エコシステムの広さ、量子化手法の選択肢、既存の運用ツールとの接続という点では、vLLM 側に分がある。
Chitu は「どのチップでも同じように動く」ことを売りにしているのではなく、特定のチップで動くようにした結果をリリースごとに積んでいる。この性質を理解せずに採用すると、手元のチップ向けのビルドが存在しないという単純な理由で詰まる。
Apache-2.0 と third_party の中身
ライセンスは Apache License v2.0 で、LICENSE ファイルに全文がある。ただしリポジトリ全体が Apache-2.0 で統一されているわけではない。README は、他プロジェクトから引用したコード片の著作権情報を SPDX 形式でコード内に付し、そのライセンスを LICENSES/ ディレクトリに置いていると説明する。加えて third_party/ 配下に別ライセンスのサブモジュールがあり、それぞれのライセンスファイルがそこに含まれると記されている。
実務上は、自社製品に組み込む前に LICENSES/ と third_party/ を実際に開いて確認する作業が要る。Apache-2.0 だから安全、という判断はこのリポジトリには当てはまらない。ここでは法的助言はできないので、条件の解釈は法務に確認してほしい。
メンテナンスの観点では、最終 push が 2026/09/09 で、アーカイブはされていない。リリース間隔と push の頻度から見て、少なくとも現時点で開発は止まっていない。ただし前述のとおりサポートは best-effort と明記されている。
導入前に潰しておく 3 つの確認
第一に、動かしたいモデルが docs/zh/SUPPORTED_MODELS.md に載っているかを確認する。README はモデル一覧をこのファイルに委ねており、本文中では DeepSeek、Qwen、GLM、Kimi の名前がマイルストーンに現れるだけである。
第二に、使用するチップ向けの chitu.run が Releases の Assets にあるかを確認する。v0.5.1 の摩尔线程対応のように、対応チップはリリース単位で追加される。手元のチップがどのバージョンから入ったのかを追わないと、動かないビルドを落とすことになる。
第三に、docs/zh/DEVELOPMENT.md を読んで、設定ファイルの形式と起動方法を把握する。README には設定キーが一つも出てこないため、ここを飛ばすと何も起動できない。性能については docs/zh/PERFORMANCE.md に開発チームの測定値があり、README 自身が「性能数据与您的硬件配置、软件版本、测试负载相关，多次测试结果可能存在波动」と断っている。数値をそのまま自環境の期待値に置き換えないほうがよい。
編集部の結論
NVIDIA 以外のアクセラレータ（昇騰 910B、沐曦、海光、摩尔线程など）で DeepSeek 系 MoE モデルを動かす必要があり、ベンダー製の閉源スタックを避けたいチームに向く。逆に、NVIDIA GPU だけを使い vLLM や SGLang で既に運用が回っているなら、乗り換える理由は薄い。導入前に確認すべきは、自分のモデルが docs/zh/SUPPORTED_MODELS.md に載っているか、そして使用するチップ向けのビルドが Releases の Assets に存在するかの 2 点である。README は「受制于团队成员的精力，无法保证及时解决所有用户在使用中遇到问题」と明記しており、有償サポート窓口は solution@chitu.ai とされている。
コミュニティノート