JustVugg/colibri：README に基づく導入ガイド

JustVugg/colibri の README はプロジェクトを「Run frontier MoE models on hardware you already own , pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦」と説明しています。ここではリポジトリで確認できる事実だけを整理します。star 数やバッジは注目度の手掛かりであり、品質の証明ではありません。「README」には次の説明があります。Tiny engine, immense model. Run frontier MoE models , 744B to 2.8T parameters , on consumer and heterogeneous hardware, in pure C with zero engine dependencies, by treating storage, RAM, and VRAM as one inference hierarchy.。これは範囲の説明であり、本番検証の結果ではありません。

README の「Core techniques and measured findings」にある内容から、用途が合うかを先に判断できます。A JIT for weights. Measured routing heat drives a per-layer LRU, a learned。目的が違うなら、人気だけで採用する理由にはなりません。プロジェクト名やコマンドは原文のまま残し、一次資料へ戻って用語を確認できるようにしています。 README には次の確認可能な項目もあります。One hierarchy, not one memory threshold. VRAM, RAM, and NVMe are placement。初回テストの材料にはなりますが、実際の環境での確認を省略する理由にはなりません。

動作の説明は「README」など複数の箇所に分かれています。確認できる情報は次の通りです。> Colibrì is an inference engine you can run today, and an open research > platform. Its primary goal is to pursue inference-side performance across > the entire software/hardware boundary , model formats, memory hierarchy, > storage I/O,。書かれていない構成、性能、セキュリティを推測で補いません。導入時はディレクトリ、設定ファイル、release 履歴を確認してください。

初回導入は README の入口から始めます。確認できるコマンドは次の通りです。 $ ./coli chat 実行可能なコマンドがない場合は手順を作らず、「The research mission」で依存関係、待受ポート、初回設定を確認します。

日常運用は公式文書の範囲に限ります。「README」にはColibrì treats VRAM, RAM, and storage as one managed memory hierarchy, and it is deliberately a place to test aggressive systems ideas , so there is no SLA on speed, and a hard guarantee on semantics: experiments must earn their placeとあります。設定、環境変数、権限、データ保存先は明記されたものだけを扱います。未記載の既定値は隔離環境で確認し、戻せる設定を保存してください。 同じ資料にはI/O is part of the engine. Batched expert unions, overlapped reads andともあります。