VibeThinker 1.5B/3B を採用前に読む: 小型モデルで検証可能推論を狙う設計と制約

VibeThinker が解こうとしている問題は「小型モデルの推論不足」である

README の冒頭は、小型モデルは本質的に堅牢な推論能力を持たないという通念に挑むと述べている。対象は数学、競技プログラミング、STEM 推論、明示的な制約付きの指示追従であり、いずれも正解を機械的に検証できるタスクに限定されている。つまり汎用の対話モデルを作る話ではなく、検証信号が取れる領域でパラメータ数を抑える話である。読者として想定されているのは、GPU 予算が限られていて、なおかつ AIME や LiveCodeBench のような指標で性能を測る研究・開発の担当者だ。README には推論サーバや API の記述がないため、アプリケーション組み込みを想定した配布物ではなく、モデル重みと技術報告を中心とした研究リポジトリと見るのが妥当である。

SSP と MGPO: 多様性を広げてから正解信号を増幅する二段構え

VibeThinker-1.5B の中心は Spectrum-to-Signal Principle (SSP) と呼ばれる事後学習手法である。README によれば、SFT 段階で Two-Stage Diversity-Exploring Distillation を使って幅広い解のスペクトルを生成し、その後の RL 段階で MaxEnt-Guided Policy Optimization (MGPO) により正しい信号を増幅する。多様性の確保と正解への収束を別工程に分けている点が設計上の主張であり、1.5B という小ささで数学ベンチマークの数値を押し上げる根拠として提示されている。3B ではこのパイプラインを強化し、カリキュラムベースの SFT、複数ドメインへの MGPO 系 RL の拡張、長文脈の推論軌跡の保持、オフライン自己蒸留、指示指向 RL を組み合わせると説明されている。学習データの合成と品質フィルタが工程として明記されている一方、データセットそのものの規模や構成は README からは読み取れない。

CLR は学習ではなく推論時に精度を積み増す仕組みである

VibeThinker-3B では Claim-Level Reliability Assessment (CLR) というテスト時スケーリング戦略が導入されている。README の記載では、CLR は答えを検証できる推論に使う手法であり、AIME26 を 94.3 から 97.1 へ、HMMT25 を 89.3 から 95.4 へ引き上げ、BruMO25 では 99.2 に達するとされている。学習済みの重みを変えずに推論側の計算量を増やして精度を取る設計であり、レイテンシと引き換えに精度を買う構図になる。README には CLR の実装コードやパラメータの記載がないため、どの程度の追加計算が必要なのかはこの資料からは判断できない。2026.08.12 のニュースでは CLR の詳細論文と WeiboAI/CLR リポジトリが別途公開されたと告知されており、実装を確認する場合はそちらを見る必要がある。

入手方法: 重みはモデルハブから、リポジトリには推論手順の記載がない

README が示す入手経路はモデルハブ経由である。VibeThinker-3B は Hugging Face の WeiboAI/VibeThinker-3B と ModelScope の WeiboAI/VibeThinker-3B、VibeThinker-1.5B は Hugging Face の WeiboAI/VibeThinker-1.5B と ModelScope の WeiboAI/VibeThinker-1.5B から取得できると記載されている。技術報告と論文へのリンクもモデルごとに用意されている。ただし README には transformers や vLLM を使ったロード例、量子化形式、必要な VRAM、評価スクリプトの実行コマンドが一切載っていない。したがって「このリポジトリを clone すれば動く」という種類のプロジェクトではなく、実際の使い方は各モデルカードの記載に依存する。採用検討の最初の作業は、モデルカード側で推論手順と依存バージョンを確認することになる。

ベンチマーク数値の読み方と、README が答えていない部分

README は 1.5B が AIME24 で 80.3、AIME25 で 74.4、HMMT25 で 50.4 を記録し、初期の DeepSeek R1 を上回ると主張している。3B では AIME26 が 94.3、HMMT25 が 89.3、LiveCodeBench v6 の Pass@1 が 80.2、2026年4月25日から5月31日の LeetCode 週次・隔週コンテストで 96.1% の acceptance rate と記載されている。これらはすべて README の主張であり、第三者の再現結果ではない。加えて、比較対象のモデル名やベンチマークの版が世代ごとに混在しており、1.5B と 3B の数値を単純に並べて時系列の改善と読むことはできない。学習コストについても、DeepSeek R1 の 294K ドル、MiniMax-M1 の 535K ドルに対して 7,800 ドルという比較が示されているが、この金額の算定条件は README には書かれていない。数値を採用判断の根拠にするなら、技術報告側で条件を確認する必要がある。

向かないケース: 検証信号のないタスクと、リポジトリ単体での運用

このプロジェクトの設計は、正解を機械的に検証できるタスクに強く依存している。MGPO による RL も CLR による推論時の評価も、正誤の判定ができることを前提にした仕組みである。したがって、主観的な要約、創作、社内文書の検索拡張のように正解が一意に定まらない用途では、README が示す利点はそのまま当てはまらない。もう一つの制約は、リポジトリに推論コードも評価コードも含まれていないように見える点である。モデルの重みは別ハブにあるため、バージョン固定や再現性の管理は利用者側の仕事になる。学習パイプラインを自前のデータで再現したい場合、README の記述だけではデータ合成と品質フィルタの実装に到達できない。

代替としての蒸留ベースの小型モデルとの違い

比較対象として分かりやすいのは、より大きなモデルの出力をそのまま蒸留して小型化する一般的なアプローチである。こちらは教師モデルの分布に近づけることを目的とするため、出力の多様性は教師モデルに依存する。VibeThinker-1.5B は逆の順序を取る。SFT 段階で意図的に解のスペクトルを広げ、その後 RL で正解信号を選別して増幅する。多様性を先に確保し、その中から正しさを拾う設計であり、蒸留一本槍とは探索のさせ方が異なる。ただし、この違いが有効に働くのは検証器が用意できる領域に限られる。検証できないタスクでは、多様性を広げても正解信号を増幅する手がかりがない。つまり VibeThinker は汎用の蒸留代替ではなく、検証可能な領域に絞った設計だと理解するのが正確である。

ライセンスと保守コスト

リポジトリのライセンスは MIT と記載されている。MIT は寛容なライセンスとして知られるが、ここで注意すべきはリポジトリのライセンスとモデル重みのライセンスが別でありうる点である。README にはモデル重みのライセンス条件が書かれていないため、商用利用や再配布を検討する場合は Hugging Face および ModelScope のモデルカード側の条件を確認する必要がある。これは法的助言ではなく、確認先の指摘である。保守の観点では、リポジトリにコードがほとんど含まれていないため、依存するのは transformers などの推論ライブラリとモデルカードの記述になる。アップグレードはモデル側の更新に追随する形になり、リポジトリの変更履歴を追う意味は小さい。技術報告と論文がモデルごとに分かれている点も、追随コストを見積もる際の前提になる。

編集部の結論

採用を検討すべきなのは、数学や競技プログラミングのように正解を機械的に検証できるタスクを、1.5B から 3B のパラメータ規模で回したいチームである。逆に、README には推論コードも評価スクリプトも記載がないため、Hugging Face のモデルカードを読まずに本番へ組み込むのは避けたい。まず WeiboAI/VibeThinker-1.5B のモデルカードで量子化形式と推論手順を確認し、自社の検証セットで AIME 系の数値を再現できるかを確かめること。再現できなければ、このリポジトリは学習手法の記録としてのみ意味を持つ。

公式情報源

1. Issues
2. License: MIT
3. README
4. WeiboAI/VibeThinker on GitHub