InternLM/lmdeploy：README に基づく導入ガイド

InternLM/lmdeploy の README はプロジェクトを「LMDeploy is a toolkit for compressing, deploying, and serving LLMs.」と説明しています。ここではリポジトリで確認できる事実だけを整理します。star 数やバッジは注目度の手掛かりであり、品質の証明ではありません。「Introduction」には次の説明があります。LMDeploy is a toolkit for compressing, deploying, and serving LLM, developed by the MMRazor teams. It has the following core features:。これは範囲の説明であり、本番検証の結果ではありません。

README の「Latest News 🎉」にある内容から、用途が合うかを先に判断できます。\[2026/02\] Support vllm-project/llm-compressor for detailed guide。目的が違うなら、人気だけで採用する理由にはなりません。プロジェクト名やコマンドは原文のまま残し、一次資料へ戻って用語を確認できるようにしています。 README には次の確認可能な項目もあります。\[2026/04\] PyPI has expanded the storage quota for LMDeploy and wheel uploads have resumed. v0.12.3 is now available on PyPI, so you can install it directly via pip install lmdeploy.。初回テストの材料にはなりますが、実際の環境での確認を省略する理由にはなりません。

動作の説明は「Supported Models」など複数の箇所に分かれています。確認できる情報は次の通りです。They differ in the types of supported models and the inference data type. Please refer to this table for each engine's capability and choose the proper one that best fits your actual needs.。書かれていない構成、性能、セキュリティを推測で補いません。導入時はディレクトリ、設定ファイル、release 履歴を確認してください。

初回導入は README の入口から始めます。確認できるコマンドは次の通りです。 conda create -n lmdeploy python=3.12 -y conda activate lmdeploy pip install lmdeploy 実行可能なコマンドがない場合は手順を作らず、「Introduction」で依存関係、待受ポート、初回設定を確認します。

日常運用は公式文書の範囲に限ります。「Installation」にはIt is recommended installing lmdeploy using pip in a conda environment (python 3.10 - 3.13):とあります。設定、環境変数、権限、データ保存先は明記されたものだけを扱います。未記載の既定値は隔離環境で確認し、戻せる設定を保存してください。 同じ資料には\[2025/09\] TurboMind supports MXFP4 on NVIDIA GPUs starting from V100, achieving 1.5x the performmance of vLLM on H800 for openai gpt-oss models!ともあります。