NVIDIA/Model-Optimizer：README 来源编辑指南

NVIDIA/Model-Optimizer 的 README 将项目描述为"A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc."。本文只整理仓库能直接核验的内容，不把星标、Fork 或宣传语当成质量证明。README 在"NVIDIA Model Optimizer"下的说明是：NVIDIA Model Optimizer (referred to as Model Optimizer, or ModelOpt) is a library comprising state-of-the-art model optimization techniques, distillation, speculative decoding and sparsity to accelerate models.。这给出的首先是项目边界，而不是已经完成的生产验证。

从 README 的"Latest News"和相关条目看，读者可以先判断它是否解决自己的具体问题：[2026/05/27] End-to-end Optimization tutorial for Nemotron-3-Nano-30B-A3B: Pruning + two-phase distillation + FP8 quantization achieving 2.6× vLLM throughput and 2.6× memory reduction.。如果你的目标与这段说明不一致，就不应仅凭项目热度采用它。这里保留原项目名、命令和组件名，方便回到一手来源核对。 README 还列出了另一条可核对的信息：[2026/06/26] BLOG: Creating the NVIDIA Nemotron 3 Ultra NVFP4 Checkpoint with NVIDIA Model Optimizer on Hugging Face.。这类原文条目可以帮助读者设计试运行步骤，但不能代替自己的环境测试。

README 把工作方式分散写在"NVIDIA Model Optimizer"等段落中。可确认的线索包括：[Optimize] Model Optimizer provides Python APIs for users to easily compose the above model optimization techniques and export an optimized quantized checkpoint.。这篇整理没有把未写出的架构、性能或安全边界补成结论；真正的运行链仍应结合仓库目录、配置文件和版本标签检查。

第一次安装应从 README 给出的入口开始。当前可复核的命令是： pip install -U nvidia-modelopt[all] 如果仓库没有提供命令，本文不会替它编造安装步骤，而是建议先打开 README 的"Latest News"部分，确认系统依赖、默认端口和首次初始化动作。

日常使用的细节取决于项目实际文档。README 的"NVIDIA Model Optimizer"段落提到：[Export for deployment] directly integrated within the NVIDIA AI software ecosystem, the quantized checkpoint generated from Model Optimizer is ready for deployment in downstream inference frameworks like SGLang.。对于配置文件、环境变量、权限和数据目录，当前稿只记录来源明确的部分；未写明的默认值必须在测试环境中验证，并保留可回滚的配置副本。 同一部分还提到：[2026/05/13] Puzzletron: A new algorithm for heterogeneous pruning & NAS of LLM and VLM models.。