NVIDIA/Model-Optimizer：README 來源編輯指南

NVIDIA/Model-Optimizer 的 README 將專案描述為「A unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc.」。本文只整理倉庫可直接核對的內容，不把 star、Fork 或宣傳語當成品質證明。README 在「NVIDIA Model Optimizer」下寫到：NVIDIA Model Optimizer (referred to as Model Optimizer, or ModelOpt) is a library comprising state-of-the-art model optimization techniques, distillation, speculative decoding and sparsity to accelerate models.。這說明的是專案邊界，不是已完成的生產驗證。

從 README 的「Latest News」與相關條目，可以先判斷它是否處理你的實際問題：[2026/05/27] End-to-end Optimization tutorial for Nemotron-3-Nano-30B-A3B: Pruning + two-phase distillation + FP8 quantization achieving 2.6× vLLM throughput and 2.6× memory reduction.。若需求不同，不應只因專案熱度就採用。本文保留原始專案名、命令與元件名，方便回到一手來源核對。 README 另外列出一項可核對的資訊：[2026/06/26] BLOG: Creating the NVIDIA Nemotron 3 Ultra NVFP4 Checkpoint with NVIDIA Model Optimizer on Hugging Face.。這類原文條目可用來設計試跑步驟，但不能取代實際環境測試。

README 將運作方式分散在「NVIDIA Model Optimizer」等段落。可確認的線索包括：[Optimize] Model Optimizer provides Python APIs for users to easily compose the above model optimization techniques and export an optimized quantized checkpoint.。本文不把未寫出的架構、效能或安全邊界補成結論；真正的執行鏈仍要配合目錄、設定檔與版本標籤檢查。

第一次安裝應從 README 指出的入口開始。目前可核對的命令是： pip install -U nvidia-modelopt[all] 如果倉庫沒有命令，本文不會自行編造步驟，而是建議先閱讀「Latest News」，確認系統依賴、預設埠與首次初始化。

日常使用取決於專案文件。README 的「NVIDIA Model Optimizer」段落提到：[Export for deployment] directly integrated within the NVIDIA AI software ecosystem, the quantized checkpoint generated from Model Optimizer is ready for deployment in downstream inference frameworks like SGLang.。設定檔、環境變數、權限與資料目錄只在來源明確時才會記錄；沒有寫出的預設值，應在測試環境驗證並保留回滾副本。 同一部分也提到：[2026/05/13] Puzzletron: A new algorithm for heterogeneous pruning & NAS of LLM and VLM models.。