kvcache-ai/Mooncake：README 來源編輯指南

kvcache-ai/Mooncake 的 README 將專案描述為「Mooncake is the serving platform for Kimi, a leading LLM service provided by Moonshot AI.」。本文只整理倉庫可直接核對的內容，不把 star、Fork 或宣傳語當成品質證明。README 在「README」下寫到：A KVCache-centric Disaggregated Architecture for LLM Serving | Slides | Traces | Documentation | Blog | Slack。這說明的是專案邊界，不是已完成的生產驗證。

從 README 的「README」與相關條目，可以先判斷它是否處理你的實際問題：May 7, 2026: 🚀 vLLM officially features Mooncake Store , a deep dive into how Mooncake's distributed KVCache engine supercharges vLLM inference with high-throughput, memory-efficient, cross-instance KV cache sharing!。若需求不同，不應只因專案熱度就採用。本文保留原始專案名、命令與元件名，方便回到一手來源核對。 README 另外列出一項可核對的資訊：Jul 2, 2026: DSpark, achieving 125k prefill tokens/s and 1.5 steps/s.。這類原文條目可用來設計試跑步驟，但不能取代實際環境測試。

README 將運作方式分散在「README」等段落。可確認的線索包括：Mooncake is an infrastructure project for large-scale LLM inference and training. It features a KV cache-centric disaggregated architecture that separates prefill and decode clusters, while leveraging otherwise underutilized CPU, DRAM, and。本文不把未寫出的架構、效能或安全邊界補成結論；真正的執行鏈仍要配合目錄、設定檔與版本標籤檢查。

第一次安裝應從 README 指出的入口開始。目前可核對的命令是： pip install mooncake-transfer-engine 如果倉庫沒有命令，本文不會自行編造步驟，而是建議先閱讀「Mooncake Store」，確認系統依賴、預設埠與首次初始化。

日常使用取決於專案文件。README 的「README」段落提到：Mooncake includes a high-performance Transfer Engine for low-latency data movement across heterogeneous networks and accelerators; Mooncake Store for distributed KV cache and model-weight management;。設定檔、環境變數、權限與資料目錄只在來源明確時才會記錄；沒有寫出的預設值，應在測試環境驗證並保留回滾副本。 同一部分也提到：Apr 29, 2026: SGLang introduces RDMA-based P2P weight transfer for large-scale distributed RL with zero-copy RDMA transfer across thousands of GPUs.。