jundot/omlx:README 來源編輯指南
根據 README、倉庫資料與授權整理 jundot/omlx 的安裝與核驗路徑。
專案定位
jundot/omlx 的 README 將專案描述為「LLM inference server with continuous batching & SSD caching for Apple Silicon , managed from the macOS menu bar」。本文只整理倉庫可直接核對的內容,不把 star、Fork 或宣傳語當成品質證明。README 在「README」下寫到:> Every LLM server I tried made me choose between convenience and control. I wanted to pin everyday models in memory, auto-swap heavier ones on demand, set context limits - and manage it all from a menu bar.。這說明的是專案邊界,不是已完成的生產驗證。
適用場景
從 README 的「Homebrew Service」與相關條目,可以先判斷它是否處理你的實際問題:Server log: /.omlx/logs/server.log (structured application log)。若需求不同,不應只因專案熱度就採用。本文保留原始專案名、命令與元件名,方便回到一手來源核對。 README 另外列出一項可核對的資訊:Service log: $(brew --prefix)/var/log/omlx.log (stdout/stderr)。這類原文條目可用來設計試跑步驟,但不能取代實際環境測試。
運作方式
README 將運作方式分散在「Homebrew」等段落。可確認的線索包括:Optional GLM-5.2 / MiniMax M3 native custom kernels currently require a HEAD build:。本文不把未寫出的架構、效能或安全邊界補成結論;真正的執行鏈仍要配合目錄、設定檔與版本標籤檢查。
安裝與第一次執行
第一次安裝應從 README 指出的入口開始。目前可核對的命令是: brew tap jundot/omlx https://github.com/jundot/omlx brew install omlx # Upgrade to the latest version brew update && brew upgrade omlx # Run as a background service (auto-restarts on crash) omlx start # Optional: MCP (Model Context Protocol) support /opt/homebrew/opt/omlx/libexec/bin/pip install mcp 如果倉庫沒有命令,本文不會自行編造步驟,而是建議先閱讀「macOS App」,確認系統依賴、預設埠與首次初始化。
設定與日常使用
日常使用取決於專案文件。README 的「From Source」段落提到:Requires macOS 15.0+ (Sequoia), Python 3.11,3.13, and Apple Silicon (M1/M2/M3/M4).。設定檔、環境變數、權限與資料目錄只在來源明確時才會記錄;沒有寫出的預設值,應在測試環境驗證並保留回滾副本。 同一部分也提到:Hot tier (RAM): Frequently accessed blocks stay in memory for fast access.。
README 能確認的限制
README 能確認的限制比宣傳頁更重要。現有來源沒有證明jundot/omlx具備固定相容矩陣、服務等級、效能基準或長期支援承諾。README 只明確寫到「> Note on native custom kernels: a plain pip install -e . does NOT build > them, and the affected model families then silently fall back to much slower > generic paths -- for GLM-5.2 the fused DSA prefill is roughly 30x faster with > the」。這些未知項應列入選型紀錄,不要改成肯定句。