google-ai-edge/LiteRT:README 來源編輯指南
根據 README、倉庫資料與授權整理 google-ai-edge/LiteRT 的安裝與核驗路徑。
專案定位
google-ai-edge/LiteRT 的 README 將專案描述為「LiteRT, successor to TensorFlow Lite. is Google's On-device framework for high-performance ML & GenAI deployment on edge platforms, via efficient conversion, runtime, and optimization」。本文只整理倉庫可直接核對的內容,不把 star、Fork 或宣傳語當成品質證明。README 在「LiteRT」下寫到:Google's on-device runtime for high-performance ML & GenAI deployment on edge platforms.。這說明的是專案邊界,不是已完成的生產驗證。
適用場景
從 README 的「🚀 What's New」與相關條目,可以先判斷它是否處理你的實際問題:🌐 High-Performance Web Inference: Run secure client-side ML in the browser via WebGPU and WASM with LiteRT.js.。若需求不同,不應只因專案熱度就採用。本文保留原始專案名、命令與元件名,方便回到一手來源核對。 README 另外列出一項可核對的資訊:🧠 Superior GenAI Inference: Deploy LLMs directly on-device using LiteRT-LM.。這類原文條目可用來設計試跑步驟,但不能取代實際環境測試。
運作方式
README 將運作方式分散在「📖 LiteRT」等段落。可確認的線索包括:LiteRT continues the legacy of TensorFlow Lite as the trusted, high-performance runtime for on-device AI. Featuring advanced GPU/NPU acceleration, LiteRT delivers superior ML & GenAI performance, making on-device ML inference easier than。本文不把未寫出的架構、效能或安全邊界補成結論;真正的執行鏈仍要配合目錄、設定檔與版本標籤檢查。
安裝與第一次執行
第一次安裝應從 README 指出的入口開始。目前可核對的命令是: # 1. Create a virtual environment with Python 3.13. #\ TIP: Sometimes setting env var [UV_INDEX_URL](https://pypi.org/simple) helps # resolve dependency resolution errors. uv venv --clear --python=3.13 --seed source .venv/bin/activate # 2. Install the package into the active virtual environment uv pip install litert-cli-nightly # 3. Run help command litert --help 如果倉庫沒有命令,本文不會自行編造步驟,而是建議先閱讀「🛠 Build Status」,確認系統依賴、預設埠與首次初始化。
設定與日常使用
日常使用取決於專案文件。README 的「⚙️ LiteRT Runtime and Tools」段落提到:From model to on-device deployment for Pytorch, TensorFlow, and Jax models:。設定檔、環境變數、權限與資料目錄只在來源明確時才會記錄;沒有寫出的預設值,應在測試環境驗證並保留回滾副本。 同一部分也提到:🧮 C++ Graph Authoring: Manipulate high-performance tensors using a lightweight, tensor-centric C++ library via the Tensor API.。