模型 / 資料集
Open-LLM-VTuber/Open-LLM-VTuber avatar
Open-LLM-VTuber/Open-LLM-VTuber

Open-LLM-VTuber:把語音對話、視覺感知與 Live2D 綁在同一條本機管線上的取捨

Talk to any LLM with hands-free voice interaction, voice interruption, and Live2D taking face running locally across platforms

13,776 個 Star1,645 個 ForkPythonNOASSERTION

秒懂

它是什麼?
這個專案用 Python 把 LLM、語音辨識、語音合成與 Live2D 模型串成一個可離線執行的 AI 伴侶。它的價值在整合廣度與桌寵模式,代價是 v1 已停止接受新功能請求,v2 正在重寫。
適合誰用?
如果你要的是一個能完全離線、把語音輸入輸出與 Live2D 表情綁在一起的本機伴侶程式,而且你願意自己讀 config 檔、自己接 Ollama 或雲端 API,Open-LLM-VTuber 的整合廣度目前少有替代品。如果你需要穩定的 API、需要長期功能承諾,或想把伺服器放在一台機器、用另一台裝置的瀏覽器收音,請先確認三件事:v2 重寫的進度與介面變動幅度、遠端存取時你是否有能力配置 https 反向代理(前端麥克風只在 secure context 下啟動)、以及 LICENSE 檔的實際授權條款,因為 GitHub 標示為 NOASSERTION,在商用或再散布前必須自行核對原文。
可以商用嗎?
請先確認。這個儲存庫使用的授權不在我們自動分類的範圍內,商用前請閱讀儲存庫中的 LICENSE 檔案。
還在維護嗎?
有在維護。儲存庫最近一次提交在 124 天前。
用什麼語言寫的?
主要是 Python(依據 GitHub 的語言統計)。

以上回答依據專案的 GitHub 資料(最近同步於 2026年9月15日)與我們的分析,不構成法律意見。

開源專案深度解析

它想重現的是 neuro-sama,不是通用聊天前端

README 直接寫明命名理由:專案最初的開發目標,是用能在 Windows 以外平台離線執行的開源方案,重現閉源的 AI Vtuber neuro-sama。這句話決定了整個專案的形狀。它不是一個把聊天介面接到 LLM API 的工具,而是一條把角色外觀、聲音、耳朵與眼睛全部接起來的管線。

目標使用者因此很具體:想要一個可自訂人格與外觀的桌面伴侶、在意對話不出本機、並且願意花時間調 config 的人。README 列出的使用情境包括虛擬伴侶、虛擬寵物,以及桌寵模式。反過來說,如果你只是想要一個好用的語音助理來查天氣、排行程,這個專案的角色設定與 Live2D 圖層對你是純粹的負擔。

四個子系統與一條會被中斷的資料流

從 README 的功能清單可以還原出管線的組成:語音辨識(ASR)負責聽,LLM 負責想,語音合成(TTS)負責說,Live2D 負責演。視覺感知是第五個輸入源,支援攝影機、螢幕錄影與截圖,把影像餵進同一條推理路徑。

真正有意思的是打斷機制。README 描述為「voice interruption without headphones」,附帶條件是 AI 不會聽見自己的聲音。這代表系統必須在 TTS 播放的同時維持麥克風收音,並且具備某種自我聲音的排除邏輯,否則模型會把自己的輸出當成使用者輸入而陷入回饋循環。README 沒有說明這個排除是靠回音消除、播放期間的閘控,還是兩者並用,這是我在文件裡找不到答案的地方。

另一條支線是情緒映射:後端可以控制 Live2D 模型的表情。README 也提到「顯示 AI 的內心想法」,讓表情、想法與動作在不被唸出來的情況下呈現。這意味著 LLM 的輸出並非全部走 TTS,有一部分被導向視覺層。這是把語言模型的文字輸出拆成多個消費端的设计,也是這個專案與單純語音助理最大的差別。

啟動與設定:config 檔是唯一入口

README 沒有在正文給出安裝指令,只把讀者導向官方文件的 quick-start 頁面,因此具體的安裝步驟我無法從現有材料確認。可以確認的是設定方式:README 提到角色自訂要參考 Character Customization Guide,而模型供應商的選擇涵蓋 Ollama、OpenAI 等,這些都是透過設定檔切換。

專案提供 Docker 映像,README 的 badge 指向 Docker Hub 上的 open-llm-vtuber 倉庫,這是相對省事的部署路徑。它也提供桌面客戶端與網頁版兩種使用模式,桌面客戶端支援透明背景、全域置頂與滑鼠點擊穿透的桌寵模式。

有一條部署限制必須先講清楚:README 用警告標示,若要把伺服器跑在一台機器、用另一台裝置(例如手機)的瀏覽器存取,必須配置 https。原因是前端的麥克風只會在 secure context 下啟動,也就是 https 或 localhost。官方建議用反向代理配置 https。這不是可選的加分項,而是遠端存取的硬性前提。

長期記憶被移除,聊天紀錄補不上這個缺口

README 明確寫著長期記憶功能「temporarily removed」,並說即將回歸。它同時強調聊天紀錄有持久化儲存,可以隨時接續先前的對話。

這兩件事常被混為一談,但性質不同。聊天紀錄持久化是把歷史訊息存下來,能不能重新餵回上下文、餵多少、怎麼摘要,是另一回事。README 只承諾「不會遺失互動片段」,並沒有承諾模型會記得。如果你的使用情境依賴角色記得幾週前聊過的事,目前的 v1 不具備這個能力,而回歸時間點在材料中沒有給出。

另外,專案自稱處於 early stages 且 active development。這句話在 2026 年的脈絡下要配合另一則公告讀:v2.0 是完整的程式碼重寫,目前處於早期討論與規劃階段,官方請社群不要在 v1 上開新的功能請求 issue 或 PR,只會繼續修 bug 與處理既有 PR。

v1 功能凍結對採用決策的實際影響

最後一次 release 是 v1.2.1,時間為 2025 年 8 月。之後倉庫仍有推送,但官方公告把重心放在 v2.0 的重寫上。對評估者來說,這代表兩件事。

第一,你現在採用的是維護模式下的分支,bug 會修,功能不會長。你遇到缺少的能力,例如更完整的記憶機制或某個特定 TTS 供應商,大概率要自己動手或等 v2。第二,v2 是重寫而非漸進演進,設定檔格式、API 介面與模組邊界都可能變動。任何你現在圍繞 v1 建立的客製化,都存在遷移成本,而這個成本在材料中無法估算。

這不是說專案已死。持續修 bug 與處理既有 PR 是有意義的維護。但如果你的採用理由是「這個整合廣度剛好符合需求,而且會越來越好」,那個前提目前不成立。

與純語音助理路線的差異

一個自然的替代方向是走通用語音助理堆疊:用現成的對話框架接上 ASR 與 TTS,自己處理喚醒詞與播放。這條路線的優點是每個元件都可替換、生態成熟、文件齊全。

差別在於狀態的處理方式。通用助理通常把一輪對話當成獨立請求,輸出只有一個消費端:喇叭。Open-LLM-VTuber 把 LLM 的輸出同時餵給 TTS 與 Live2D 表情層,並且維護角色的持續狀態,包含情緒映射、內心想法顯示、主動說話,以及點擊與拖曳的觸控回饋。這些狀態在通用助理堆疊裡沒有對應的位置,你得從零設計。

反過來說,如果你不需要角色感,通用堆疊在可觀測性、錯誤處理與部署彈性上都更成熟。Open-LLM-VTuber 換來的是整合度,付出的是把自己綁進一個正在重寫的程式碼庫。

授權與升級成本要先查核

倉庫的 license 欄位顯示為 NOASSERTION,這表示 GitHub 無法自動識別出標準授權條款。README 的 badge 指向 LICENSE 檔案,但具體條款內容不在我手上的材料裡。在商用、再散布或修改後發布之前,必須直接讀 LICENSE 原文,並視情況尋求法律意見,這不是可以靠 badge 顏色判斷的事。

升級成本方面,材料能支持兩點。一是 v2 為完整重寫,設定與介面都可能改變,因此從 v1 升到 v2 不會是無痛過程。二是 v1 仍會收到 bug 修復,所以短期內留在 v1 並非沒有支援。至於 v2 的時程、相容性策略與遷移工具,README 只說處於早期討論階段,並請有興趣的人加入 Zulip 開發者社群,週會時間會在該處公告。任何關於時程的推測都超出材料範圍。

編輯結論

如果你要的是一個能完全離線、把語音輸入輸出與 Live2D 表情綁在一起的本機伴侶程式,而且你願意自己讀 config 檔、自己接 Ollama 或雲端 API,Open-LLM-VTuber 的整合廣度目前少有替代品。如果你需要穩定的 API、需要長期功能承諾,或想把伺服器放在一台機器、用另一台裝置的瀏覽器收音,請先確認三件事:v2 重寫的進度與介面變動幅度、遠端存取時你是否有能力配置 https 反向代理(前端麥克風只在 secure context 下啟動)、以及 LICENSE 檔的實際授權條款,因為 GitHub 標示為 NOASSERTION,在商用或再散布前必須自行核對原文。

官方來源

  1. Issues
  2. Open-LLM-VTuber/Open-LLM-VTuber on GitHub
  3. Project website
  4. README
  5. Releases
社群筆記

社群筆記