模型 / 資料集
unslothai/unsloth avatar
unslothai/unsloth

Unsloth Studio:本機執行與訓練模型的介面

Unsloth 是用於訓練和運行 Gemma 4、Qwen3.6、DeepSeek、Kimi、GLM 和其他模型的本地 UI。

76,204 個 Star6,948 個 ForkPythonApache-2.0

秒懂

它是什麼?
本文介紹此存放庫、兩種使用方式以及 README 中記錄的功能。
適合誰用?
README 中的效能數據未在本文章中獨立驗證。存放庫採用雙授權開源,更多詳情請見官方文件。
可以商用嗎?
可以。Apache-2.0 是寬鬆授權:你可以使用、修改並販售以它為基礎的軟體,只需保留著作權與授權聲明。
還在維護嗎?
有在維護。儲存庫在最近一天內有新的提交。
用什麼語言寫的?
主要是 Python(依據 GitHub 的語言統計)。

以上回答依據專案的 GitHub 資料(最近同步於 2026年9月15日)與我們的分析,不構成法律意見。

開源專案深度解析

Studio 與 Core:使用 Unsloth 的兩種方式

README 將 Unsloth Studio(Beta 版)描述為用於在 Windows、Linux 和 macOS 上本機執行與訓練文字、音訊、嵌入和視覺模型的介面。同一份 README 也描述了第二種模式 Unsloth Core,即基於程式碼的版本。Studio 是網頁介面,Core 是函式庫。兩者需求不同,README 分別列出平台支援:CPU 目前支援聊天與資料配方,NVIDIA 在 RTX 30/40/50 和 Blackwell 上支援訓練,macOS 支援訓練與 GGUF 推論,AMD 在 Windows/WSL/Linux 上支援訓練與 RL,Vulkan 在相容 GPU(包括 Intel GPU)上加速 GGUF 推論。根據後設資料,此存放庫使用 Python 撰寫,且未封存。

針對「Studio 與 Core:使用 Unsloth 的兩種方式」的第 1 個核對面向,Unsloth 的判斷重點是訓練流程是否落在 README 列出的模型、量化與硬體組合。應從專案提供的 notebook 或範例開始,確認模型載入、LoRA 設定、訓練輸出與推論結果各自能完成,再決定是否移入自己的資料管線。

在「Studio 與 Core:使用 Unsloth 的兩種方式」這個範圍內,unsloth 的核對點是第 1 節所列的輸入與輸出。README 沒有說明更細的相容性或效能保證,因此本文只把已記錄的命令、檔案與設定鍵當作可核對的範圍。

Studio 中記錄的推論功能

README 列出 Studio 的一系列推論能力:搜尋、下載與執行 GGUF、LoRA 適配器和 safetensors 格式的模型;匯出為 GGUF、16 位元 safetensors 和其他格式;支援自癒工具呼叫與網頁搜尋;在沙盒環境中執行程式碼;用於 Claude Code 和 Codex 的 API 推論端點;自動推論設定與可自訂聊天範本。它也提到可以聊天圖像、音訊、PDF、程式碼和 DOCX,並連接 OpenAI、Anthropic 等 API 提供者或 vLLM、Ollama 等伺服器。README 還聲稱支援並排比較模型,並透過相容 OpenAI/Anthropic 的 API 提供本機模型服務。這些均為 README 中的聲明,本文未獨立驗證。

針對「Studio 中記錄的推論功能」的第 2 個核對面向,README 的速度與記憶體改善屬專案方宣稱,不能當成固定基準。資料集格式、序列長度、精度、GPU 型號與 batch size 都會改變結果;模型授權與訓練資料合規也不會由 Unsloth 自動解決。

在「Studio 中記錄的推論功能」這個範圍內,unsloth 的核對點是第 2 節所列的輸入與輸出。README 沒有說明更細的相容性或效能保證,因此本文只把已記錄的命令、檔案與設定鍵當作可核對的範圍。

訓練功能與速度聲明

在訓練方面,README 稱 Unsloth 可以對 500 多個模型進行訓練與強化學習,聲稱訓練速度最高提升 2 倍,顯存占用減少 70%,混合專家模型最高提升 12 倍。它還聲稱 GRPO、FP8 和視覺 RL 可減少 80% 的顯存,長上下文訓練速度快 3 倍且顯存減少 30%,支援超過 500K 的上下文。README 列出對 LoRA/QLoRA、全微調、RL、預訓練以及 4 位元、16 位元和 FP8 精度的支援,還提到用 PyTorch 和 Hugging Face 建置的自訂 Triton 核心。它還提到即時訓練觀測與多 GPU 支援。這些數字直接來自 README,尚未得到獨立確認。

針對「訓練功能與速度聲明」的第 3 個核對面向,Unsloth 的判斷重點是訓練流程是否落在 README 列出的模型、量化與硬體組合。應從專案提供的 notebook 或範例開始,確認模型載入、LoRA 設定、訓練輸出與推論結果各自能完成,再決定是否移入自己的資料管線。

在「訓練功能與速度聲明」這個範圍內,unsloth 的核對點是第 3 節所列的輸入與輸出。README 沒有說明更細的相容性或效能保證,因此本文只把已記錄的命令、檔案與設定鍵當作可核對的範圍。

Unsloth Start:將機模型連接到代

README 介紹 Unsloth Start,它透過一條命令將本機模型連接到 Claude Code、Codex、Hermes Agent、OpenClaw 和 OpenCode 等代理工具。命令格式為 `unsloth start <agent>`,例如 `unsloth start claude`。它還展示子代理模式:`unsloth start claude --as-subagent --model unsloth/model-GGUF:quant`。README 稱這些整合使用 Unsloth 的 OpenAI 和 Anthropic 相容 API。關於其機制,README 沒有提供更多細節。

針對「Unsloth Start:將本機模型連接到代理」的第 4 個核對面向,README 的速度與記憶體改善屬專案方宣稱,不能當成固定基準。資料集格式、序列長度、精度、GPU 型號與 batch size 都會改變結果;模型授權與訓練資料合規也不會由 Unsloth 自動解決。

在「Unsloth Start:將本機模型連接到代理」這個範圍內,unsloth 的核對點是第 4 節所列的輸入與輸出。README 沒有說明更細的相容性或效能保證,因此本文只把已記錄的命令、檔案與設定鍵當作可核對的範圍。

Studio 和 Core 的安裝路徑

README 給出兩種安裝方式。對於 Unsloth Studio,在 macOS、Linux 和 WSL 上,命令為 `curl -fsSL https://unsloth.ai/install.sh | sh`;在 Windows 上為 `irm https://unsloth.ai/install.ps1 | iex`。同樣的命令也用於更新。對於 Unsloth Core,README 展示基於 uv 的安裝:先 `uv venv unsloth_env --python 3.13`,再 `uv pip install unsloth --torch-backend=auto`。還提供 Docker 映像 `unsloth/unsloth`。README 還記錄環境變數,如 `UNSLOTH_NO_TORCH`、`UNSLOTH_SKIP_AUTOSTART`、`UNSLOTH_PYTHON` 和 `UNSLOTH_STUDIO_HOME`,以及開發者安裝方式(克隆存放庫後執行 `./install.sh --local`)。

針對「Studio 和 Core 的安裝路徑」的第 5 個核對面向,Unsloth 的判斷重點是訓練流程是否落在 README 列出的模型、量化與硬體組合。應從專案提供的 notebook 或範例開始,確認模型載入、LoRA 設定、訓練輸出與推論結果各自能完成,再決定是否移入自己的資料管線。

在「Studio 和 Core 的安裝路徑」這個範圍內,unsloth 的核對點是第 5 節所列的輸入與輸出。README 沒有說明更細的相容性或效能保證,因此本文只把已記錄的命令、檔案與設定鍵當作可核對的範圍。

遠端存取與安全隧道

預設情況下,`unsloth studio` 僅綁定到 localhost。README 描述從其他裝置存取的兩種方式:`--secure` 會建立免費的 Cloudflare HTTPS 隧道並保持原始連接埠不暴露;`-H 0.0.0.0` 會將原始連接埠綁定到所有介面,並可選擇加 `--cloudflare` 來發布公共 URL。README 警告 `--secure` 在隧道無法建立時會失敗關閉。它還解釋第一次使用公共 URL 時,如果自動產生的管理員密碼仍然存在,系統會提示變更密碼,並有一個預設 1 小時的 `UNSLOTH_STUDIO_BOOTSTRAP_TIMEOUT`。README 還提到伺服器端工具(網頁搜尋、Python 和終端機程式碼執行)以你的使用者身分執行且預設開啟,因此任何擁有 API 金鑰的人都能在機器上執行程式碼;它建議在暴露 Unsloth 時使用 `--disable-tools`。還提到用於非互動式設定的 `--password`,並警告其在程序清單中的可見性。

針對「遠端存取與安全隧道」的第 6 個核對面向,README 的速度與記憶體改善屬專案方宣稱,不能當成固定基準。資料集格式、序列長度、精度、GPU 型號與 batch size 都會改變結果;模型授權與訓練資料合規也不會由 Unsloth 自動解決。

在「遠端存取與安全隧道」這個範圍內,unsloth 的核對點是第 6 節所列的輸入與輸出。README 沒有說明更細的相容性或效能保證,因此本文只把已記錄的命令、檔案與設定鍵當作可核對的範圍。

授權與雙授權模式

README 稱 Unsloth 採用雙授權模式:核心套件在 Apache 2.0 下授權,而某些選用元件(如 Unsloth Studio UI)在 AGPL-3.0 下授權。存放庫後設資料也將授權列為 Apache-2.0,這可能指核心。README 表示這種結構在保持專案開源的同時支援持續開發。提供的授權摘要是 Apache License 2.0 文字,授予複製、準備衍生作品、公開顯示、執行、再授權和分發作品的永久、全球、非排他、免費、免版稅的版權授權,還包括專利授權。該授權未提及安全性、保固或支援;這些在摘錄中沒有涉及。

針對「授權與雙授權模式」的第 7 個核對面向,Unsloth 的判斷重點是訓練流程是否落在 README 列出的模型、量化與硬體組合。應從專案提供的 notebook 或範例開始,確認模型載入、LoRA 設定、訓練輸出與推論結果各自能完成,再決定是否移入自己的資料管線。

在「授權與雙授權模式」這個範圍內,unsloth 的核對點是第 7 節所列的輸入與輸出。README 沒有說明更細的相容性或效能保證,因此本文只把已記錄的命令、檔案與設定鍵當作可核對的範圍。

編輯結論

README 中的效能數據未在本文章中獨立驗證。存放庫採用雙授權開源,更多詳情請見官方文件。 對 unsloth 而言,先按 README 的專屬命令與檔案完成最小流程,再核對輸出、權限與失敗行為;不適合把未記載的平台支援或效能承諾當成既定事實。

官方來源

  1. Official documentation
  2. Official README
  3. Project repository
  4. Release notes
社群筆記

社群筆記