大型語言模型應用

開源大型語言模型應用與框架

這是範圍最廣的一組：聊天介面、SDK 與框架、提示詞與評測工具，以及各種以大型語言模型為基礎的應用。很多專案可以接入多家服務商的模型，有些還能在你自己的硬體上執行模型。

怎麼選

打算用在產品裡的話，先確認三件事：授權——有些熱門專案限制商用；是否支援你正在用的模型服務商；以及它是否還在維護。每個專案頁上的「秒懂」卡片會根據 GitHub 資料回答授權和維護這兩個問題。

星數最多的專案

第 1–24 個，共 866 個

affaan-m

ECC

★ 259,066

ECC 提供代理技能、安全檢查、記憶體模式和研究工作流程，旨在減少編碼會話期間浪費的上下文。

JavaScript

NousResearch

hermes-agent

★ 245,808

Hermes Agent 作為個人代理運行，具有持久內存、計劃工作、工具使用以及訊息傳遞和本地服務整合。

Python

Significant-Gravitas

AutoGPT

★ 187,365

開源 AI 代理平台：透過自然語言或視覺化建構器定義完整工作流程，即可按需或依排程執行並回報結果。

Python

ollama

★ 181,049

透過簡單的開發體驗，在本機執行主流開放模型。

firecrawl

★ 180,775

用於大規模搜尋、抓取網路並與網路互動的 API。 🔥

TypeScript

anthropics

skills

★ 176,476

Anthropic 公開的 Agent Skills 合集：由指令、腳本與資源組成的資料夾，Claude 可動態載入，以可重複的方式完成專業任務。

Python

huggingface

transformers

★ 166,177

🤗 Transformers：文字、視覺、音訊和多模態模型中最先進的機器學習模型的模型定義框架，用於推理和訓練。

Python

langgenius

dify

★ 155,830

開源 LLM 應用開發平台，在單一工作區整合代理工作流程、RAG 管線與模型管理，可部署於雲端、VPC 或自行託管環境。

TypeScript

open-webui

★ 152,165

可完全離線運作的自架 AI 介面，支援 Ollama 與相容 OpenAI 的 API，並內建用於 RAG 的推論引擎。

Python

langchain-ai

langchain

★ 146,381

LangChain 為代理建構者提供了模型、工具、檢索和多步驟執行的公共層。

Python

anthropics

claude-code

★ 145,026

常駐終端機的代理程式工具：理解你的程式碼庫，透過自然語言指令執行例行工作、解說複雜程式碼並處理 git 工作流程。

Python

DietrichGebert

ponytail

★ 139,206

Ponytail 增加了以 YAGNI 為中心的審查指令，推動編碼代理刪除不必要的抽象並避免推測性代碼。

JavaScript

ggml-org

llama.cpp

★ 128,325

以純 C/C++ 實作 LLM 推論，可在本機透過 REST API 與 Web 介面執行模型，llama-server 已支援多模態。

C++

harry0703

MoneyPrinterTurbo

★ 123,936

MoneyPrinterTurbo 使用語言模型和自動化媒體管道根據主題或關鍵字建立短影片。

Python

Graphify-Labs

graphify

★ 116,984

將任何程式碼庫及其文件、SQL 架構、配置和 PDF 轉換為可查詢的知識圖。適用於 Claude Code、Cursor、Codex 和 Gemini CLI 的 /graphify 技能：本地確定性 AST 解析，每條邊均已解釋，無向量儲存。

Python

TauricResearch

TradingAgents

★ 106,586

TradingAgents 協調專門的語言模型代理進行市場研究、辯論、風險審查和模擬交易決策。

Python

JuliusBrussee

caveman

★ 105,741

Caveman 將詳細的命令輸出重寫為緊湊的格式，以便 Claude Code 可以在常規工具結果上花費更少的令牌。

JavaScript

pytorch

★ 103,026

Python 深度學習框架：提供 GPU 加速的張量計算與基於磁帶式自動微分的動態神經網路，並可結合 NumPy、SciPy 等函式庫擴充。

Python

vllm-project

vllm

★ 91,844

適用於法學碩士的高吞吐量和記憶體高效的推理和服務引擎。

Python

modelcontextprotocol

servers

★ 90,323

本專案收錄由指導小組維護的 MCP 伺服器參考實作，目的是為自行開發 MCP 伺服器的開發者提供教學範例。

TypeScript

OpenHands

★ 88,015

自架的程式代理控制中心：可在本機、遠端與雲端後端執行 Claude Code、Codex 或任何相容 ACP 的代理，並自動化日常工作。

Python

bytedance

deer-flow

★ 82,492

一個開源的長期 SuperAgent 工具，用於研究、編碼和創建。借助沙箱、記憶體、工具、技能、子代理程式和訊息網關，它可以處理可能需要幾分鐘到幾小時的不同級別的任務。

Python

lobehub

★ 82,468

扮演「首席代理營運官」：負責招募、調度你的 AI 團隊並回報進度，讓代理 7×24 小時運轉，而你始終掌握主導權。

TypeScript

rtk-ai

rtk

★ 80,502

CLI 代理程式可將常見開發指令的 LLM 令牌消耗量減少 60-90%。單一 Rust 二進位文件，零依賴。

Rust