AI 頻道
大型語言模型應用

開源大型語言模型應用與框架

這是範圍最廣的一組:聊天介面、SDK 與框架、提示詞與評測工具,以及各種以大型語言模型為基礎的應用。很多專案可以接入多家服務商的模型,有些還能在你自己的硬體上執行模型。

怎麼選

打算用在產品裡的話,先確認三件事:授權——有些熱門專案限制商用;是否支援你正在用的模型服務商;以及它是否還在維護。每個專案頁上的「秒懂」卡片會根據 GitHub 資料回答授權和維護這兩個問題。

星數最多的專案

第 49–72 個,共 866 個
bmad-code-org

BMAD-METHOD

53,054

BMAD-METHOD 是一套免費開源的敏捷 AI 驅動開發框架,其代理程式如同專家協作者引導流程,可依專案規模從錯誤修復到企業級系統自動調整規劃深度。

JavaScript
run-llama

llama_index

52,170

用於建構文件代理和檢索應用程式的框架。

Python
ChromeDevTools

chrome-devtools-mcp

52,047

此 MCP 伺服器讓程式碼代理透過 DevTools 控制並檢查即時運行的 Chrome 瀏覽器,用於除錯、效能分析與基於 Puppeteer 的可靠自動化。

TypeScript
51,788

Cherry Studio 是一套支援多家 LLM 服務商的桌面軟體,可在 Windows、macOS 與 Linux 執行,整合智慧對話、自主代理與 300 多個內建助手。

TypeScript
multica-ai

multica

49,931

Multica 讓程式智能體成為可管理的隊友:指派任務後,智能體會自主編寫程式碼、回報阻礙並更新狀態,可自行託管。

Go
mudler

LocalAI

49,126

LocalAI 是開源人工智慧引擎。在任何硬體上運行任何模型 - 法學碩士、視覺、語音、圖像、視訊。無需 GPU。

Go
HKUDS

nanobot

48,188

適用於您的工具、聊天和工作流程的輕量級開源 AI 代理程式。

Python
KeygraphHQ

shannon

48,035

Shannon 是一套自主的白盒 AI 滲透測試軟體,透過分析原始碼找出攻擊路徑,並執行真實攻擊,在程式上線前證明漏洞存在。

TypeScript
zhayujie

CowAgent

46,986

開源超級AI助理和Agent Harness。規劃任務,運行工具和技能,利用記憶和知識進行自我進化。多模式、多通路。輕量級、可擴充、單行安裝。 (以前稱為chatgpt-on-wechat)。

Python
danielmiessler

Fabric

43,921

Fabric 將 AI 提示詞整理成群眾外包的可重用模式庫,用於解決特定問題,可透過 CLI 或其 REST API 呼叫。

Go
ray-project

ray

43,813

Ray 是一個人工智慧運算引擎。 Ray 由一個核心分散式執行時間和一組用於加速 ML 工作負載的 AI 庫組成。

Python
danny-avila

LibreChat

43,718

LibreChat 是可自行架設的類 ChatGPT 聊天介面,統一接入多家 AI 服務商,支援模型切換、代理、MCP 工具與沙箱程式碼直譯器。

TypeScript
langchain-ai

langgraph

41,704

建構具備韌性和狀態管理能力的 AI 代理及其工作流程。

Python
Hmbown

CodeWhale

40,983

開源、社群驅動的代理工具。為什麼選擇 Codewhale:** **無鎖定。 ** DeepSeek、Claude、GPT、Kimi、GLM、30 多個提供者以及您自己的 vLLM、SGLang 或 Ollama,無需密鑰,透過一個運行時和一個工具集運行。

Rust
AstrBotDevs

AstrBot

40,545

AstrBot 是一個 AI 助理框架,它將模型提供者、外掛程式和訊息平台連接到可部署的機器人服務。

Python
wshobson

agents

39,685

外掛市集,匯集 94 個代理式外掛、203 個代理、175 項技能與 109 條命令,統一以一份 Markdown 來源維護,可被 Claude Code、Codex CLI、Cursor 等原生使用。

Python
39,639

[EMNLP2025]“LightRAG:簡單快速的檢索增強生成。

Python
38,580

一個 Python 庫,用於使用具有精確來源基礎和互動式視覺化的法學碩士從非結構化文字中提取結構化資訊。

Python
37,553

有關法學碩士、RAG 和現實世界人工智慧代理應用程式的深入教程。

Jupyter Notebook
CopilotKit

CopilotKit

37,348

代理程式和生成式 UI 的前端堆疊。 React、Angular、Mobile、Slack 等等。 AG-UI 協議的製定者。

TypeScript
khoj-ai

khoj

37,346

你的人工智慧第二大腦。可自行託管。從網路或文件中取得答案。建立自訂代理、安排自動化、進行深入研究。將任何線上或本地法學碩士轉變為您個人的自主人工智慧(gpt、claude、gemini、llama、qwen、mistral)。開始使用 - 免費。

Python
AlexsJones

llmfit

36,624

llmfit 根據模型要求檢查本地硬件,並建議適合可用記憶體和計算的模型和提供者。

Rust
sgl-project

sglang

35,949

SGLang 是一個用於大型語言模型和多模態模型的高效能服務框架。

Python
VectifyAI

PageIndex

35,654

PageIndex:無向量、基於推理的 RAG 的文檔索引。受 AlphaGo 的啟發,我們提出 **PageIndex**,這是一個 **無向量**、**基於推理的 RAG** 系統,它從長文檔構建 **分層樹索引**,並使用 LLM 來 **推理** *對該索引* 進行 **代理、上下文感知檢索**。

Python