大型語言模型應用

開源大型語言模型應用與框架

這是範圍最廣的一組：聊天介面、SDK 與框架、提示詞與評測工具，以及各種以大型語言模型為基礎的應用。很多專案可以接入多家服務商的模型，有些還能在你自己的硬體上執行模型。

怎麼選

打算用在產品裡的話，先確認三件事：授權——有些熱門專案限制商用；是否支援你正在用的模型服務商；以及它是否還在維護。每個專案頁上的「秒懂」卡片會根據 GitHub 資料回答授權和維護這兩個問題。

星數最多的專案

第 25–48 個，共 866 個

opendatalab

MinerU

★ 79,979

將 PDF、Office 文件與圖片轉換為可供 LLM 使用的 Markdown 或 JSON，採 VLM+OCR 雙引擎，涵蓋 109 種語言、公式與複雜版面。

Python

shareAI-lab

learn-claude-code

★ 76,864

動手實作的教學，圍繞 Bash 從零打造一個極簡的 Claude Code 式代理外殼，講解模型與外殼如何組合成可用的代理產品。

Python

unslothai

unsloth

★ 76,204

Unsloth 是用於訓練和運行 Gemma 4、Qwen3.6、DeepSeek、Kimi、GLM 和其他模型的本地 UI。

Python

hiyouga

LlamaFactory

★ 74,791

對 100 多個 LLM 和 VLM 進行統一高效微調（ACL 2024）。 **可擴充資源**：16 位元全調優、凍結調優、LoRA 和通過 AQLM/AWQ/GPTQ/LLM.int8/HQQ/EETQ 的 2/3/4/5/6/8 位元 QLoRA。

Python

666ghj

MiroFish

★ 73,588

群體智慧預測引擎：從新聞、政策草案或金融訊號等種子材料建構高保真的平行數位世界，讓數千個代理互動推演未來軌跡。

Python

ruvnet

ruflo

★ 72,427

面向 Claude Code 與 Codex 的代理元框架：新增 100 多個專業代理、協同群體、自學習記憶以及跨機器的聯邦通訊。

TypeScript

headroomlabs-ai

headroom

★ 72,304

在工具輸出、日誌、檔案和 RAG 區塊到達 LLM 之前對其進行壓縮。編碼代理的標記減少了 20%，JSON 的標記減少了 60-95%，答案相同。庫、代理、MCP 伺服器。

Python

santifer

career-ops

★ 71,584

將 Claude Code 等 AI 程式 CLI 變成求職指揮中心：掃描求職網站，以 A–F 量表為職缺評分，量身打造履歷並追蹤應徵進度。

JavaScript

openinterpreter

★ 68,320

Open Interpreter 是一款為 Kimi K3 等低成本開源模型優化的終端機程式代理，以 Rust 重寫，提供類似 Codex 的介面並可切換多種 harness。

Rust

Mintplex-Labs

anything-llm

★ 66,065

本機優先的一體化 AI 桌面軟體，可與自己的文件對話、執行 AI 代理，支援多使用者且幾乎零設定即可上手。

JavaScript

mem0ai

mem0

★ 65,344

Mem0 儲存和檢索使用者、會話和代理記憶，以便 AI 應用程式可以在對話中攜帶偏好和上下文。

TypeScript

ZhuLinsen

daily_stock_analysis

★ 65,110

LLM驅動的多市場股票智慧分析系統：多源行情、即時新聞、決策看板與自動自主，支援零定時運作。 LLM驅動的多市場股票智慧分析系統，具有多來源市場數據、即時新聞、決策儀表板、自動通知和免費方案運行。

Python

virattt

ai-hedge-fund

★ 63,383

教育用途的概念驗證專案，由多個以班傑明·葛拉漢、比爾·艾克曼等投資人為原型的 AI 代理協作做出交易決策，不用於真實交易。

Python

usestrix

strix

★ 62,604

自主運作的 AI 滲透測試代理，會實際執行你的程式、找出漏洞並透過真實概念驗證加以確認，可接入 CI/CD 管線。

Python

sansan0

AI驅動的輿情趨勢監測，多平台聚合、RSS、智慧提醒。告別資訊過載，你的AI輿情監控助理與熱點篩選工具！聚合多平台熱點+RSS訂閱，支援關鍵字精準篩選。 AI智慧篩選新聞+AI翻譯+AI分析簡報直推手機，也支援接取MCP架構，賦能AI自然語言對話分析、情感洞察與趨勢預測等。支援Docker，資料本地/雲端自持。整合微信/飛書/釘子/Telegram/郵件/ntfy/bark/slack等管道智慧駕駛。

Python