大型語言模型應用

開源大型語言模型應用與框架

這是範圍最廣的一組：聊天介面、SDK 與框架、提示詞與評測工具，以及各種以大型語言模型為基礎的應用。很多專案可以接入多家服務商的模型，有些還能在你自己的硬體上執行模型。

怎麼選

打算用在產品裡的話，先確認三件事：授權——有些熱門專案限制商用；是否支援你正在用的模型服務商；以及它是否還在維護。每個專案頁上的「秒懂」卡片會根據 GitHub 資料回答授權和維護這兩個問題。

星數最多的專案

第 337–360 個，共 866 個

huggingface

text-embeddings-inference

★ 5,049

A blazing fast inference solution for text embeddings models

Rust

icip-cas

PPTAgent

★ 5,033

An Agentic Framework for Reflective PowerPoint Generation

Python

dtyq

magic

★ 5,030

Magicrew. The first open-source all-in-one AI productivity platform (Generalist AI Agent + Workflow Engine + IM + Online collaborative office system)

TypeScript

SCIR-HI

Huatuo-Llama-Med-Chinese

★ 4,993

Repo for BenCao [original name: HuaTuo (华驼)], Instruction-tuning Large Language Models with Chinese Medical Knowledge. 本草（原名：华驼）模型仓库，基于中文医学知识的大语言模型指令微调

Python

Anil-matcha

Open-source alternative to Opus Clip, Vidyo.ai, Klap & SubMagic. Turn long-form YouTube videos into viral 9:16 shorts using LLM highlight detection, Whisper transcription, and auto vertical cropping — free, no watermarks, no per-clip credits.

Python

mock-server

mockserver-monorepo

★ 4,971

MockServer is an HTTP(S) mock server and proxy for testing that lets you mock APIs, inspect and modify live traffic, and inject failures. It supports HTTP/1.1, HTTP/2, gRPC, WebSockets, TCP and more on a single port, with additional support for HTTP/3, message brokers, and AI/LLM APIs.

Java

campfirein

byterover-cli

★ 4,963

ByteRover CLI (brv) - The portable memory layer for autonomous coding agents (formerly Cipher)

TypeScript

ag2ai

ag2

★ 4,927

AG2 (formerly AutoGen): The Open-Source AgentOS.Join us at: https://discord.gg/sNGSwQME3x

Python

getzep

zep

★ 4,914

澤普 |範例、整合等等。它包含範例程式碼、框架整合以及用於使用 Zep Cloud（Zep 的託管代理記憶體平台）建立代理記憶體的工具。

Python

aipotheosis-labs

aci

★ 4,889

此專案圍繞「ACI.dev is the open source tool-calling platform that hooks up 600+ tools into any agentic IDE or custom AI agent through direct function calling or a unified MCP server. The birthplace of VibeOps.」建置，聚焦實際場景的開源實作，提供可重用的工具鏈與整合方式。

Python

changyeyu

LLM-RL-Visualized

★ 4,883

🌟100+ 原创 LLM / RL 原理图📚，《大模型算法》作者巨献！💥（100+ LLM/RL Algorithm Maps ）

Python

langwatch

★ 4,793

The platform for LLM evaluations and AI agent testing

TypeScript

ParisNeo

lollms-webui

★ 4,789

Lord of Large Language and Multi modal Systems Web User Interface

Python

mlabonne

llm-datasets

★ 4,777

Curated list of datasets and tools for post-training.

pguso

ai-agents-from-scratch

★ 4,773

Demystify AI agents by building them yourself. Local LLMs, no black boxes, real understanding of function calling, memory, and ReAct patterns.

JavaScript

Integuru-AI

Integuru

★ 4,765

The first AI agent that builds permissionless integrations through reverse engineering platforms' internal APIs.

Python

homeassistant-ai

ha-mcp

★ 4,750

The Unofficial and Awesome Home Assistant MCP Server

Python

shy3130

tick-stock-panel

★ 4,748

TSP自托管、零运维的 A 股「选股 + 监控 + 回测」量化工作台 | LLM能力驱使策略定制+个股分析+复盘 | 自由接入第三方数据源与个性化扩展数据 | 个人开源 ,非第三方官方项目

Python

origin-brain

beat-ai

★ 4,713

不玩晦涩不搞少数派的 AI 入门圣经，从学生到工程师都能轻松掌握。涵盖神经网络到大模型、顶层设计到微观原理、工程实现到算法基础。学完后，大家能彻底看懂为什么下一 token 预测这个看似不起眼的能力可以改变世界，也能发现原来 AI 并没有想象中那么神秘、那么高不可攀。 Let's just beat it !

JavaScript

Ironclad

rivet

★ 4,694

The open-source visual AI programming environment and TypeScript library

TypeScript

didilili

ai-agents-from-zero

★ 4,647

🚀 2026 最系统的 AI Agent 速成指南｜智能体实战教程 · 完整学习路径 + 实战项目 + 面试题库 · 对标大模型应用开发工程师岗位 · 覆盖LangChain / LangGraph / Coze / Dify / MCP / skills / LLM / RAG / 提示词 · 企业级部署与微调 · 从0到企业级落地 + 从学习到上线项目 + 面试准备一体化

Python