LLM-Apps

Open-Source-LLM-Apps und -Frameworks

Das ist die breiteste Gruppe: Chat-Oberflächen, SDKs und Frameworks, Werkzeuge für Prompts und Evaluierung sowie Anwendungen, die auf großen Sprachmodellen aufbauen. Viele funktionieren mit Modellen verschiedener Anbieter, manche können Modelle auf Ihrer eigenen Hardware ausführen.

Worauf Sie achten sollten

Wenn Sie etwas produktiv einsetzen wollen, prüfen Sie zuerst drei Fakten: die Lizenz, denn manche beliebten Projekte schränken die kommerzielle Nutzung ein; ob der Modellanbieter unterstützt wird, den Sie bereits nutzen; und ob das Projekt noch gepflegt wird. Der Kasten „Auf einen Blick“ auf jeder Projektseite beantwortet die Fragen zu Lizenz und Pflege anhand von GitHub-Daten.

Projekte mit den meisten Sternen

337–360 von 871

dtyq

magic

★ 5.030

Magicrew. The first open-source all-in-one AI productivity platform (Generalist AI Agent + Workflow Engine + IM + Online collaborative office system)

TypeScript

SCIR-HI

Huatuo-Llama-Med-Chinese

★ 4.993

Repo for BenCao [original name: HuaTuo (华驼)], Instruction-tuning Large Language Models with Chinese Medical Knowledge. 本草（原名：华驼）模型仓库，基于中文医学知识的大语言模型指令微调

Python

Anil-matcha

AI-Youtube-Shorts-Generator

★ 4.988

Open-source alternative to Opus Clip, Vidyo.ai, Klap & SubMagic. Turn long-form YouTube videos into viral 9:16 shorts using LLM highlight detection, Whisper transcription, and auto vertical cropping — free, no watermarks, no per-clip credits.

Python

mock-server

mockserver-monorepo

★ 4.971

MockServer is an HTTP(S) mock server and proxy for testing that lets you mock APIs, inspect and modify live traffic, and inject failures. It supports HTTP/1.1, HTTP/2, gRPC, WebSockets, TCP and more on a single port, with additional support for HTTP/3, message brokers, and AI/LLM APIs.

Java

campfirein

byterover-cli

★ 4.963

ByteRover CLI (brv) - The portable memory layer for autonomous coding agents (formerly Cipher)

TypeScript

ag2ai

ag2

★ 4.927

AG2 (formerly AutoGen): The Open-Source AgentOS.Join us at: https://discord.gg/sNGSwQME3x

Python

getzep

zep

★ 4.914

Zep | Beispiele, Integrationen und mehr. Es enthält Beispielcode, Framework-Integrationen und Tools zum Aufbau des Agentenspeichers mit Zep Cloud, der verwalteten Agentenspeicherplattform von Zep.

Python

aipotheosis-labs

aci

★ 4.889

Dieses Projekt rundet „ACI.dev is the open source tool-calling platform that hooks up 600+ tools into any agentic IDE or custom AI agent through direct function calling or a unified MCP server. The birthplace of VibeOps.“ zu einer praxistauglichen Open-Source-Lösung zusammen, mit wiederverwendbarer Tooling- und Integrationsunterstützung für reale Anwendungsfälle.

Python

changyeyu

LLM-RL-Visualized

★ 4.883

🌟100+ 原创 LLM / RL 原理图📚，《大模型算法》作者巨献！💥（100+ LLM/RL Algorithm Maps ）

Python

langwatch

★ 4.793

The platform for LLM evaluations and AI agent testing

TypeScript

ParisNeo

lollms-webui

★ 4.789

Lord of Large Language and Multi modal Systems Web User Interface

Python

mlabonne

llm-datasets

★ 4.777

Curated list of datasets and tools for post-training.

pguso

ai-agents-from-scratch

★ 4.773

Demystify AI agents by building them yourself. Local LLMs, no black boxes, real understanding of function calling, memory, and ReAct patterns.

JavaScript

Integuru-AI

Integuru

★ 4.765

The first AI agent that builds permissionless integrations through reverse engineering platforms' internal APIs.

Python

homeassistant-ai

ha-mcp

★ 4.750

The Unofficial and Awesome Home Assistant MCP Server

Python

shy3130

tick-stock-panel

★ 4.748

TSP自托管、零运维的 A 股「选股 + 监控 + 回测」量化工作台 | LLM能力驱使策略定制+个股分析+复盘 | 自由接入第三方数据源与个性化扩展数据 | 个人开源 ,非第三方官方项目

Python

origin-brain

beat-ai

★ 4.713

不玩晦涩不搞少数派的 AI 入门圣经，从学生到工程师都能轻松掌握。涵盖神经网络到大模型、顶层设计到微观原理、工程实现到算法基础。学完后，大家能彻底看懂为什么下一 token 预测这个看似不起眼的能力可以改变世界，也能发现原来 AI 并没有想象中那么神秘、那么高不可攀。 Let's just beat it !

JavaScript

Ironclad

rivet

★ 4.694

The open-source visual AI programming environment and TypeScript library

TypeScript

didilili

ai-agents-from-zero

★ 4.647

🚀 2026 最系统的 AI Agent 速成指南｜智能体实战教程 · 完整学习路径 + 实战项目 + 面试题库 · 对标大模型应用开发工程师岗位 · 覆盖LangChain / LangGraph / Coze / Dify / MCP / skills / LLM / RAG / 提示词 · 企业级部署与微调 · 从0到企业级落地 + 从学习到上线项目 + 面试准备一体化

Python

rivet-dev

agentos

★ 4.634

Give agents an operating system as a library. Runs in your existing backend – no sandboxes, VMs, or SaaS. Powered by WebAssembly & V8 isolates.

Rust

ruc-datalab

DeepAnalyze

★ 4.629

DeepAnalyze is the first agentic LLM for autonomous data science. 🎈你的AI数据分析师，自动分析大量数据，一键生成专业分析报告！

Python

TingsongYu

PyTorch-Tutorial-2nd

★ 4.602

《Pytorch实用教程》（第二版）无论是零基础入门，还是CV、NLP、LLM项目应用，或是进阶工程化部署落地，在这里都有。相信在本书的帮助下，读者将能够轻松掌握 PyTorch 的使用，成为一名优秀的深度学习工程师。

Jupyter Notebook

JetBrains

koog

★ 4.572

Koog is a JVM (Java and Kotlin) framework for building predictable, fault-tolerant and enterprise-ready AI agents across all platforms – from backend services to Android and iOS, JVM, and even in-browser environments. Koog is based on our AI products expertise and provides proven solutions for complex LLM and AI problems

Kotlin

skyzh

tiny-llm

★ 4.567

learn LLM inference system on Apple Silicon for systems engineers: build a tiny vLLM + Qwen

Python