LLM-Apps

Open-Source-LLM-Apps und -Frameworks

Das ist die breiteste Gruppe: Chat-Oberflächen, SDKs und Frameworks, Werkzeuge für Prompts und Evaluierung sowie Anwendungen, die auf großen Sprachmodellen aufbauen. Viele funktionieren mit Modellen verschiedener Anbieter, manche können Modelle auf Ihrer eigenen Hardware ausführen.

Worauf Sie achten sollten

Wenn Sie etwas produktiv einsetzen wollen, prüfen Sie zuerst drei Fakten: die Lizenz, denn manche beliebten Projekte schränken die kommerzielle Nutzung ein; ob der Modellanbieter unterstützt wird, den Sie bereits nutzen; und ob das Projekt noch gepflegt wird. Der Kasten „Auf einen Blick“ auf jeder Projektseite beantwortet die Fragen zu Lizenz und Pflege anhand von GitHub-Daten.

Projekte mit den meisten Sternen

409–432 von 871

spinabot

brigade

★ 3.963

Brigade — Your personal intelligence, built enterprise-grade

TypeScript

yifanfeng97

Hyper-Extract

★ 3.960

Hypergraph is more powerful. Transform unstructured text into structured knowledge with LLMs. Graphs, hypergraphs, and spatio-temporal extractions — with one command.

Python

Chevey339

kelivo

★ 3.953

A Flutter LLM Chat Client. Support Mobile & Desktop.

Dart

lemony-ai

cascadeflow

★ 3.950

Cascading runtime for AI agents. Optimize cost, latency, quality, and policy decisions inside the agent loop.

Python

matt1398

claude-devtools

★ 3.931

The missing DevTools for Claude Code — inspect session logs, tool calls, token usage, subagents, and context window in a visual UI. Free, open source.

TypeScript

claraverse-space

ClaraVerse

★ 3.900

Claraverse is a opesource privacy focused ecosystem to replace ChatGPT, Claude, N8N, ImageGen with your own hosted llm, keys and compute. With desktop, IOS, Android Apps.

TypeScript

LazyAGI

LazyLLM

★ 3.886

Easiest and laziest way for building multi-agent LLMs applications.

Python

dongrixinyu

JioNLP

★ 3.868

中文 NLP 预处理、解析工具包，准确、高效、易用 A Chinese NLP Preprocessing & Parsing Package www.jionlp.com

Python

EverMind-AI

Raven

★ 3.858

Das auf EverOS basierende, sich selbst verbessernde Agentensystem, bei dem der Speicher an erster Stelle steht, mit MiroThinker-gestützter tiefgreifender Recherche und Argumentation.

Python

predibase

lorax

★ 3.832

Multi-LoRA inference server that scales to 1000s of fine-tuned LLMs

Python

datawhalechina

daily-interview

★ 3.827

Datawhale成员整理的面经，内容包括机器学习，CV，NLP，推荐，开发等，欢迎大家star

1186258278

OpenClawChineseTranslation

★ 3.799

JavaScript

didi

xiaoju-survey

★ 3.797

XIAOJUSURVEY is an enterprises form builder and analytics platform that allows users to create questionnaires, exams, polls, quizzes, and analyze data online.

TypeScript

SciSharp

LLamaSharp

★ 3.797

A C#/.NET library to run LLM (🦙LLaMA/LLaVA) on your local device efficiently.

yvgude

lean-ctx

★ 3.781

Kontrollieren Sie, was Ihre KI sehen kann. LeanCTX (Lean Context) ist die Kontextintelligenzschicht für KI-Agenten, eine lokale Rust-Binärdatei, die entscheidet, was sie lesen, sich merkt, was sie gelernt hat, schützt, was sie berühren, und beweist, was sie speichern. 60 90 % weniger Jetons als die Quittung. 76 MCP-Tools, über 30 Agenten, Local-First.

Rust

raullenchai

Rapid-MLX

★ 3.763

The fastest local AI engine for Apple Silicon. 4.2x faster than Ollama, 0.08s cached TTFT, 100% tool calling. 17 tool parsers, prompt cache, reasoning separation, cloud routing. Drop-in OpenAI replacement. Works with Claude Code, Cursor, Aider.

Python

aiming-lab

SimpleMem

★ 3.762

SimpleMem: Efficient Lifelong Memory for LLM Agents — Text & Multimodal

Python

PaddlePaddle

FastDeploy

★ 3.716

High-performance Inference and Deployment Toolkit for LLMs and VLMs based on PaddlePaddle

Python

llm-workflow-engine

★ 3.715

Power CLI and Workflow manager for LLMs (core package)

Python

cbamls

AI_Tutorial

★ 3.697

大厂发布的AI落地实践、顶尖实验室的最新论文、工业界的真实踩坑记录

memodb-io

Acontext

★ 3.692

Agent Skills as a Memory Layer

JavaScript

Windy3f3f3f3f

how-claude-code-works

★ 3.636

Deep dive into Claude Code internals — architecture, agent loop, context engineering, and more. / 深入解析 Claude Code 源码：架构、Agent 循环、上下文工程、工具系统等

nextlevelbuilder

goclaw

★ 3.603

GoClaw - GoClaw is OpenClaw rebuilt in Go — with multi-tenant isolation, 5-layer security, and native concurrency. Deploy AI agent teams at scale without compromising on safety.

sligter

LandPPT

★ 3.596

一个基于LLM的演示文稿生成平台，能够自动将文档内容转换为专业的PPT演示文稿。平台支持多种AI模型，提供丰富的模板和样式选择，让用户能够创建高质量的演示文稿。

Python