LLM-Apps

Open-Source-LLM-Apps und -Frameworks

Das ist die breiteste Gruppe: Chat-Oberflächen, SDKs und Frameworks, Werkzeuge für Prompts und Evaluierung sowie Anwendungen, die auf großen Sprachmodellen aufbauen. Viele funktionieren mit Modellen verschiedener Anbieter, manche können Modelle auf Ihrer eigenen Hardware ausführen.

Worauf Sie achten sollten

Wenn Sie etwas produktiv einsetzen wollen, prüfen Sie zuerst drei Fakten: die Lizenz, denn manche beliebten Projekte schränken die kommerzielle Nutzung ein; ob der Modellanbieter unterstützt wird, den Sie bereits nutzen; und ob das Projekt noch gepflegt wird. Der Kasten „Auf einen Blick“ auf jeder Projektseite beantwortet die Fragen zu Lizenz und Pflege anhand von GitHub-Daten.

Projekte mit den meisten Sternen

577–600 von 871

microsoft

kernel-memory

★ 2.236

Research project. A Memory solution for users, teams, and applications.

Prism-Shadow

penguin-harness

★ 2.236

🐧 Harness for RSI. Let AI Build AI. Multi-Agent Auto-Dev Platform. Everything is Transparent.

TypeScript

floneum

kalosm

★ 2.230

Instant, controllable, local pre-trained AI models in Rust

Rust

kubeflow

trainer

★ 2.220

Distributed AI Model Training and LLM Fine-Tuning on Kubernetes

NVIDIA-NeMo

DataDesigner

★ 2.219

🎨 NeMo Data Designer: Generate high-quality synthetic data from scratch or from seed data.

Python

datawhalechina

hello-claw

★ 2.209

哈喽！龙虾 🙋‍♀️ Adopt from scratch and build your first claw 🦞 来领养你的第一只龙虾！

JavaScript

redhat-et

ripwire

★ 2.204

The ripgrep of AI context: a zero-dependency C++23 CLI + MCP server for coding agents. Find what you want without reading the repo, then check you built what you meant — blast radius, tests-to-run, quality deltas. Signatures at 74.7% fewer bytes than bodies; every guess labelled, every loss published. Paddle out with a map.

C++

NX-AI

xlstm

★ 2.202

Official repository of the xLSTM.

Python

Open-Curiosity

gini-agent

★ 2.202

The agent that remembers and learns.

TypeScript

mozilla-ai

any-llm

★ 2.196

Communicate with an LLM provider using a single interface

Python

withcatai

node-llama-cpp

★ 2.182

Run AI models locally on your machine with node.js bindings for llama.cpp. Enforce a JSON schema on the model output on the generation level

TypeScript

samchon

nestia

★ 2.177

NestJS Helper + AI Chatbot Development

TypeScript

beelzebub-labs

beelzebub

★ 2.176

A secure low code deception runtime framework, leveraging AI for System Virtualization.

ggml-org

llama.vim

★ 2.174

Vim plugin for LLM-assisted code/text completion

Vim Script

alfredfrancis

ai-chatbot-framework

★ 2.168

A python chatbot framework with Natural Language Understanding and Artificial Intelligence.

TypeScript

HUANGCHIHHUNGLeo

claude-real-video

★ 2.148

Let Claude (or any LLM) actually watch a video — scene-aware, deduplicated frames + transcript, from a URL or local file. Runs locally, MIT.

Python

mcp-router

★ 2.144

A Unified MCP Server Management App (MCP Manager).

TypeScript

cogwheel0

conduit

★ 2.142

Native iOS and Android client for Open WebUI, direct OpenAI-compatible, Ollama, and Hermes agents.

Dart

lightseekorg

tokenspeed

★ 2.131

lightseekorg/tokenspeed bietet eine praxistaugliche Open-Source-Implementierung mit stabiler Einsatzbarkeit für reale Anwendungsfälle.

Python

777genius

agent-teams-ai

★ 2.117

Sie sind der Boss, Agenten sind Ihr Team. Sie erledigen Aufgaben selbstständig, senden sich gegenseitig Nachrichten und überprüfen die Arbeit des anderen. Sie schauen einfach auf die Kanban-Tafel und geben hochrangige Befehle. Codex/Claude/OpenCode/Cursor/Grok/GitHub Copilot/Kiro/Z.AI/MiniMax/Kimi (über 200 Modelle, über 75 LLM-Anbieter, kostenlose Modelle ohne Authentifizierung). Bauen Sie Ihr KI-Unternehmen mit mehreren Teams auf.

TypeScript

theagentrouter

agent-router

★ 2.105

Manages Unified Access to Generative AI Services built on Envoy Gateway

neuron-core

neuron-ai

★ 2.096

The Agentic Framework of the PHP ecosystem to build production-ready AI driven applications. Connect components (LLMs, Tools, vector DBs, memory) to agents that interact with your data and UI.

PHP

4thfever

cultivation-world-simulator

★ 2.080

基于 AI Agent 工作流的修仙世界模拟器，旨在还原智能、开放的仙侠世界。| An open-source Cultivation World Simulator using Agentic Workflow to create a dynamic, emerging Xianxia world.

Python

zhimaAi

chatwiki

★ 2.078

ChatWiki 微信公众号的AI知识库工作流Agent平台，RAG大模型AI客服机器人，致力于成为垂直领域的coze、n8n。

Vue