LLM-Apps

Open-Source-LLM-Apps und -Frameworks

Das ist die breiteste Gruppe: Chat-Oberflächen, SDKs und Frameworks, Werkzeuge für Prompts und Evaluierung sowie Anwendungen, die auf großen Sprachmodellen aufbauen. Viele funktionieren mit Modellen verschiedener Anbieter, manche können Modelle auf Ihrer eigenen Hardware ausführen.

Worauf Sie achten sollten

Wenn Sie etwas produktiv einsetzen wollen, prüfen Sie zuerst drei Fakten: die Lizenz, denn manche beliebten Projekte schränken die kommerzielle Nutzung ein; ob der Modellanbieter unterstützt wird, den Sie bereits nutzen; und ob das Projekt noch gepflegt wird. Der Kasten „Auf einen Blick“ auf jeder Projektseite beantwortet die Fragen zu Lizenz und Pflege anhand von GitHub-Daten.

Projekte mit den meisten Sternen

145–168 von 871

kubesphere

★ 17.049

The container platform tailored for Kubernetes multi-cloud, datacenter, and edge management ⎈ 🖥 ☁️

cft0808

edict

★ 16.894

三省六部制 · OpenClaw Multi-Agent Orchestration System, 9 spezialisierte KI-Agenten mit Echtzeit-Dashboard, Modellkonfiguration und vollständigen Audit-Trails.

Python

MemoriLabs

Memori

★ 16.754

Memori is agent-native memory infrastructure. A LLM-agnostic layer that turns agent execution and conversation into structured, persistent state for production systems. Built for enterprise, Memori works with the data infrastructure you already run, no rip-and-replace, and deploys across managed cloud, single-tenant cloud, VPC, and on-premises.

Python

memvid

★ 16.542

Memory layer for AI Agents. Replace complex RAG pipelines with a serverless, single-file memory layer. Give your agents instant retrieval and long-term memory.

Rust

googleapis

mcp-toolbox

★ 16.411

MCP Toolbox for Databases is an open source MCP server for databases.

xbtlin

ai-berkshire

★ 16.341

AI-Version von Claude Code / Codex多Agent并行研究.| Berkshire aus der KI-Ära: ein Value-Investing-Forschungsrahmen, der für Claude Code/Codex entwickelt wurde. 4 Master-Methoden + gegnerische Analyse mit mehreren Agenten.

Python

wanshuiyin

Auto-claude-code-research-in-sleep

★ 16.160

ARIS (Auto-Research-In-Sleep), Lightweight-Markdown-only-Fähigkeiten für autonome ML-Forschung: modellübergreifende Überprüfungsschleifen, Ideenfindung und Experimentautomatisierung. Kein Framework, keine Bindung, funktioniert mit Claude Code, Codex, OpenClaw oder einem beliebigen LLM-Agenten.

Python

alibaba

MNN

★ 16.091

MNN: A blazing-fast, lightweight inference engine battle-tested by Alibaba, powering high-performance on-device LLMs and Edge AI.

C++

HBAI-Ltd

Toonflow-app

★ 15.639

Toonflow 是开源一站式 AI 短剧创作工具，将小说、剧本快速转化为动画短剧。集成 AI 编剧、智能分镜、角色与视频生成，跨平台桌面端轻量部署，助力创作者低成本批量产出视觉内容。Toonflow is an open-source AI tool that turns stories and scripts into animated short dramas. Features AI scriptwriting, storyboarding, character and video generation. A cross-platform desktop app for efficient content creation.

TypeScript

modelscope

ms-swift

★ 15.636

Use PEFT or Full-parameter to CPT/SFT/DPO/GRPO 600+ LLMs (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) and 300+ MLLMs (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) (AAAI 2025).

Python

Anionex

banana-slides

★ 15.607

一站式原生AI PPT生成应用，几分钟内生成一套幻灯片; 支持上传任意模板图片，上传任意素材&智能解析，一句话/大纲/页面描述自动生成PPT，口头修改指定区域、一键导出可编辑ppt、视频等 - An AI-native slides generator based on nano banana pro🍌

TypeScript

Unstructured-IO

unstructured

★ 15.433

Convert documents to structured data effortlessly. Unstructured is open-source ETL solution for transforming complex documents into clean, structured formats for language models. Visit our website to learn more about our enterprise grade Platform product for production grade workflows, partitioning, enrichments, chunking and embedding.

HTML

walkinglabs

learn-harness-engineering

★ 15.251

Nutzen Sie das Tutorial für Einsteiger in die Technik, von 0 bis 1. Gebrauchsfertige Ressourcenbibliotheksvorlagen und Referenzkonfigurationen, die darauf ausgelegt sind, häufige Fallstricke bei der Entwicklung von KI-Agenten mit mehreren Runden zu lösen, wie z. B. Kontextverlust und vorzeitige Aufgabenerledigung.

TypeScript

wdndev

llm_interview_note

★ 15.105

主要记录大语言大模型（LLMs）算法（应用）工程师相关的知识及面试题

HTML

ConardLi

easy-dataset

★ 14.913

A powerful tool for creating datasets for LLM fine-tuning 、RAG and Eval

JavaScript

llmware-ai

llmware

★ 14.843

Unified framework for building enterprise RAG pipelines with small, specialized models

Python

lidge-jun

opencodex

★ 14.746

Universeller Anbieter-Proxy für OpenAI Codex und Claude Code, verwenden Sie jedes LLM (Claude, Gemini, Grok, DeepSeek, Ollama…) mit Codex CLI, App, SDK und Claude Code.

TypeScript

microsoft

RD-Agent

★ 14.643

Research and development (R&D) is crucial for the enhancement of industrial productivity, especially in the AI era, where the core aspects of R&D are mainly focused on data and models. We are committed to automating these high-value generic R&D processes through R&D-Agent, which lets AI drive data-driven AI. 🔗https://aka.ms/RD-Agent-Tech-Report

Python

casdoor

★ 14.408

An open-source Agent-first Identity and Access Management (IAM) /LLM MCP & agent gateway and auth server with web UI supporting OpenClaw, MCP, OAuth, OIDC, SAML, CAS, LDAP, SCIM, WebAuthn, TOTP, MFA, Face ID, Google Workspace, Azure AD

CoplayDev

unity-mcp

★ 14.243

Unity MCP acts as a bridge between AI assistants and your Unity Editor. Give your LLM tools to manage assets, control scenes, edit scripts, and automate tasks within Unity.