KI-Kanal
LLM-Apps

Open-Source-LLM-Apps und -Frameworks

Das ist die breiteste Gruppe: Chat-Oberflächen, SDKs und Frameworks, Werkzeuge für Prompts und Evaluierung sowie Anwendungen, die auf großen Sprachmodellen aufbauen. Viele funktionieren mit Modellen verschiedener Anbieter, manche können Modelle auf Ihrer eigenen Hardware ausführen.

Worauf Sie achten sollten

Wenn Sie etwas produktiv einsetzen wollen, prüfen Sie zuerst drei Fakten: die Lizenz, denn manche beliebten Projekte schränken die kommerzielle Nutzung ein; ob der Modellanbieter unterstützt wird, den Sie bereits nutzen; und ob das Projekt noch gepflegt wird. Der Kasten „Auf einen Blick“ auf jeder Projektseite beantwortet die Fragen zu Lizenz und Pflege anhand von GitHub-Daten.

Projekte mit den meisten Sternen

97–120 von 871
OtterMind

Chat2DB

28.120

Chat2DB is a free, cross-platform, local-first database client and SQL workspace for developers, DBAs, analysts, and data teams. Connect to 40+ databases, manage data, edit and run SQL, and use your own AI model to generate, explain, and optimize queries. Available on desktop, web, Docker, and CLI, with MCP support.

Java
mastra-ai

mastra

28.068

Mastra is the modern TypeScript framework for AI-powered applications and agents.

TypeScript
27.213

Fully Local Manus AI. No APIs, No $200 monthly bills. Enjoy an autonomous agent that thinks, browses the web, and code for the sole cost of electricity.

Python
vercel

ai

26.761

The AI Toolkit for TypeScript. From the creators of Next.js, the AI SDK is a free open-source library for building AI-powered applications and agents

TypeScript
deepset-ai

haystack

26.514

Open-Source-KI-Orchestrierungsframework zum Erstellen kontextorientierter, produktionsbereiter LLM-Anwendungen. Entwerfen Sie modulare Pipelines und Agent-Workflows mit expliziter Kontrolle über Abruf, Routing, Speicher und Generierung. Entwickelt für skalierbare Agenten, RAG, multimodale Anwendungen, semantische Suche und Konversationssysteme.

Python
toon-format

toon

25.383

🎒 Token-Oriented Object Notation (TOON) – compact, human-readable serialization of JSON data for LLM prompts. TypeScript SDK, CLI, benchmarks.

TypeScript
promptfoo

promptfoo

25.137

Testen Sie Ihre Eingabeaufforderungen, Agenten und RAGs. Red Teaming/Pentesting/Schwachstellenscan für KI. Vergleichen Sie die Leistung von GPT, Claude, Gemini, DeepSeek und mehr. Einfache deklarative Konfigurationen mit Befehlszeile und CI/CD-Integration. Wird von OpenAI und Anthropic verwendet.

TypeScript
liguodongiot

llm-action

25.054

本项目旨在分享大模型相关技术原理以及实战经验(大模型工程化、大模型应用落地)

HTML
letta-ai

letta

24.752

Platform for stateful agents: AI with advanced memory that can learn and self-improve over time.

vxcontrol

pentagi

24.391

PentAGI ist ein selbst gehostetes System vollautonomer KI-Agenten für komplexe Penetrationstests, konfigurierbar mit OpenAI, Anthropic, Ollama und weiteren LLM-Anbietern.

Go
NirDiamant

GenAI_Agents

24.294

50+ tutorials and implementations for Generative AI Agent techniques, from basic conversational bots to complex multi-agent systems.

Jupyter Notebook
browserbase

stagehand

24.286

Das SDK für Browser-Agents. Bei den meisten bestehenden Browser-Automatisierungstools müssen Sie entweder Low-Level-Code in einem Framework wie Selenium, Playwright oder Puppeteer schreiben oder High-Level-Agents verwenden, die in der Produktion unvorhersehbar sein können.

TypeScript
Tencent

WeKnora

23.952

Open-source LLM knowledge platform: turn raw documents into a queryable RAG, an autonomous reasoning agent, and a self-maintaining Wiki.

Go
AccumulateMore

CV

23.709

✅(已完结)超级全面的 深度学习 笔记【土堆 Pytorch】【李沐 动手学深度学习】【吴恩达 深度学习】【大飞 大模型Agent】

Jupyter Notebook
mlc-ai

mlc-llm

23.160

Universal LLM Deployment Engine with ML Compilation

Python
Skyvern-AI

skyvern

22.997

Automatisieren Sie browserbasierte Arbeitsabläufe mit KI. Automatisieren Sie browserbasierte Arbeitsabläufe mithilfe von LLMs und Computer Vision. Skyvern automatisiert browserbasierte Arbeitsabläufe mithilfe von LLMs und Computer Vision.

Python
1Panel-dev

MaxKB

22.798

MaxKB ist eine Open-Source-Plattform zum Erstellen von Agenten der Enterprise-Klasse. .

Python
microsoft

unilm

22.217

Large-scale Self-supervised Pre-training Across Tasks, Languages, and Modalities

Python
comet-ml

opik

22.040

Debug, evaluate, and monitor your LLM applications, RAG systems, and agentic workflows with comprehensive tracing, automated evaluations, and production-ready dashboards.

Python
huggingface

datasets

21.974

🤗 The largest hub of ready-to-use datasets for AI models with fast, easy-to-use and efficient data manipulation tools

Python
jundot

omlx

21.764

LLM-Inferenzserver mit kontinuierlichem Batching und SSD-Caching für Apple Silicon, verwaltet über die macOS-Menüleiste.

Python
huggingface

peft

21.681

🤗 PEFT: State-of-the-art Parameter-Efficient Fine-Tuning.

Python
dyad-sh

dyad

21.547

Local, open-source AI app builder for power users ✨ v0 / Lovable / Replit / Bolt alternative 🌟 Star if you like it!

TypeScript
21.544

An open-source, code-first Python toolkit for building, evaluating, and deploying sophisticated AI agents with flexibility and control.

Python