KI-Kanal
LLM-Apps

Open-Source-LLM-Apps und -Frameworks

Das ist die breiteste Gruppe: Chat-Oberflächen, SDKs und Frameworks, Werkzeuge für Prompts und Evaluierung sowie Anwendungen, die auf großen Sprachmodellen aufbauen. Viele funktionieren mit Modellen verschiedener Anbieter, manche können Modelle auf Ihrer eigenen Hardware ausführen.

Worauf Sie achten sollten

Wenn Sie etwas produktiv einsetzen wollen, prüfen Sie zuerst drei Fakten: die Lizenz, denn manche beliebten Projekte schränken die kommerzielle Nutzung ein; ob der Modellanbieter unterstützt wird, den Sie bereits nutzen; und ob das Projekt noch gepflegt wird. Der Kasten „Auf einen Blick“ auf jeder Projektseite beantwortet die Fragen zu Lizenz und Pflege anhand von GitHub-Daten.

Projekte mit den meisten Sternen

289–312 von 871
netease-youdao

LobsterAI

6.034

Open-source, desktop-grade AI agent that gets real work done — data analysis, slides, docs, video & web research. Built on OpenClaw; runs tools on your real desktop and takes commands from your phone via WeChat, Feishu, DingTalk & Telegram.

TypeScript
om-ai-lab

VLM-R1

6.024

Solve Visual Understanding with Reinforced VLMs

Python
cactus-compute

cactus

6.017

Quantization, kernels, runtime and inference engine for mobiles, wearables, smart home and robots.

C++
denizsafak

abogen

6.006

Generate audiobooks from EPUBs, PDFs and text with synchronized captions.

Python
gluonfield

enchanted

5.999

Enchanted is iOS and macOS app for chatting with private self hosted language models such as Llama2, Mistral or Vicuna using Ollama.

Swift
5.976

The most comprehensive Claude Code guide: agentic workflows, hooks, skills, MCP servers, quizzes, and production-ready templates. 430K+ lines.

Python
Mai-with-u

MaiBot

5.960

MaiSaka, an LLM-based intelligent agent, is a digital lifeform devoted to understanding you and interacting in the style of a real human. She does not pursue perfection, nor does she seek efficiency; instead, she values warmth, authenticity, and genuine connection.

Python
fengshao1227

ccg-workflow

5.889

多模型协作工作流引擎 — /ccg:go 一个命令,AI 自动分析意图、选择策略、编排 Codex + Gemini + Claude 协作执行

Go
5.876

QOwnNotes is a plain-text file notepad and todo-list manager with Markdown support and Nextcloud / ownCloud integration.

C++
amazon-science

chronos-forecasting

5.863

Chronos: Pretrained Models for Time Series Forecasting

Python
ModelEngine-Group

nexent

5.863

Nexent ist eine Zero-Code-Plattform zur automatischen Generierung von KI-Agenten in Produktionsqualität unter Verwendung von Harness-Engineering-Prinzipien, einheitlichen Tools, Fähigkeiten, Speicher und Orchestrierung mit integrierten Einschränkungen, Rückkopplungsschleifen und Steuerungsebenen.

Python
vllm-project

semantic-router

5.826

A programmable Mixture-of-Models router for heterogeneous LLM inference

Go
AgentOps-AI

agentops

5.819

Python SDK for AI agent monitoring, LLM cost tracking, benchmarking, and more. Integrates with most LLMs and agent frameworks including CrewAI, Agno, OpenAI Agents SDK, Langchain, Autogen, AG2, and CamelAI

Python
Giskard-AI

giskard-oss

5.815

🐢 Open-Source Evaluation & Testing library for LLM Agents

Python
shibing624

MedicalGPT

5.809

MedicalGPT: Training Your Own Medical GPT Model with ChatGPT Training Pipeline. 训练医疗大模型,实现了包括增量预训练(PT)、有监督微调(SFT)、RLHF、DPO、ORPO、GRPO。

Python
Klavis-AI

klavis

5.803

Dieses Projekt rundet „Klavis AI: MCP integration platforms that let AI agents use tools reliably at any scale.“ zu einer praxistauglichen Open-Source-Lösung zusammen, mit wiederverwendbarer Tooling- und Integrationsunterstützung für reale Anwendungsfälle.

Python
PySpur-Dev

pyspur

5.786

A visual playground for agentic workflows: Iterate over your agents 10x faster

TypeScript
areal-project

AReaL

5.762

The RL Bridge for LLM-based Agent Applications. Made Simple & Flexible.

Python
generalaction

emdash

5.748

Emdash is the Open-Source Agentic Development Environment (🧡 YC W26). Run multiple coding agents in parallel. Use any provider.

TypeScript
lemonade-sdk

lemonade

5.721

Lemonade helps users discover and run local AI apps by serving optimized LLMs right from their own GPUs and NPUs. Join our discord: https://discord.gg/5xXzkMu8Zk

C++
OpenBMB

UltraRAG

5.694

A Low-Code MCP Framework for Building Complex and Innovative RAG Pipelines

Python
gpustack

gpustack

5.692

Ein GPU-Cluster-Manager für leistungsstarke KI-Modellbereitstellung (vLLM, SGLang) und bedarfsgesteuerte SSH-zugängliche GPU-Instanzen.

Python
5.678

Robust recipes to align language models with human and AI preferences

Python
the-open-agent

openagent

5.621

⚡️next-generation personal AI assistant powered by LLM, RAG and agent loops, supporting computer-use, browser-use and coding agent, demo: https://demo.openagentai.org

Go