KI-Kanal
LLM-Apps

Open-Source-LLM-Apps und -Frameworks

Das ist die breiteste Gruppe: Chat-Oberflächen, SDKs und Frameworks, Werkzeuge für Prompts und Evaluierung sowie Anwendungen, die auf großen Sprachmodellen aufbauen. Viele funktionieren mit Modellen verschiedener Anbieter, manche können Modelle auf Ihrer eigenen Hardware ausführen.

Worauf Sie achten sollten

Wenn Sie etwas produktiv einsetzen wollen, prüfen Sie zuerst drei Fakten: die Lizenz, denn manche beliebten Projekte schränken die kommerzielle Nutzung ein; ob der Modellanbieter unterstützt wird, den Sie bereits nutzen; und ob das Projekt noch gepflegt wird. Der Kasten „Auf einen Blick“ auf jeder Projektseite beantwortet die Fragen zu Lizenz und Pflege anhand von GitHub-Daten.

Projekte mit den meisten Sternen

841–864 von 871
mrwadams

stride-gpt

1.123

An AI-powered threat modeling tool that leverages OpenAI's GPT models to generate threat models for a given application based on the STRIDE methodology.

Python
PRIME-RL

TTRL

1.123

[NeurIPS 2025] TTRL: Test-Time Reinforcement Learning

Python
1.118

Schema-Guided Reasoning (SGR) has agentic system design created by neuraldeep community

Python
jmaczan

tiny-vllm

1.116

Build your own high performance LLM inference engine in C++ and CUDA - a smaller version of vLLM

C++
1.114

Translate a whole season of subtitles in one pass — .srt/.ass/.vtt/.lrc, 120+ languages, 27 LLM providers, timing untouched | 整季字幕一次译完,时轴不动,支持 120+ 语言

TypeScript
agentlas-ai

Agentlas-OS

1.111

Agent OS: keep specialist agents in a hub, spin up a temporary orchestrator per task. Local-first, works with any model.

Python
nobodywho-ooo

nobodywho

1.111

NobodyWho is an inference engine that lets you run LLMs locally and efficiently on any device.

Rust
berylliumsec

nebula

1.109

AI-powered penetration testing assistant for automating recon, note-taking, and vulnerability analysis.

Python
Onelevenvy

flock

1.109

A desktop multi-agent harness built with Rust, Tauri, and React, powered by langgraph-rust.

Rust
yeahhe365

Gemini-Nexus

1.104

Gemini Nexus 是一款面向浏览器场景的 AI 助手扩展,集成 Gemini Web、Gemini API 与 OpenAI 兼容接口,支持网页上下文、图像处理、工具调用和 MCP 浏览器控制。

JavaScript
EmbeddedLLM

JamAIBase

1.103

The collaborative spreadsheet for AI. Chain cells into powerful pipelines, experiment with prompts and models, and evaluate LLM responses in real-time. Work together seamlessly to build and iterate on AI applications.

Python
lasgroup

SDPO

1.099

Reinforcement Learning via Self-Distillation (SDPO)

Python
tigicion

dao-code

1.084

Open-source TypeScript terminal coding agent for DeepSeek-V4 — builds on DeepSeek's strong price-performance and ultra-cheap cache pricing, engineering byte-stable prefixes and cache-reusing forks so cross-session memory and a continuous self-correction layer add almost no token cost; 1M context, Skills/MCP/Hooks, Claude Code config compatible.

TypeScript
raindrop-ai

workshop

1.076

Give your coding agent the power to write and run agent evals.

TypeScript
tryAGI

LangChain

1.074

C# implementation of LangChain. We try to be as close to the original as possible in terms of abstractions, but are open to new entities.

C#
1.049

Dieses Projekt rundet „csghub-server is the backend server for CSGHub which helps user to manage datasets, modes, and also run Model Inference, Finetune and Application Spaces.“ zu einer praxistauglichen Open-Source-Lösung zusammen, mit wiederverwendbarer Tooling- und Integrationsunterstützung für reale Anwendungsfälle.

Go
tomasz-tomczyk

crit

1.034

Ihre Feedbackschleife mit dem Agenten. Integrieren Sie Ihren Agenten. Claude Code: Crit funktioniert auch mit Cursor, GitHub Copilot, OpenCode, Codex, Gemini, Qwen, Hermes, Windsurf, Cline, Grok, Aider und Pi, jedem Agenten, der eine Datei lesen und einen Befehl ausführen kann.

Go
Deuz-AI

Deuz-SDK

988

Zero-dependency TypeScript framework for production AI agents: durable execution, long-term memory, hybrid RAG, MCP tool calling, human-in-the-loop approval, planning and CodeAct sandboxes. One streaming API for Claude, GPT, Gemini, Grok, Mistral and DeepSeek — Node, Bun, Deno, serverless and edge.

TypeScript
tastyeffectco

sandboxd

940

Open-Source, selbst gehosteter KI-App-Builder. Ein Agent erstellt echte Apps in isolierten Sandboxen auf Ihrem eigenen Server, jede live unter einer Vorschau-URL. Selbsthosting mit einem Befehl. MIT.

Go
agentforce314

clawcodex

899

Tokeneffizienter, vollständiger Python-Neuaufbau von Claude Code. AI Coding Agent in 270K LoC reinem Python. Bis zu 200-fache Kostenersparnis!

Python
jjang-ai

vmlx

851

vMLX – JANGTQ Uber-komprimierte MLX-Modelle – L2 Disk Cache (überlebt Neustart) + L1 Paged (superschnelles TTFT) + Hybrid SSM Scheduler + Cont Batching + etc!

Python
luckyPipewrench

pipelock

846

luckyPipewrench/pipelock bietet eine praxistaugliche Open-Source-Implementierung mit stabiler Einsatzbarkeit für reale Anwendungsfälle.

Go
LvcidPsyche

auto-browser

792

Geben Sie Ihrem KI-Agenten einen echten Browser, an dem ein Mensch beteiligt ist. Open-Source-MCP-nativer Browser-Agent.

Python
mikehasa

agentacct

720

Sehen Sie, was Ihre Coding-Agenten getan haben und was es gekostet hat. Unterteilt jede Aufgabe in Arbeitsschritte, verwendete Tools, geänderte Dateien, ausgeführte Tests, Zeit und ausgegebene Token. Local-First-Dashboard für Claude Code, Codex, OpenCode und mehr. Kein Login, keine Telemetrie.

Python