LLM-Apps

Open-Source-LLM-Apps und -Frameworks

Das ist die breiteste Gruppe: Chat-Oberflächen, SDKs und Frameworks, Werkzeuge für Prompts und Evaluierung sowie Anwendungen, die auf großen Sprachmodellen aufbauen. Viele funktionieren mit Modellen verschiedener Anbieter, manche können Modelle auf Ihrer eigenen Hardware ausführen.

Worauf Sie achten sollten

Wenn Sie etwas produktiv einsetzen wollen, prüfen Sie zuerst drei Fakten: die Lizenz, denn manche beliebten Projekte schränken die kommerzielle Nutzung ein; ob der Modellanbieter unterstützt wird, den Sie bereits nutzen; und ob das Projekt noch gepflegt wird. Der Kasten „Auf einen Blick“ auf jeder Projektseite beantwortet die Fragen zu Lizenz und Pflege anhand von GitHub-Daten.

Projekte mit den meisten Sternen

649–672 von 871

trymirai

uzu

★ 1.801

A high-performance inference engine for AI models

Rust

onestardao

WFGY

★ 1.791

WFGY is heading toward WFGY 5.0 Polaris Protocol, a major open-source release for AI reasoning, RAG, agents, and real-world workflows. Includes Problem Map, Global Debug Card, WFGY 4.0, and the CFV Easter Egg.

Jupyter Notebook

trpc-group

trpc-agent-go

★ 1.787

Ein Go-Framework zum Aufbau von Produktionsagentensystemen mit Diagramm-Workflows, Tools, Speicher, A2A, AG-UI, MCP, Auswertung und Beobachtbarkeit.

SmartFlowAI

EmoLLM

★ 1.784

心理健康大模型 (LLM x Mental Health), Pre & Post-training & Dataset & Evaluation & Depoly & RAG, with InternLM / Qwen / Baichuan / DeepSeek / Mixtral / LLama / GLM series models

Python

delibae

claude-prism

★ 1.782

An offline-first scientific writing workspace powered by Claude. LaTeX + Python + 100+ scientific skills all running locally.

TypeScript

beam-cloud

beta9

★ 1.778

Ultrafast serverless GPU inference, sandboxes, and background jobs

lmstudio-ai

lmstudio-js

★ 1.776

LM Studio TypeScript SDK

TypeScript

julien040

anyquery

★ 1.775

One SQL interface for 60+ tools (e.g., GitHub, Notion, Airtable). Plug into any LLM through MCP.

Mcp-Brasil

mcp-brasil

★ 1.773

MCP Server para 70 APIs públicas brasileiras

Python

wwbin2017

bailing

★ 1.770

百聆是一个类似GPT-4o的语音对话机器人，通过ASR+LLM+TTS实现，集成DeepSeek R1等优秀大模型，接入openClaw，真正的个人语音助手，时延低至800ms，Mac等低配置也可运行，支持打断

Python

NVIDIA-NeMo

Curator

★ 1.769

Scalable data pre processing and curation toolkit for LLMs

Python

ShenSeanChen

waku-agent

★ 1.769

Waku Waku! Waku Agent is a local-first AI agent harness you actually own, including loop, memory, eval, all in code built to stay legible as it grows.

Python

lihanghang

NLP-Knowledge-Graph

★ 1.767

自然语言处理、知识图谱、对话系统，大模型等技术研究与应用。

Python

signerlabs

Klee

★ 1.764

A native macOS AI chat app powered by MLX. 100% local inference on Apple Silicon, no cloud required. Built with ShipSwift.

Swift

mylxsw

aidea-server

★ 1.761

AIdea 是一款支持 GPT 以及国产大语言模型通义千问、文心一言等，支持 Stable Diffusion 文生图、图生图、 SDXL1.0、超分辨率、图片上色的全能型 APP。

ginlix-ai

LangAlpha

★ 1.753

Claude Code for Financial Market

Python

Barca0412

Introduction-to-Quantitative-Finance

★ 1.751

AI+金融（量化）：1.多因子股票量化框架开源教程 2.学界和业界的经典资料收录 3.AI + 金融的相关工作，包括LLM, Agent, benchmark(evaluation), etc.

Python

AgentDock

★ 1.747

Build Anything with AI Agents

MDX

he-yufeng

CoreCoder

★ 1.747

Minimal AI coding agent (~1,000 lines of Python) inspired by Claude Code. Works with any LLM. Think NanoGPT for coding agents. Formerly NanoCoder.

Python

hyperfield

ai-file-sorter

★ 1.737

Cross-platform desktop application for content-aware file organization and renaming. Supports local and remote LLMs, preview-based workflows, and fully user-controlled changes.

C++