LLM-Apps

Open-Source-LLM-Apps und -Frameworks

Das ist die breiteste Gruppe: Chat-Oberflächen, SDKs und Frameworks, Werkzeuge für Prompts und Evaluierung sowie Anwendungen, die auf großen Sprachmodellen aufbauen. Viele funktionieren mit Modellen verschiedener Anbieter, manche können Modelle auf Ihrer eigenen Hardware ausführen.

Worauf Sie achten sollten

Wenn Sie etwas produktiv einsetzen wollen, prüfen Sie zuerst drei Fakten: die Lizenz, denn manche beliebten Projekte schränken die kommerzielle Nutzung ein; ob der Modellanbieter unterstützt wird, den Sie bereits nutzen; und ob das Projekt noch gepflegt wird. Der Kasten „Auf einen Blick“ auf jeder Projektseite beantwortet die Fragen zu Lizenz und Pflege anhand von GitHub-Daten.

Projekte mit den meisten Sternen

313–336 von 871

zenml-io

zenml

★ 5.582

ZenML 🙏: One AI Platform from Pipelines to Agents. https://zenml.io.

Python

epoko77-ai

im-not-ai

★ 5.569

AI가 쓴 한글을 사람 글처럼 윤문하는 Claude 스킬 — Korean AI-text humanizer: detects and rewrites translationese, mechanical parallelism, and 71 other AI tells

Python

iflytek

astron-rpa

★ 5.556

Agent-ready RPA suite with out-of-the-box automation tools. Built for individuals and enterprises.

Java

PurpleAILAB

Decepticon

★ 5.517

Autonomous Hacking Agent for Red Team

Python

Blaizzy

mlx-vlm

★ 5.500

MLX-VLM is a package for inference and fine-tuning of Vision Language Models (VLMs) on your Mac using MLX.

Python

BIT-DataLab

Edit-Banana

★ 5.481

Edit Banana: A framework for converting statistical formats into editable.

Python

PacktPublishing

LLM-Engineers-Handbook

★ 5.334

The LLM's practical guide: From the fundamentals to deploying advanced LLM and RAG apps to AWS using LLMOps best practices

Python

maziyarpanahi

openmed

★ 5.325

Lokale KI für das Gesundheitswesen: klinische NER- und HIPAA-PII-Deidentifizierung, die zu 100 % auf dem Gerät ausgeführt wird. Über 2.200 medizinische Modelle, 21 Sprachen, Apple MLX + Python, keine Cloud, keine Patientendaten verlassen Ihr Netzwerk. Apache-2.0.

Python

FunnyWolf

Viper

★ 5.304

Adversary simulation and Red teaming platform with AI

rasbt

reasoning-from-scratch

★ 5.234

Implement a reasoning LLM in PyTorch from scratch, step by step

Jupyter Notebook

looplj

axonhub

★ 5.228

⚡️ Open-source AI Gateway — Use any SDK to call 100+ LLMs. Built-in failover, load balancing, cost control & end-to-end tracing.

katanaml

sparrow

★ 5.220

Structured data extraction, instruction calling and agentic workflows with ML, LLM and Vision LLM

Python

InternLM

xtuner

★ 5.195

A Next-Generation Training Engine Built for Ultra-Large MoE Models

Python

h2oai

h2o-llmstudio

★ 5.182

H2O LLM Studio - a framework and no-code GUI for fine-tuning LLMs. Documentation: https://docs.h2o.ai/h2o-llmstudio/

Python

salesforce

CodeGen

★ 5.180

CodeGen is a family of open-source model for program synthesis. Trained on TPU-v4. Competitive with OpenAI Codex.

Python

hiyouga

EasyR1

★ 5.163

EasyR1: An Efficient, Scalable, Multi-Modality RL Training Framework based on veRL

Python

MCP-UI-Org

mcp-ui

★ 5.159

UI over MCP. Create next-gen UI experiences with the protocol and SDK!

TypeScript

vitali87

code-graph-rag

★ 5.134

Dieses Projekt rundet „The ultimate RAG for your monorepo. Query, understand, and edit multi-language codebases with the power of AI and knowledge graphs.“ zu einer praxistauglichen Open-Source-Lösung zusammen, mit wiederverwendbarer Tooling- und Integrationsunterstützung für reale Anwendungsfälle.

Python