LLM-Apps

Open-Source-LLM-Apps und -Frameworks

Das ist die breiteste Gruppe: Chat-Oberflächen, SDKs und Frameworks, Werkzeuge für Prompts und Evaluierung sowie Anwendungen, die auf großen Sprachmodellen aufbauen. Viele funktionieren mit Modellen verschiedener Anbieter, manche können Modelle auf Ihrer eigenen Hardware ausführen.

Worauf Sie achten sollten

Wenn Sie etwas produktiv einsetzen wollen, prüfen Sie zuerst drei Fakten: die Lizenz, denn manche beliebten Projekte schränken die kommerzielle Nutzung ein; ob der Modellanbieter unterstützt wird, den Sie bereits nutzen; und ob das Projekt noch gepflegt wird. Der Kasten „Auf einen Blick“ auf jeder Projektseite beantwortet die Fragen zu Lizenz und Pflege anhand von GitHub-Daten.

Projekte mit den meisten Sternen

241–264 von 871

tailcallhq

forgecode

★ 7.629

AI enabled pair programmer for Claude, GPT, O Series, Grok, Deepseek, Gemini and 300+ models

Rust

flyteorg

flyte

★ 7.487

Dieses Projekt rundet „Dynamic, resilient AI orchestration. Coordinate data, models, and compute as you build AI workflows.“ zu einer praxistauglichen Open-Source-Lösung zusammen, mit wiederverwendbarer Tooling- und Integrationsunterstützung für reale Anwendungsfälle.

open-compass

opencompass

★ 7.442

OpenCompass is an LLM evaluation platform, supporting a wide range of models (Llama3, Mistral, InternLM2,GPT-4,LLaMa2, Qwen,GLM, Claude, etc) over 100+ datasets.

Python

traceloop

openllmetry

★ 7.430

Open-source observability for your GenAI or LLM application, based on OpenTelemetry

Python

guardrails-ai

guardrails

★ 7.418

Adding guardrails to large language models.

Python

apache

hertzbeat

★ 7.397

An AI-powered next-generation open source real-time observability system.

Java

arcee-ai

mergekit

★ 7.350

Tools for merging pretrained large language models.

Python

zhouxiaoka

autoclip

★ 7.335

AutoClip : AI-powered video clipping and highlight generation · 一款智能高光提取与剪辑的二创工具

Python

luhengshiwo

LLMForEverybody

★ 7.329

每个人都能看懂的大模型知识分享，LLMs春/秋招大模型面试前必看，让你和面试官侃侃而谈

Jupyter Notebook

strands-agents

harness-sdk

★ 7.241

Erstellen Sie ein Agentensystem und steuern Sie es durchgängig. Open-Source-SDK für Produktions-KI-Agenten in Python und TypeScript – jedes Modell, jede Cloud.

Python

Zipstack

unstract

★ 7.238

LLM-Driven Extraction of Unstructured Data — Built for API Deployments & ETL Pipeline Workflows

Python

zai-org

GLM-5

★ 7.190

GLM-5: From Vibe Coding to Agentic Engineering

plastic-labs

honcho

★ 7.180

Memory library for building stateful agents

Python

JerryZLiu

Dayflow

★ 7.125

The automatic work journal/time tracker. Privately turns your screen into a timeline of what you actually accomplished. Open-source and local-first.

Swift

ymcui

Chinese-LLaMA-Alpaca-2

★ 7.117

中文LLaMA-2 & Alpaca-2大模型二期项目 + 64K超长上下文模型 (Chinese LLaMA-2 & Alpaca-2 LLMs with 64K long context models)

Python

lance-format

lance

★ 7.076

Offenes Lakehouse-Format für multimodale KI. Konvertieren Sie von Parquet in 2 Codezeilen für 100-mal schnelleren Direktzugriff, Vektorindex und Datenversionierung. Kompatibel mit Pandas, DuckDB, Polars, Pyarrow und PyTorch, weitere Integrationen folgen.

Rust

datajuicer

data-juicer

★ 7.047

Data processing for and with foundation models! 🍎 🍋 🌽 ➡️ ➡️🍸 🍹 🍷

Python

grab

cursor-talk-to-figma-mcp

★ 7.022

TalkToFigma: MCP integration between AI Agent (Cursor, Claude Code, Codex) and Figma, allowing Agentic AI to communicate with Figma for reading designs and modifying them programmatically.

JavaScript

lintsinghua

DeepAudit

★ 7.020

DeepAudit ist eine Open-Source-Multi-Agent-Sicherheitsplattform für die Schwachstellensuche, mit automatisierter PoC-Validierung und Berichts-Export, inklusive privatem Ollama-Einsatz.

Python

opensquilla

★ 7.012

OpenSquilla, Token-effizienter KI-Agent mit gleichem Budget und höherer Informationsdichte.

Python

mishushakov

llm-scraper

★ 6.927

Turn any webpage into structured data using LLMs

TypeScript

open-multi-agent

★ 6.922

TypeScript AI-Agent-Orchestrierungs-Framework mit dynamischen Workflows. Beschreiben Sie das Ziel, nicht das Diagramm: Ein Koordinator plant die Aufgaben-DAG zur Laufzeit und führt sie auf einem beliebigen LLM aus (Claude, ChatGPT, Gemini, DeepSeek oder lokale Modelle).

TypeScript

Gentleman-Programming

gentle-ai

★ 6.829

Gentle-AI configures the AI coding agents you already use: Claude Code, Cursor, OpenCode, Codex, Pi, and more. Choose persistent memory, Spec-Driven Development, curated skills, MCP servers, personas, and optional bounded review. Open source, no agent lock-in.

adbar

trafilatura

★ 6.821

Python & Command-line tool to gather text and metadata on the Web: Crawling, scraping, extraction, output as CSV, JSON, HTML, MD, TXT, XML

Python