LLM-Apps

Open-Source-LLM-Apps und -Frameworks

Das ist die breiteste Gruppe: Chat-Oberflächen, SDKs und Frameworks, Werkzeuge für Prompts und Evaluierung sowie Anwendungen, die auf großen Sprachmodellen aufbauen. Viele funktionieren mit Modellen verschiedener Anbieter, manche können Modelle auf Ihrer eigenen Hardware ausführen.

Worauf Sie achten sollten

Wenn Sie etwas produktiv einsetzen wollen, prüfen Sie zuerst drei Fakten: die Lizenz, denn manche beliebten Projekte schränken die kommerzielle Nutzung ein; ob der Modellanbieter unterstützt wird, den Sie bereits nutzen; und ob das Projekt noch gepflegt wird. Der Kasten „Auf einen Blick“ auf jeder Projektseite beantwortet die Fragen zu Lizenz und Pflege anhand von GitHub-Daten.

Projekte mit den meisten Sternen

553–576 von 871

jackmpcollins

magentic

★ 2.425

Seamlessly integrate LLMs as Python functions

Python

prism-php

prism

★ 2.424

A unified interface for working with LLMs in Laravel

PHP

AI-Hypercomputer

maxtext

★ 2.421

Ein einfaches, leistungsstarkes und skalierbares Jax LLM. MaxText bietet eine Bibliothek mit Hochleistungsmodellen zur Auswahl, darunter Gemma, Llama, DeepSeek, Qwen und Mistral.

Python

e2b-dev

code-interpreter

★ 2.411

Python & JS/TS SDK for running AI-generated code/code interpreting in your AI app

Python

hydropix

TranslateBooksWithLLMs

★ 2.411

Translate full-length books and documents with Ollama, OpenAI-compatible, Gemini, Mistral, DeepSeek, Poe or OpenRouter. Preserves formatting. Resumes where you left off. No file size limits.

Python

ailia-ai

ailia-models

★ 2.392

The collection of pre-trained, state-of-the-art AI models for ailia SDK

Python

DeepInsight-AI

DeepBI

★ 2.382

LLM based data scientist, AI native data application. AI-driven infinite thinking redefines BI.

Python

llmsresearch

paperbanana

★ 2.363

Open source implementation and extension of Google Research’s PaperBanana for automated academic figures, diagrams, and research visuals, expanded to new domains like slide generation.

Python

agentuniverse-ai

agentUniverse

★ 2.358

agentUniverse is a LLM multi-agent framework that allows developers to easily build multi-agent applications.

Python

0xMassi

webclaw

★ 2.348

Fast, local-first web content extraction for LLMs. Scrape, crawl, extract structured data — all from Rust. CLI, REST API, and MCP server.

Rust

instill-ai

instill-core

★ 2.321

🔮 Instill Core is a full-stack AI infrastructure tool for data, model and pipeline orchestration, designed to streamline every aspect of building versatile AI-first applications

Python

lioensky

VCPToolBox

★ 2.300

VCP 部署在 AI 模型 API 与前端应用之间，是面向AGI OS开发和探索的工业级基建示范项目。通过统一指令协议、多层级持久化记忆、分布式插件引擎及多 Agent 协作框架，将原本“无状态、无记忆、无工具调用能力”的大语言模型，彻底改造成拥有永久自我意识、物理世界操作权及群体协作智能的完整智能体系统。

JavaScript

bbruceyuan

LLMs-Zero-to-Hero

★ 2.290

从无名小卒到大模型（LLM）大英雄~ 欢迎关注后续！！！

Jupyter Notebook

Sahir619

fable-method

★ 2.290

The Fable Workflow: how Claude Fable 5 worked, distilled into skills any model can run, with the eval that keeps it honest. Think / act / prove.

Python

InternLM

lagent

★ 2.281

A lightweight framework for building LLM-based agents

Python

jwadow

kiro-gateway

★ 2.278

👻 Proxy API gateway for Kiro IDE & CLI (Amazon Q Developer / AWS CodeWhisperer). Use free Claude models with any client.

Python

e2b-dev

open-computer-use

★ 2.273

AI computer use powered by open source LLMs and E2B Desktop Sandbox

Python

Astro-Han

karpathy-llm-wiki

★ 2.262

Agent Skills-compatible LLM wiki for Claude Code, Cursor, and Codex. Build a Karpathy-style knowledge base from raw sources, citations, and linting.

Python

GammaLabTechnologies

harmonist

★ 2.256

Portable AI agent orchestration with mechanical protocol enforcement. 186 agents, zero runtime dependencies.

Python

EgoAlpha

prompt-in-context-learning

★ 2.249

Awesome resources for in-context learning and prompt engineering: Mastery of the LLMs such as ChatGPT, GPT-3, and FlanT5, with up-to-date and cutting-edge updates.

Jupyter Notebook