LLM-Apps

Open-Source-LLM-Apps und -Frameworks

Das ist die breiteste Gruppe: Chat-Oberflächen, SDKs und Frameworks, Werkzeuge für Prompts und Evaluierung sowie Anwendungen, die auf großen Sprachmodellen aufbauen. Viele funktionieren mit Modellen verschiedener Anbieter, manche können Modelle auf Ihrer eigenen Hardware ausführen.

Worauf Sie achten sollten

Wenn Sie etwas produktiv einsetzen wollen, prüfen Sie zuerst drei Fakten: die Lizenz, denn manche beliebten Projekte schränken die kommerzielle Nutzung ein; ob der Modellanbieter unterstützt wird, den Sie bereits nutzen; und ob das Projekt noch gepflegt wird. Der Kasten „Auf einen Blick“ auf jeder Projektseite beantwortet die Fragen zu Lizenz und Pflege anhand von GitHub-Daten.

Projekte mit den meisten Sternen

697–720 von 871

NirDiamant

Controllable-RAG-Agent

★ 1.624

This repository provides an advanced Retrieval-Augmented Generation (RAG) solution for complex question answering. It uses sophisticated graph based algorithm to handle the tasks.

Jupyter Notebook

pixeltable

★ 1.623

The unified multimodal backend for AI data apps. Database, orchestration, and serving in one Python file.

Python

lucasastorian

llmwiki

★ 1.615

Open Source Implementation of Karpathy's LLM Wiki. Upload documents, connect your Claude account via MCP, and have it write your wiki !

Python

intel

auto-round

★ 1.614

Intel AutoRound ist ein Modelloptimierungs-Toolkit für Quantisierungsworkflows, das die Inferenzkosten senkt und gleichzeitig die Genauigkeit für die KI-Bereitstellung beibehält.

Python

UbiquitousLearning

mllm

★ 1.612

Fast Multimodal LLM on Mobile Devices

C++

MLGroupJLU

LLM-eval-survey

★ 1.611

The official GitHub page for the survey paper "A Survey on Evaluation of Large Language Models".

koreainvestment

open-trading-api

★ 1.606

Korea Investment & Securities Open API Github

Python

shiwenwen

hope-agent

★ 1.603

🦭 会记忆、能持续推进目标、会动态编排多 Agent 的跨端桌面 AI 助手，也可服务化常驻 NAS / 云端 | A cross-device desktop AI agent with memory, autonomous goals, dynamic workflows, and headless deployment

Rust

MeetKai

functionary

★ 1.596

Chat language model that can use tools and interpret the results

Python

Kaelio

ktx

★ 1.593

ktx is an executable context layer for data and analytics agents 🐙 Allow Claude Code, Codex, or other AI agents to query analytical databases accurately and with full context of your company

TypeScript

OpenOSINT

★ 1.590

AI-powered OSINT agent with interactive REPL, MCP server, and CLI. 19 tools. Works with Claude, GPT-4, or local models. For authorized security research only.

Python

mex-memory

mex

★ 1.585

Team memory for engineers and their AI agents. Lives in your repo. Shared through Git.

TypeScript

AIScientists-Dev

academic-humanizer

★ 1.580

Strip AI-writing tells from papers and grant proposals (NSF/NIH), while keeping scholarly voice and tying claims to evidence. A skill for Claude Code, Codex, and MorphMind.

BAI-LAB

MemoryOS

★ 1.579

[EMNLP 2025 Oral] MemoryOS is designed to provide a memory operating system for personalized AI agents.

Python

openedclaude

claude-reviews-claude

★ 1.577

Claude reads its own source code — 17-chapter architectural deep-dive into Claude Code v2.1.88. EN/ZH bilingual.

WeiboAI

VibeThinker

★ 1.577

Tiny Model, Big Logic: Diversity-Driven Optimization Elicits Large-Model Reasoning Ability in VibeThinker-1.5B

Python

waybarrios

vllm-mlx

★ 1.575

High-performance OpenAI and Anthropic compatible LLM inference server for Apple Silicon. Native MLX, continuous batching, multimodal models, MCP tool calling, and Claude Code support.

Python

MLSysOps

MLE-agent

★ 1.572

🤖 MLE-Agent: Your intelligent companion for seamless AI engineering and research. 🔍 Integrate with arxiv and paper with code to provide better code/research plans 🧰 OpenAI, Anthropic, Gemini, Ollama, etc supported. :fireworks: Code RAG

Python