Applications LLM

Applications et frameworks LLM open source

C’est le groupe le plus large : interfaces de chat, SDK et frameworks, outils de prompts et d’évaluation, et applications reposant sur des grands modèles de langage. Beaucoup fonctionnent avec les modèles de plusieurs fournisseurs, et certains peuvent faire tourner des modèles sur votre propre matériel.

Comment choisir

Pour tout ce que vous comptez mettre en production, vérifiez d’abord trois faits : la licence, car certains projets populaires restreignent l’usage commercial ; la prise en charge du fournisseur de modèles que vous utilisez déjà ; et la maintenance du projet. L’encadré « En bref » de chaque page projet répond aux questions de licence et de maintenance à partir des données GitHub.

Projets les plus étoilés

193–216 sur 871

MemTensor

MemOS

★ 11 355

Système d'exploitation à mémoire auto-évolutive pour les agents LLM et IA : mémoire ultra-persistante, récupération hybride et réutilisation des compétences multi-tâches, avec 35,24 % d'économies de jetons.

TypeScript

holaboss-ai

holaOS

★ 11 288

Open-source agentic workspace enterprises can make their own. Connect the systems you already run — 100+ integrations, MCP, chat tools, apps, browser, local files — with shared memory. Any agent (Claude Code, Codex), any model, or BYOK. Set up in clicks, not months. Local-first: your data never leaves your machines.

TypeScript

microsoft

promptflow

★ 11 241

Build high-quality LLM apps - from prototyping, testing to production deployment and monitoring.

Python

cobusgreyling

loop-engineering

★ 11 221

Practical patterns, starters & CLI tools for loop engineering with AI coding agents. Design systems that prompt and orchestrate agents (inspired by Addy Osmani and Boris Cherny). Includes loop-audit, loop-init, loop-cost.

TypeScript

datawhalechina

all-in-rag

★ 11 102

🔍大模型应用开发实战一：RAG 技术全栈指南，在线阅读地址：https://datawhalechina.github.io/all-in-rag/

Python

EKKOLearnAI

hermes-studio

★ 11 091

Web dashboard for Hermes Agent — multi-platform AI chat, session management, scheduled jobs, usage analytics

TypeScript

huggingface

chat-ui

★ 10 951

The open source codebase powering HuggingChat

TypeScript

langchain-ai

open-swe

★ 10 719

An Open-Source Asynchronous Coding Agent

Python

VoltAgent

voltagent

★ 10 624

AI Agent Engineering Platform built on an Open Source TypeScript AI Agent Framework

TypeScript

RunanywhereAI

runanywhere-sdks

★ 10 283

Production ready toolkit to run AI locally

C++

astrid-runtime

astrid

★ 10 274

Astrid est un système d'exploitation portable et sécurisé pour les logiciels composables.

Rust

Netflix

metaflow

★ 10 268

Build, Manage and Deploy AI/ML Systems

Python

chaitin

PandaWiki

★ 10 247

PandaWiki 是一款 AI 大模型驱动的开源知识库搭建系统，帮助你快速构建智能化的产品文档、技术文档、FAQ、博客系统，借助大模型的力量为你提供 AI 创作、AI 问答、AI 搜索等能力。.

TypeScript

omnigent-ai

omnigent

★ 9 937

Omnigent est un framework et un méta-harnais d'agents d'IA open source : orchestrez Claude Code, Codex, Cursor, Pi et des agents personnalisés, échangez des harnais sans réécriture, appliquez des politiques et un sandboxing, et collaborez en temps réel depuis n'importe quel appareil.

Python

Tiiny-AI

PowerInfer

★ 9 795

High-speed Large Language Model Serving for Local Deployment

C++

microsoft

UFO

★ 9 735

UFO³: Weaving the Digital Agent Galaxy

Python

mengxi-ream

read-frog

★ 9 685

🐸 Read Frog - Language Learning & Translate | 🐸 陪读蛙 - 语言学习与翻译

TypeScript

apache

seatunnel

★ 9 652

SeaTunnel est un outil d'intégration de données massives, multimodal, performant et distribué.

Java

adongwanai

AgentGuide

★ 9 631

MDX

FareedKhan-dev

train-llm-from-scratch

★ 9 622

A straightforward method for training your LLM, from downloading data to generating text.

Python

xorbitsai

inference

★ 9 566

Swap GPT for any LLM by changing a single line of code. Xinference lets you run open-source, speech, and multimodal models on cloud, on-prem, or your laptop — all through one unified, production-ready inference API.

Python