Applications LLM

Applications et frameworks LLM open source

C’est le groupe le plus large : interfaces de chat, SDK et frameworks, outils de prompts et d’évaluation, et applications reposant sur des grands modèles de langage. Beaucoup fonctionnent avec les modèles de plusieurs fournisseurs, et certains peuvent faire tourner des modèles sur votre propre matériel.

Comment choisir

Pour tout ce que vous comptez mettre en production, vérifiez d’abord trois faits : la licence, car certains projets populaires restreignent l’usage commercial ; la prise en charge du fournisseur de modèles que vous utilisez déjà ; et la maintenance du projet. L’encadré « En bref » de chaque page projet répond aux questions de licence et de maintenance à partir des données GitHub.

Projets les plus étoilés

265–288 sur 871

adbar

trafilatura

★ 6 821

Python & Command-line tool to gather text and metadata on the Web: Crawling, scraping, extraction, output as CSV, JSON, HTML, MD, TXT, XML

Python

dataease

SQLBot

★ 6 801

🔥 基于大模型和 RAG 的智能问数系统，对话式数据分析神器。Text-to-SQL Generation via LLMs using RAG.

JavaScript

tbphp

gpt-load

★ 6 775

Self-hosted AI gateway for multi-channel, multi-credential setups — API keys and subscription accounts, scheduling, failover, request logs and usage. 自托管 AI 网关：多渠道多凭据统一接入，含密钥与订阅账号、调度容错、日志与用量。

superagent-ai

superagent

★ 6 748

Superagent protects your AI applications against prompt injections, data leaks, and harmful outputs. Embed safety directly into your app and prove compliance to your customers.

TypeScript

nndl

llm-beginner

★ 6 746

《大模型与智能体》电子书与 6 个编程任务：Transformer、mini-GPT、SFT/DPO、RAG、工具调用与编程智能体。

Python

drumih

turbo-fieldfare

★ 6 737

Gemma 4 26B-A4B inference in ~2 GB of RAM on any M-series MacBook

Swift

vas3k

TaxHacker

★ 6 699

Self-hosted AI accounting app. LLM analyzer for receipts, invoices, transactions with custom prompts and categories

TypeScript

antvis

Infographic

★ 6 667

🦋 An Infographic Generation and Rendering Framework, bring words to life with AI!

TypeScript

BlockRunAI

ClawRouter

★ 6 603

The agent-native LLM router for autonomous agents. Every frontier model behind one wallet, <1ms local routing, USDC payments on Base & Solana via x402.

TypeScript

MakazhanAlpamys

Soup

★ 6 596

Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.

Python

julep-ai

julep

★ 6 587

Julep, des agents IA durables et composables. Des flux qui se bloquent et reprennent, réessayent en toute sécurité et expliquent chaque étape.

Python

kvcache-ai

Mooncake

★ 6 578

Mooncake est la plate-forme de service pour Kimi, un service LLM leader fourni par Moonshot AI.

C++

j3ssie

osmedeus

★ 6 566

A Modern Orchestration Engine for Security

airweave-ai

airweave

★ 6 565

Couche de récupération de contexte open source pour les agents IA. Couche de récupération de contexte open source pour les agents IA et les systèmes RAG.

Python

Osmantic

ODS

★ 6 488

Transformez votre PC, Mac ou Linux en serveur IA. Inférence LLM, interface utilisateur de chat, voix, agents, flux de travail, RAG et génération d'images.

Python

josStorer

RWKV-Runner

★ 6 478

A RWKV management and startup tool, full automation, only 8MB. And provides an interface compatible with the OpenAI API. RWKV is a large language model that is fully open source and available for commercial use.

TypeScript

genkit-ai

genkit

★ 6 441

Open-source framework for building agentic apps in JavaScript, Go, Dart, and Python, built and used in production by Google

TypeScript

haifengl

smile

★ 6 414

Statistical Machine Intelligence & Learning Engine

Java

Arthur-Ficial

apfel

★ 6 384

The free AI already on your Mac. CLI tool, OpenAI-compatible server, and interactive chat — all on-device via Apple Intelligence. No API keys, no cloud, no downloads.

Swift

e2b-dev

fragments

★ 6 376

Open-source Next.js template for building apps that are fully generated by AI. By E2B.

TypeScript

modelscope

FunClip

★ 6 315

FunASR-powered video transcription, subtitle generation, and LLM-assisted clipping tool with a local Gradio UI.

Python

KunAgent

Kun

★ 6 310

Local-first AI agent workspace for coding, writing, design, research, and automation — one runtime for desktop GUI and TUI.

TypeScript

Tencent

AI-Infra-Guard

★ 6 271

Une plate-forme AI Red Teaming full-stack sécurisant les écosystèmes d'IA via OpenClaw Security Scan, Agent Scan, Skills Scan, MCP scan, AI Infra scan et l'évaluation du jailbreak LLM.

Python

PrefectHQ

marvin

★ 6 199

an ambient intelligence library

Python