KI-Kanal
RAG

Open-Source-RAG-Frameworks

Retrieval-Augmented Generation (RAG) lässt ein Sprachmodell aus Ihren eigenen Dokumenten antworten. Der Text wird in Abschnitte zerlegt, in Vektoren umgewandelt und in einem Index gespeichert; bei einer Frage werden die passendsten Abschnitte in den Prompt eingefügt. Die Projekte hier decken die ganze Pipeline oder einen Teil davon ab: Dokumentenanalyse, Vektorsuche oder eine fertige Frage-Antwort-Anwendung.

Worauf Sie achten sollten

Die Antwortqualität hängt bei RAG vor allem vom Retrieval ab, nicht vom Modell. Vergleichen Sie, wie ein Projekt mit schwierigen Dokumenten wie PDFs, Tabellen und Scans umgeht, ob es hybride Suche aus Schlüsselwörtern und Vektoren sowie Re-Ranking unterstützt und ob es zeigt, aus welchen Quellen eine Antwort stammt.

Projekte mit den meisten Sternen

49–72 von 176
langchain4j

langchain4j

13.100

LangChain4j is an idiomatic, open-source Java library for building LLM-powered applications on the JVM. It offers a unified API over popular LLM providers and vector stores, and makes implementing tool calling (including MCP support), agents and RAG easy. It integrates seamlessly with enterprise Java frameworks like Quarkus and Spring Boot.

Java
EverMind-AI

EverOS

12.978

One portable memory layer for every AI agent: local-first, Markdown-native, user-owned, and self-evolving across apps, tools, and workflows.

Python
neuml

txtai

12.949

💡 All-in-one AI framework for semantic search, LLM orchestration and language model workflows

Python
StarTrail-org

LEANN

12.940

[MLsys2026 Best Paper]: https://arxiv.org/abs/2506.08276. RAG on Everything with LEANN. Enjoy 97% storage savings while running a fast, accurate, and 100% private RAG application on your personal device.

Python
NoFxAiOS

nofx

12.911

Ihr KI-Handelsterminal-Assistent für US-Aktien, Rohstoffe, Devisen und Krypto.

Go
codexu

note-gen

12.806

Eine plattformübergreifende Markdown AI-Notizsoftware. Damit soll sichergestellt werden, dass nützliche Fragmente nicht verschwinden, bevor Sie Zeit haben, sie in etwas Vollständiges umzuwandeln.

TypeScript
12.436

ConardLis Open-Source-Skills-Sammlung mit Webdesign, Wissensabruf, Bildgenerierung und mehr.

CSS
12.162

Retrieval and Retrieval-augmented LLMs

Python
jina-ai

reader

12.000

Convert any URL to an LLM-friendly input with a simple prefix https://r.jina.ai/

TypeScript
dataelement

bisheng

11.968

BISHENG is an open LLM devops platform for next generation Enterprise AI applications. Powerful and comprehensive features include: GenAI workflow, RAG, Agent, Unified model management, Evaluation, SFT, Dataset Management, Enterprise-level System Management, Observability and more.

Python
cocoindex-io

cocoindex

11.557

Incremental engine for long horizon agents 🌟 Star if you like it!

Rust
MemTensor

MemOS

11.355

Selbstentwickelndes Speicher-Betriebssystem für LLM- und KI-Agenten: ultrapersistenter Speicher, Hybridabruf und aufgabenübergreifende Wiederverwendung von Fertigkeiten mit 35,24 % Token-Einsparungen.

TypeScript
datawhalechina

all-in-rag

11.102

🔍大模型应用开发实战一:RAG 技术全栈指南,在线阅读地址:https://datawhalechina.github.io/all-in-rag/

Python
VoltAgent

voltagent

10.624

AI Agent Engineering Platform built on an Open Source TypeScript AI Agent Framework

TypeScript
RunanywhereAI

runanywhere-sdks

10.283

Production ready toolkit to run AI locally

C++
adongwanai

AgentGuide

9.631

https://adongwanai.github.io/AgentGuide | AI Agent开发指南 | LangGraph实战 | 高级RAG | 转行大模型 | 大模型面试 | 算法工程师 | 面试题库 | 强化学习|数据合成

MDX
activeloopai

deeplake

9.235

Deeplake is AI Data Runtime for Agents. It provides serverless postgres with a multimodal datalake, enabling scalable retrieval and training.

C++
9.173

智能闲鱼客服机器人系统:专为闲鱼平台打造的AI值守解决方案,实现闲鱼平台7×24小时自动化值守,支持多专家协同决策、智能议价和上下文感知对话。

Python
deeplethe

utopia

8.370

World's first open-source enterprise world model.

Rust
evidentlyai

evidently

7.917

Evidently is ​​an open-source ML and LLM observability framework. Evaluate, test, and monitor any AI-powered system or data pipeline. From tabular data to Gen AI. 100+ metrics.

Jupyter Notebook
7.852

22 prompt engineering techniques with hands-on Jupyter Notebook tutorials, from fundamental concepts to advanced strategies for leveraging LLMs.

Jupyter Notebook
luhengshiwo

LLMForEverybody

7.329

每个人都能看懂的大模型知识分享,LLMs春/秋招大模型面试前必看,让你和面试官侃侃而谈

Jupyter Notebook
plastic-labs

honcho

7.180

Memory library for building stateful agents

Python
6.821

Python & Command-line tool to gather text and metadata on the Web: Crawling, scraping, extraction, output as CSV, JSON, HTML, MD, TXT, XML

Python