最も幅広いグループです。チャット画面、SDK やフレームワーク、プロンプトや評価のツール、そして大規模言語モデルを使ったさまざまなアプリケーションが含まれます。多くは複数のプロバイダーのモデルに対応し、中には自分のハードウェアでモデルを動かせるものもあります。
製品に使うつもりなら、まず三つの事実を確認しましょう。ライセンス（人気のプロジェクトでも商用利用を制限していることがあります）、すでに使っているモデルプロバイダーに対応しているか、そして今もメンテナンスされているか。各プロジェクトページの「ひと目でわかる」欄が、ライセンスとメンテナンス状況を GitHub のデータから答えます。
オープンソースの連続推論ベンチマーク研究プラットフォーム、Kimi K2.7 コード、MiniMax M3、DeepSeekv4、GLM5 - GB200 NVL72 対 MI355X 対 B200 対 GB300 NVL72、近々 TPUv6e/v7/Trainium2/3 | 、君 K2.7-コード MiniMax M3 DeepSeekv4 GLM5 - GB200 NVL72 対 MI355X 対 B200 対 GB300 NVL72 TPUv6e/v7/Trainium2/3。
Lightweight coding agent written in Rust, optimized for memory footprint and performance
TT-NN オペレーター ライブラリ、および TT-Metalium 低レベル カーネル プログラミング モデル。
Open-source LLM/VLM load balancer and serving platform for self-hosting LLMs (and VLMs) at scale 🏓🦙 Alternative to projects like llm-d, Docker Model Runner, etc but with less moving parts and simple deployments built around ggml ecosystem. Runs on CPU and GPU.
あなた、あなたのモデル、あなたのマシン、あなたのルールに答えるコーディングエージェント。
Agent-R1: Training Powerful LLM Agents with End-to-End Reinforcement Learning
The all-in-one local AI studio for your desktop: chat, image and video generation and a coding agent in one free, open source app. Windows and Linux. No Docker, no terminal, no cloud required.
Trench — Open-Source Analytics Infrastructure. A single production-ready Docker image built on ClickHouse, Kafka, and Node.js for tracking events. Easily build product analytics dashboards, LLM RAGs, observability platforms, or any other analytics product.
一款包含了 Prompt管理，Skill管理，Agent管理的一站式AI工具箱，助你高效管理提示词，一键分发skills ，一站式管理Agent资产，并实现云同步，备份，版本管理 | An all-in-one AI toolbox for prompt, agent, and skills management. Reuse prompts, distribute skills with one click, manage agent assets, and support cloud sync, backup, and version control
Model compression toolkit engineered for enhanced usability, comprehensiveness, and efficiency.
A collection of AI Agents papers (Updated biweekly)
Real-time visualization of Claude Code agent orchestration — see your agents think, branch, and coordinate as they work.
Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.
playwright for windows computer use
A fast and lightweight framework for creating decentralized agents with ease.
🔥 Real-time NVIDIA GPU dashboard
Demystify RAG by building it from scratch. Local LLMs, no black boxes - real understanding of embeddings, vector search, retrieval, and context-augmented generation.
The classic Sillytavern, now has been rewritten in Tauri/Rust.
This repository provides an advanced Retrieval-Augmented Generation (RAG) solution for complex question answering. It uses sophisticated graph based algorithm to handle the tasks.
The unified multimodal backend for AI data apps. Database, orchestration, and serving in one Python file.
Open Source Implementation of Karpathy's LLM Wiki. Upload documents, connect your Claude account via MCP, and have it write your wiki !
Intel AutoRound は、AI 導入の精度を維持しながら推論コストを削減する、量子化ワークフロー用のモデル最適化ツールキットです。
Fast Multimodal LLM on Mobile Devices
The official GitHub page for the survey paper "A Survey on Evaluation of Large Language Models".