tbphp
★ 6,775gpt-load
Self-hosted AI gateway for multi-channel, multi-credential setups — API keys and subscription accounts, scheduling, failover, request logs and usage. 自托管 AI 网关：多渠道多凭据统一接入，含密钥与订阅账号、调度容错、日志与用量。
AI チャンネルLLM アプリ 
オープンソースの LLM アプリとフレームワーク
最も幅広いグループです。チャット画面、SDK やフレームワーク、プロンプトや評価のツール、そして大規模言語モデルを使ったさまざまなアプリケーションが含まれます。多くは複数のプロバイダーのモデルに対応し、中には自分のハードウェアでモデルを動かせるものもあります。
選び方
製品に使うつもりなら、まず三つの事実を確認しましょう。ライセンス（人気のプロジェクトでも商用利用を制限していることがあります）、すでに使っているモデルプロバイダーに対応しているか、そして今もメンテナンスされているか。各プロジェクトページの「ひと目でわかる」欄が、ライセンスとメンテナンス状況を GitHub のデータから答えます。
スターの多いプロジェクト
863 件中 265–288 件nndl
★ 6,746llm-beginner
《大模型与智能体》电子书与 6 个编程任务：Transformer、mini-GPT、SFT/DPO、RAG、工具调用与编程智能体。
drumih
★ 6,737turbo-fieldfare
Gemma 4 26B-A4B inference in ~2 GB of RAM on any M-series MacBook
vas3k
★ 6,699TaxHacker
Self-hosted AI accounting app. LLM analyzer for receipts, invoices, transactions with custom prompts and categories
antvis
★ 6,667Infographic
🦋 An Infographic Generation and Rendering Framework, bring words to life with AI!
BlockRunAI
★ 6,603ClawRouter
The agent-native LLM router for autonomous agents. Every frontier model behind one wallet, <1ms local routing, USDC payments on Base & Solana via x402.
MakazhanAlpamys
★ 6,596Soup
Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.
julep-ai
★ 6,587julep
Julep、耐久性があり、構成可能な AI エージェント。クラッシュして再開し、安全に再試行し、すべてのステップを説明するフロー。
kvcache-ai
★ 6,578Mooncake
Mooncake は、Moonshot AI が提供する主要な LLM サービスである Kim のサービス プラットフォームです。
j3ssie
★ 6,566osmedeus
A Modern Orchestration Engine for Security
airweave-ai
★ 6,565airweave
AI エージェント用のオープンソースのコンテキスト取得レイヤー。 AI エージェントおよび RAG システム用のオープンソースのコンテキスト取得レイヤー。
Osmantic
★ 6,488ODS
PC、Mac、または Linux ボックスを AI サーバーに変えます。 LLM 推論、チャット UI、音声、エージェント、ワークフロー、RAG、画像生成。
josStorer
★ 6,478RWKV-Runner
A RWKV management and startup tool, full automation, only 8MB. And provides an interface compatible with the OpenAI API. RWKV is a large language model that is fully open source and available for commercial use.
genkit-ai
★ 6,441genkit
Open-source framework for building agentic apps in JavaScript, Go, Dart, and Python, built and used in production by Google
haifengl
★ 6,414smile
Statistical Machine Intelligence & Learning Engine
Arthur-Ficial
★ 6,384apfel
The free AI already on your Mac. CLI tool, OpenAI-compatible server, and interactive chat — all on-device via Apple Intelligence. No API keys, no cloud, no downloads.
e2b-dev
★ 6,376fragments
Open-source Next.js template for building apps that are fully generated by AI. By E2B.
modelscope
★ 6,315FunClip
FunASR-powered video transcription, subtitle generation, and LLM-assisted clipping tool with a local Gradio UI.
Tencent
★ 6,271AI-Infra-Guard
OpenClaw セキュリティ スキャン、エージェント スキャン、スキル スキャン、MCP スキャン、AI インフラ スキャン、LLM ジェイルブレイク評価を通じて AI エコシステムを保護するフルスタック AI Red Teaming プラットフォーム。
PrefectHQ
★ 6,199marvin
an ambient intelligence library
Helicone
★ 6,158helicone
🧊 Open source LLM observability platform. One line of code to monitor, evaluate, and experiment. YC W23 🍓
UfoMiao
★ 6,084zcf
Zero-Config Code Flow for Claude code & Codex
netease-youdao
★ 6,034LobsterAI
Open-source, desktop-grade AI agent that gets real work done — data analysis, slides, docs, video & web research. Built on OpenClaw; runs tools on your real desktop and takes commands from your phone via WeChat, Feishu, DingTalk & Telegram.
om-ai-lab
★ 6,024VLM-R1
Solve Visual Understanding with Reinforced VLMs