BerriAI

BerriAI

litellm

★ 54,422

自行託管的 AI 閘道，採用 Rust 核心與 Python SDK，以 OpenAI 格式呼叫 100 多家 LLM 供應商，並提供成本追蹤、護欄與負載平衡。