litellm
Selbst gehostetes KI-Gateway mit Rust-Kern und Python-SDK, das über 100 LLM-Anbieter im OpenAI-Format aufruft und Kostenverfolgung, Guardrails und Lastverteilung bietet.
Welches Problem es löst
Selbst gehostetes KI-Gateway mit Rust-Kern und Python-SDK, das über 100 LLM-Anbieter im OpenAI-Format aufruft und Kostenverfolgung, Guardrails und Lastverteilung bietet.
Der Projektkontext auf dieser Seite ist kostenlos lesbar. Das ursprüngliche GitHub-Repository bleibt maßgeblich; nur zum Speichern oder Diskutieren ist eine Anmeldung nötig.
Community-Notizen