litellm
Passerelle IA auto-hébergée avec cœur Rust et SDK Python, qui appelle plus de 100 fournisseurs de LLM au format OpenAI avec suivi des coûts, garde-fous et répartition de charge.
Le problème qu’il résout
Passerelle IA auto-hébergée avec cœur Rust et SDK Python, qui appelle plus de 100 fournisseurs de LLM au format OpenAI avec suivi des coûts, garde-fous et répartition de charge.
Le contexte du projet sur cette page est accessible gratuitement. Le dépôt GitHub d’origine reste la référence ; la connexion n’est nécessaire que pour enregistrer ou rejoindre la discussion.
Notes de la communauté