thushan/olla
olla
High-performance lightweight proxy and load balancer for LLM infrastructure. Intelligent routing, automatic failover and unified model discovery across local and remote inference backends.
301 étoiles44 forksGoApache-2.0
En bref
- De quoi s’agit-il ?
- High-performance lightweight proxy and load balancer for LLM infrastructure. Intelligent routing, automatic failover and unified model discovery across local and remote inference backends.
- Puis-je l’utiliser commercialement ?
- Oui. Apache-2.0 est une licence permissive : vous pouvez utiliser, modifier et vendre un logiciel qui en dépend, à condition de conserver les mentions de droit d’auteur et de licence.
- Est-il encore maintenu ?
- Oui. Les derniers commits datent d’il y a 28 jours.
- En quel langage est-il écrit ?
- Principalement Go, d’après les statistiques de langage de GitHub.
Ces réponses reposent sur les données GitHub du projet (dernière synchronisation le 17 septembre 2026) et sur notre analyse. Elles ne constituent pas un avis juridique.
Fraîcheur des données
Statut éditorial
Une analyse éditoriale complète de ce projet n'est pas encore publiée. Les faits ci-dessus proviennent des métadonnées GitHub publiques. Vérifiez le dépôt, la licence et le suivi des tickets avant de l'adopter en production.
Notes de la communauté