kronk
Votre moteur personnel pour exécuter des modèles open source localement. Utilisez Go pour l'inférence locale accélérée par le matériel avec llama.cpp et murmure.cpp directement intégrés à vos applications Go. Kronk fournit une API de haut niveau et un serveur de modèles.
Le problème qu’il résout
Votre moteur personnel pour exécuter des modèles open source localement. Utilisez Go pour l'inférence locale accélérée par le matériel avec llama.cpp et murmure.cpp directement intégrés à vos applications Go. Kronk fournit une API de haut niveau et un serveur de modèles.
Le contexte du projet sur cette page est accessible gratuitement. Le dépôt GitHub d’origine reste la référence ; la connexion n’est nécessaire que pour enregistrer ou rejoindre la discussion.
Notes de la communauté