ardanlabs
★ 699kronk
Ihre persönliche Engine zum lokalen Ausführen von Open-Source-Modellen. Verwenden Sie Go für hardwarebeschleunigte lokale Inferenz mit llama.cpp und whisper.cpp, die direkt in Ihre Go-Anwendungen integriert sind. Kronk bietet eine High-Level-API und einen Modellserver.