kronk
Ihre persönliche Engine zum lokalen Ausführen von Open-Source-Modellen. Verwenden Sie Go für hardwarebeschleunigte lokale Inferenz mit llama.cpp und whisper.cpp, die direkt in Ihre Go-Anwendungen integriert sind. Kronk bietet eine High-Level-API und einen Modellserver.
Welches Problem es löst
Ihre persönliche Engine zum lokalen Ausführen von Open-Source-Modellen. Verwenden Sie Go für hardwarebeschleunigte lokale Inferenz mit llama.cpp und whisper.cpp, die direkt in Ihre Go-Anwendungen integriert sind. Kronk bietet eine High-Level-API und einen Modellserver.
Der Projektkontext auf dieser Seite ist kostenlos lesbar. Das ursprüngliche GitHub-Repository bleibt maßgeblich; nur zum Speichern oder Diskutieren ist eine Anmeldung nötig.
Community-Notizen