ardanlabs

ardanlabs

kronk

★ 699

オープンソース モデルをローカルで実行するための個人用エンジン。 Go アプリケーションに直接統合された llama.cpp および Whisper.cpp を使用してハードウェア アクセラレーションによるローカル推論を実現するには、Go を使用します。 Kronk は、高レベルの API とモデル サーバーを提供します。