kronk

オープンソース モデルをローカルで実行するための個人用エンジン。 Go アプリケーションに直接統合された llama.cpp および Whisper.cpp を使用してハードウェア アクセラレーションによるローカル推論を実現するには、Go を使用します。 Kronk は、高レベルの API とモデル サーバーを提供します。

このページのプロジェクト情報と編集内容は無料で読めます。元の GitHub リポジトリが最終的な情報源であり、保存や議論への参加時だけログインが必要です。