ardanlabs

ardanlabs

kronk

★ 699

用于在本地运行开源模型的个人引擎。使用 Go 进行硬件加速本地推理，并将 llama.cpp 和 tweet.cpp 直接集成到您的 Go 应用程序中。 Kronk 提供高级 API 和模型服务器。