ggml-org
★ 121,303llama.cpp
用纯 C/C++ 实现 LLM 推理,可在本地通过 REST API 与 Web 界面运行模型,llama-server 已支持多模态。
HYSEN LABS 项目目录
来自 ggml-org 组织的可信仓库、分类与深度解析。
用纯 C/C++ 实现 LLM 推理,可在本地通过 REST API 与 Web 界面运行模型,llama-server 已支持多模态。
whisper.cpp 是 OpenAI Whisper 语音识别模型的零依赖 C/C++ 移植版,针对 Apple Silicon 优化,可在众多平台上仅使用 CPU 推理。