ggml-org

ggml-org

llama.cpp

★ 128,325

用纯 C/C++ 实现 LLM 推理，可在本地通过 REST API 与 Web 界面运行模型，llama-server 已支持多模态。

ggml-org

whisper.cpp

★ 53,683

whisper.cpp 是 OpenAI Whisper 语音识别模型的零依赖 C/C++ 移植版，针对 Apple Silicon 优化，可在众多平台上仅使用 CPU 推理。

ggml-org

ggml

★ 15,359

Tensor library for machine learning

ggml-org

llama.vim

★ 2,171

Vim plugin for LLM-assisted code/text completion

ggml-org

llama.vscode

★ 1,509

VS Code extension for LLM-assisted code/text completion

ggml-org

Llama-macOS

★ 1,506

A cosy home for your LLMs.