ggml-org

ggml-org

llama.cpp

★ 128,325

以純 C/C++ 實作 LLM 推論，可在本機透過 REST API 與 Web 介面執行模型，llama-server 已支援多模態。

ggml-org

whisper.cpp

★ 53,683

whisper.cpp 是 OpenAI Whisper 語音辨識模型的零依賴 C/C++ 移植版，針對 Apple Silicon 最佳化，可在眾多平台上僅以 CPU 推論。

ggml-org

ggml

★ 15,359

Tensor library for machine learning

ggml-org

llama.vim

★ 2,171

Vim plugin for LLM-assisted code/text completion

ggml-org

llama.vscode

★ 1,509

VS Code extension for LLM-assisted code/text completion

ggml-org

Llama-macOS

★ 1,506

A cosy home for your LLMs.