ggml-org
★ 121,303llama.cpp
以純 C/C++ 實作 LLM 推論,可在本機透過 REST API 與 Web 介面執行模型,llama-server 已支援多模態。
HYSEN LABS 專案目錄
來自 ggml-org 組織的可信儲存庫、分類與深度解析。
以純 C/C++ 實作 LLM 推論,可在本機透過 REST API 與 Web 介面執行模型,llama-server 已支援多模態。
whisper.cpp 是 OpenAI Whisper 語音辨識模型的零依賴 C/C++ 移植版,針對 Apple Silicon 最佳化,可在眾多平台上僅以 CPU 推論。