ggml-org
★ 121.303llama.cpp
llama.cpp führt LLM-Inferenz in reinem C/C++ aus und stellt Modelle lokal über eine REST-API und eine Weboberfläche bereit, inklusive multimodaler Unterstützung im llama-server.
HYSEN LABS VERZEICHNIS
Geprüfte Repositories, Klassifikationen und Analysen der Organisation ggml-org.
llama.cpp führt LLM-Inferenz in reinem C/C++ aus und stellt Modelle lokal über eine REST-API und eine Weboberfläche bereit, inklusive multimodaler Unterstützung im llama-server.
whisper.cpp ist eine abhängigkeitsfreie C/C++-Portierung von OpenAIs Whisper-Spracherkennungsmodell, für Apple Silicon optimiert, mit CPU-only-Inferenz auf vielen Plattformen.