Hysen Labsggml-org
llama.cpp
llama.cpp führt LLM-Inferenz in reinem C/C++ aus und stellt Modelle lokal über eine REST-API und eine Weboberfläche bereit, inklusive multimodaler Unterstützung im llama-server.
121.303 Sterne20.901 ForksC++MIT
01
REDAKTIONELLER ÜBERBLICK
Welches Problem es löst
llama.cpp führt LLM-Inferenz in reinem C/C++ aus und stellt Modelle lokal über eine REST-API und eine Weboberfläche bereit, inklusive multimodaler Unterstützung im llama-server.
Der Projektkontext auf dieser Seite ist kostenlos lesbar. Das ursprüngliche GitHub-Repository bleibt maßgeblich; nur zum Speichern oder Diskutieren ist eine Anmeldung nötig.
02
Community-Notizen