ggml-org
★ 121,303llama.cpp
C/C++によるLLM推論エンジン。REST APIとWeb UIでモデルをローカル実行でき、llama-serverではマルチモーダルにも対応。
HYSEN LABS ディレクトリ
ggml-org組織の検証済みリポジトリ、分類、分析。
C/C++によるLLM推論エンジン。REST APIとWeb UIでモデルをローカル実行でき、llama-serverではマルチモーダルにも対応。
whisper.cpp は OpenAI の Whisper 音声認識モデルを依存なしの C/C++ に移植したもの。Apple Silicon に最適化され、多くのプラットフォームで CPU のみの推論が可能。