jundot

jundot

omlx

★ 18,081

LLM 推理服务器，具有适用于 Apple Silicon 的连续批处理和 SSD 缓存，可通过 macOS 菜单栏进行管理。