Rapid-MLX : un moteur d'inférence local pour Mac Apple Silicon, exposé en API compatible OpenAI
The fastest local AI engine for Apple Silicon. 4.2x faster than Ollama, 0.08s cached TTFT, 100% tool calling. 17 tool parsers, prompt cache, reasoning separation, cloud routing. Drop-in OpenAI replacement. Works with Claude Code, Cursor, Aider.
En bref
- De quoi s’agit-il ?
- Rapid-MLX est un moteur d'inférence local en Python qui sert des modèles MLX derrière une API compatible OpenAI ou Anthropic, avec cache de prompt, séparation du raisonnement et 17 parseurs d'appels d'outils. Le projet vise les Mac M-series et les agents de codage qui attendent un endpoint local.
- À qui s’adresse-t-il ?
- Rapid-MLX convient aux développeurs sur Mac M-series qui veulent un endpoint local compatible OpenAI pour un agent de codage, et qui acceptent de rester sur macOS. Ceux qui déploient sur Linux, sur GPU NVIDIA ou qui ont besoin d'une licence clarifiée doivent passer leur chemin.
- Puis-je l’utiliser commercialement ?
- À vérifier. La licence de ce dépôt n’entre pas dans les catégories que nous classons automatiquement : lisez son fichier LICENSE avant tout usage commercial.
- Est-il encore maintenu ?
- Oui. Le dépôt a reçu de nouveaux commits au cours des dernières 24 heures.
- En quel langage est-il écrit ?
- Principalement Python, d’après les statistiques de langage de GitHub.
Ces réponses reposent sur les données GitHub du projet (dernière synchronisation le 15 septembre 2026) et sur notre analyse. Elles ne constituent pas un avis juridique.
ANALYSE OPEN SOURCE APPROFONDIE
Le problème : un endpoint local qui parle la langue des agents
La plupart des agents de codage et des frameworks d'agents supposent un endpoint HTTP au format OpenAI ou Anthropic. Faire tourner un modèle sur son propre Mac oblige donc soit à écrire un adaptateur, soit à se passer de l'agent. Rapid-MLX se présente comme ce adaptateur déjà écrit : le README indique qu'un client acceptant un endpoint compatible OpenAI ou Anthropic peut généralement l'utiliser sans modification. Le projet cible explicitement les Mac Apple Silicon et cite Claude Code, Cursor, Aider, OpenCode, LangChain ou PydanticAI parmi les clients visés. Le public est donc précis : un développeur sur Mac M-series qui veut un backend local pour son agent, pas une équipe qui cherche à servir des centaines d'utilisateurs simultanés.
Ce que fait réellement le moteur entre la requête et la réponse
Le socle est MLX, le framework d'Apple pour l'exécution de modèles sur puce unifiée. Rapid-MLX ajoute par-dessus une couche serveur, décrite dans le README comme basée sur FastAPI, qui expose les routes attendues par les clients OpenAI et Anthropic. Trois mécanismes sont mis en avant. Le cache de prompt d'abord, qui évite de recalculer un préfixe déjà vu : le README annonce 0,08 s de TTFT en cache. La séparation du raisonnement ensuite, utile pour les modèles qui émettent un bloc de réflexion avant la réponse et que les clients ne savent pas toujours filtrer. Les parseurs d'appels d'outils enfin, au nombre de 17 selon la description du dépôt : chaque famille de modèles a son propre format de tool call, et le projet fournit les décodeurs correspondants. Le routage cloud complète l'ensemble, ce qui suggère que le serveur peut renvoyer une requête vers un fournisseur distant plutôt que de la traiter localement, mais le README fourni ne détaille pas cette partie.
Installation : deux chemins, un même binaire
Le README donne deux commandes pour le CLI et le serveur sous macOS Apple Silicon. La première passe par Homebrew, avec une bouteille précompilée : `brew install rapid-mlx`. La seconde utilise un installateur guidé : `curl -fsSL https://rapidmlx.com/install.sh | bash`. Les deux installent le même binaire `rapid-mlx`. Le README précise que l'installateur guidé détecte la RAM et recommande un modèle de départ, en préférant un modèle déjà présent dans le cache local s'il tient dans le palier de mémoire. À défaut, il télécharge `lfm2.5-1b-4bit` sous 16 Go de RAM et `qwen3.5-4b-4bit` à partir de 16 Go. Le premier lancement se fait avec la commande `rap`, abréviation documentée dans le Quick Start. Des méthodes alternatives via `uv` ou `pip` sont mentionnées, avec un renvoi vers la section correspondante du README et vers un fichier SECURITY.md pour ceux qui veulent inspecter l'installateur avant de l'exécuter. Le paquet est publié sur PyPI sous le nom `rapid-mlx` et déclare Python 3.10 ou plus récent.
macOS uniquement, et une licence à vérifier soi-même
La contrainte la plus visible est la plateforme. Le README indique que l'application de bureau exige un Mac M-series et que les versions Windows et Linux ne sont pas disponibles. Le serveur lui-même repose sur MLX, donc sur les puces Apple : ce n'est pas un projet que l'on déploie sur un serveur Linux avec un GPU NVIDIA. Une machine sans mémoire unifiée suffisante se limitera aux petits modèles quantifiés en 4 bits, ce que l'installateur guidé prend en compte mais ne résout pas. Le second point est la licence. L'API GitHub renvoie NOASSERTION, ce qui signifie que l'outil d'analyse n'a pas su classer le fichier LICENSE, alors que le badge du README affiche Apache 2.0. Cette divergence n'est pas anodine pour un usage en entreprise : il faut ouvrir le fichier LICENSE du dépôt et le lire avant toute intégration. Aucune information fournie ici ne permet de trancher, et je ne le ferai pas à votre place.
Ollama comme point de comparaison, et ce qui change vraiment
Le README positionne Rapid-MLX face à Ollama, avec une revendication de débit allant jusqu'à 3 fois celui d'Ollama, mesurée sur un article de blog lié, et la description du dépôt parle de 4,2 fois. Je n'ai pas exécuté ce benchmark et je ne peux pas le reproduire. La différence d'approche, elle, est réelle : Ollama est un runtime multi-plateformes avec son propre format de modèles et sa propre CLI, tandis que Rapid-MLX s'appuie sur MLX et se concentre sur la compatibilité avec les API OpenAI et Anthropic. Concrètement, un client qui attend un endpoint compatible OpenAI se connecte aux deux, mais le travail d'adaptation des tool calls et de la séparation du raisonnement n'est pas traité de la même façon. Si votre besoin principal est de tourner sur Linux ou Windows, Ollama reste le choix évident. Si vous êtes déjà sur Mac et que vos modèles sont au format MLX, l'argument de Rapid-MLX porte sur la couche serveur, pas sur le moteur d'exécution.
Ce que le README ne dit pas
Le matériel fourni s'arrête à la promesse. Aucun détail n'est donné sur la consommation mémoire par modèle, sur le comportement du cache de prompt quand plusieurs conversations partagent un préfixe, ni sur la façon dont le routage cloud décide de basculer une requête vers un fournisseur distant. Les 17 parseurs d'outils sont annoncés mais pas listés, et la matrice de compatibilité est renvoyée vers un site externe. Le rythme de publication est soutenu : trois versions en septembre 2026 selon les releases listées, avec une v0.13.4 le 3 septembre et une v0.13.3 deux jours plus tôt. Ce rythme implique de suivre les mises à jour si vous dépendez d'un parseur précis, car une correction de format peut changer le comportement d'un agent sans que vous ayez touché à votre configuration. Le projet n'est pas archivé, mais rien dans le matériel fourni ne documente une politique de support à long terme ni un engagement de compatibilité entre versions mineures.
Pour qui, et ce qu'il faut vérifier avant de s'engager
Adoptez Rapid-MLX si vous travaillez sur un Mac M-series, que vous voulez un endpoint local pour un agent de codage, et que vous êtes prêt à suivre des versions qui sortent toutes les quelques semaines. N'adoptez pas si votre cible de déploiement est Linux ou Windows, si vous avez besoin d'une licence dont la nature est certaine avant toute intégration, ou si vous cherchez un runtime stable que vous n'aurez pas à mettre à jour pendant six mois. Trois vérifications concrètes avant de vous engager : ouvrir le fichier LICENSE du dépôt pour lever l'ambiguïté entre NOASSERTION et Apache 2.0, lancer `rapid-mlx recipe` pour confirmer qu'un modèle adapté à la RAM de votre machine est disponible et téléchargeable, et tester votre client précis contre l'endpoint local, car la compatibilité annoncée porte sur une matrice hébergée hors du dépôt et non sur une garantie contractuelle.
Conclusion éditoriale
Rapid-MLX convient aux développeurs sur Mac M-series qui veulent un endpoint local compatible OpenAI pour un agent de codage, et qui acceptent de rester sur macOS. Ceux qui déploient sur Linux, sur GPU NVIDIA ou qui ont besoin d'une licence clarifiée doivent passer leur chemin. Avant d'adopter, vérifier le fichier LICENSE du dépôt et lancer `rapid-mlx recipe` pour confirmer qu'un modèle tenant dans la RAM de la machine est disponible.
Notes de la communauté