Du modèle au runtime
Aperçu du projet : LiteRT, successeur de TensorFlow Lite. est le framework sur appareil de Google pour le déploiement hautes performances de ML et GenAI sur les plates-formes de périphérie, via une conversion, une exécution et une optimisation efficaces.
En bref
- De quoi s’agit-il ?
- LiteRT poursuit la lignée de TensorFlow Lite en tant que runtime pour l'apprentissage automatique et l'IA générative en périphérie, avec des outils de conversion, d'optimisation et de déploiement multi-plateformes.
- À qui s’adresse-t-il ?
- undefined Ce projet convient si cette contrainte est acceptée; il ne convient pas à un usage qui exige les garanties absentes du README.
- Puis-je l’utiliser commercialement ?
- Oui. Apache-2.0 est une licence permissive : vous pouvez utiliser, modifier et vendre un logiciel qui en dépend, à condition de conserver les mentions de droit d’auteur et de licence.
- Est-il encore maintenu ?
- Oui. Le dépôt a reçu de nouveaux commits au cours des dernières 24 heures.
- En quel langage est-il écrit ?
- Principalement C++, d’après les statistiques de langage de GitHub.
Ces réponses reposent sur les données GitHub du projet (dernière synchronisation le 15 septembre 2026) et sur notre analyse. Elles ne constituent pas un avis juridique.
ANALYSE OPEN SOURCE APPROFONDIE
Le runtime qui succède à TensorFlow Lite
LiteRT est décrit dans le référentiel comme le runtime sur appareil de Google pour le déploiement de ML et GenAI haute performance sur les plateformes périphériques. Le README indique qu'il poursuit l'héritage de TensorFlow Lite, et les métadonnées l'identifient comme le successeur de ce framework. Le projet est écrit en C++, avec la branche par défaut nommée main. Selon les métadonnées du référentiel, il compte 3 252 étoiles et 413 forks, avec 2 426 problèmes ouverts, et n'est pas archivé. Ces chiffres reflètent l'état au moment de la rédaction et ne constituent pas une mesure de performance.
Nouvelles capacités et outils listés dans le README
Le README met en avant plusieurs nouveautés. Pour l'inférence d'IA générative, il pointe vers LiteRT-LM pour déployer des LLM sur l'appareil. Pour l'inférence web, LiteRT.js exécute du ML côté client via WebGPU et WASM. Une bibliothèque C++ centrée sur les tenseurs est disponible via l'API Tensor, et une boîte à outils en ligne de commande appelée LiteRT CLI est conçue pour les flux de travail d'agents de codage. Le README décrit également les fonctionnalités de LiteRT V2, notamment une API de modèle compilé avec sélection automatique d'accélérateur, une accélération NPU unifiée entre les fournisseurs de chipsets, et une accélération GPU via ML Drift avec interopérabilité de tampons. Ce sont des affirmations du README ; le référentiel lui-même ne contient ni benchmarks ni validation.
Conversion de modèles et chemin d'exécution
Le README inclut un diagramme montrant le chemin des modèles PyTorch et TensorFlow jusqu'au déploiement. Il liste le convertisseur LiteRT Torch pour convertir les modèles PyTorch au format .tflite, et une API Torch générative pour les fichiers .litertlm utilisés avec les LLM. Le quantificateur AI-Edge est mentionné comme étape d'optimisation. Le runtime prend ensuite en charge C++, Kotlin, JavaScript et d'autres liaisons, avec une accélération CPU via XNNPack, GPU via ML Drift, et des accélérateurs TPU/NPU pris en charge. Les détails exacts de ces liaisons et du quantificateur ne sont pas spécifiés dans le README ; ce sont des liens vers d'autres ressources.
Plateformes et accélérateurs pris en charge
Un tableau dans le README liste les plateformes : Android, iOS, Linux, macOS, Windows, Web et IoT. Pour chacune, il indique la prise en charge CPU, les API GPU (OpenCL, OpenGL, Metal, WebGPU) et les accélérateurs NPU ou matériels tels que Google Tensor, Intel, MediaTek, Qualcomm et ANE sur les appareils Apple. Le tableau comprend certaines entrées marquées d'astérisques, suggérant une prise en charge partielle ou spécifique au fournisseur. Le README n'explique pas davantage les astérisques, donc le niveau exact de prise en charge reste flou.
Modèles et applications d'exemple
Le README pointe vers une page communautaire Hugging Face pour LiteRT, listant des familles de modèles récemment ajoutées telles que Gemma 4, les modèles ASR et les modèles de classification d'images. Il renvoie également à des applications d'exemple sous litert-samples, notamment une application de reconnaissance vocale automatique et une application de segmentation d'images qui démontre la compilation anticipée et sur l'appareil. Ces éléments sont fournis sous forme de liens externes ; le référentiel lui-même ne contient ni les modèles ni le code d'exemple.
Construction, contribution et licence
Pour construire à partir des sources, le README demande d'utiliser un démon Docker et d'exécuter build_with_docker.sh dans le répertoire docker_build/, avec des instructions supplémentaires dans docker_build/README.md et des documents séparés pour les constructions CMake et Bazel. Le projet est sous licence Apache-2.0, ce qui accorde des autorisations d'utilisation, de reproduction et de distribution, y compris des droits de brevet sous certaines conditions. La licence ne traite pas de garantie, de sécurité ou de support ; ceux-ci ne sont pas couverts par le texte de licence. Les directives de contribution sont référencées via CONTRIBUTING.md, et il existe un code de conduite.
Du modèle au runtime
LiteRT se présente comme le successeur de TensorFlow Lite et relie conversion, quantification et exécution sur appareil. Le README cite LiteRT Torch, l’API Torch générative, le format `.tflite`, les fichiers `.litertlm`, XNNPack, ML Drift et les accélérateurs TPU ou NPU. Cette carte est utile pour choisir une voie d’intégration, mais les astérisques du tableau de plateformes ne sont pas explicités.
Construire avant de comparer
Le chemin documenté commence par `docker_build/build_with_docker.sh`; lisez `docker_build/README.md` avant d’ajouter CMake ou Bazel. Testez ensuite la liaison ciblée sur Android, iOS, Web ou bureau, avec le modèle et l’accélérateur prévus. Comparez la sortie CPU et GPU sur vos données: le README ne publie pas de benchmark et ne permet pas de déduire un gain chiffré.
Conclusion éditoriale
undefined Ce projet convient si cette contrainte est acceptée; il ne convient pas à un usage qui exige les garanties absentes du README.
Notes de la communauté