Google sort un minuscule modèle d’IA capable de tourner sur un smartphone
Image : Sundar pichai PDG de Google
Google a récemment présenté Gemma 3 270M, un petit modèle d'IA open source qui peut tourner sans problème sur des appareils comme les téléphones et les ordinateurs portables, même s'ils n'ont pas beaucoup de puissance. Ce modèle de 270 millions de paramètres se distingue par sa capacité à suivre des instructions avec précision, et il n'utilise pas beaucoup d'énergie. C'est donc une solution parfaite pour des tâches précises directement sur votre appareil.
Caractéristiques
- Architecture optimisée : Gemma 3 270M comprend 170 millions de paramètres dédiés à un vocabulaire étendu de 256 000 tokens, permettant une compréhension fine des instructions, même avec des termes rares ou techniques.
- Efficacité énergétique exceptionnelle : des tests internes ont montré qu'une version quantifiée en INT4 du modèle consomme seulement 0,75 % de la batterie d'un Pixel 9 Pro pour 25 conversations, en faisant le modèle Gemma le plus économe en énergie à ce jour.
- Suivi précis des instructions : le modèle est capable de suivre des instructions structurées dès sa sortie de boîte, ce qui le rend adapté à des tâches ciblées telles que la classification de texte, l'extraction d'entités, le routage de requêtes, la génération de texte structuré et les vérifications de conformité.
- Quantification prête pour la production : des points de contrôle entraînés avec sensibilisation à la quantification (QAT) sont disponibles, permettant une exécution du modèle en précision INT4 avec une dégradation minimale des performances, essentielle pour le déploiement sur des appareils aux ressources limitées.
Pour aller plus loin sur le sujet, voici une sélection d’articles et de sources à consulter :
Image de https://siecledigital.fr/wp-content/uploads/2023/11/sundar-pichai-1.jpg
https://idealogeek.fr/decouvrez-la-nouvelle-ia-de-google-gemme-3-270m/#google_vignette