L’IA sans cloud : comment les smartphones et les ordinateurs portables exécutent des modèles de langage directement sur l’appareil

L’intelligence artificielle n’a plus besoin d’envoyer chaque requête vers un centre de données distant. En 2026, les smartphones et les ordinateurs portables peuvent traiter directement sur leur propre matériel un nombre croissant de tâches liées au langage, à la parole et aux images. Cela ne signifie pas qu’un téléphone contient le même modèle gigantesque que celui utilisé par un grand service d’IA en ligne. Les fabricants utilisent plutôt des modèles plus compacts, soigneusement optimisés pour respecter les limites de mémoire, de stockage et de consommation énergétique des appareils personnels. Cette évolution est déjà visible avec Apple Intelligence, la famille Gemini Nano de Google, les fonctions d’IA locales de Microsoft sous Windows et différents outils indépendants permettant d’exécuter des modèles ouverts sur des ordinateurs classiques. Le traitement local peut rendre l’IA disponible sans connexion Internet fiable, limiter la quantité de données personnelles envoyées hors de l’appareil et réduire les délais liés aux échanges avec un serveur distant. Les modèles exécutés dans le cloud restent importants pour les raisonnements complexes et les tâches nécessitant de vastes connaissances, mais l’IA locale est désormais devenue une composante concrète de l’informatique quotidienne plutôt qu’une simple démonstration expérimentale.

Pourquoi les modèles de langage peuvent désormais fonctionner sur des appareils grand public

La première évolution importante concerne le matériel intégré aux téléphones et aux ordinateurs portables modernes. Traditionnellement, un ordinateur s’appuie principalement sur son processeur central et son processeur graphique, mais de nombreux appareils récents intègrent également une unité de traitement neuronal, généralement appelée NPU. Il s’agit d’un composant spécialisé conçu pour effectuer les calculs répétitifs nécessaires aux modèles d’apprentissage automatique tout en consommant moins d’énergie qu’un processeur généraliste chargé du même travail. Microsoft, par exemple, définit les Copilot+ PC autour d’un NPU capable d’effectuer au moins 40 000 milliards d’opérations par seconde. Le Snapdragon X Elite de Qualcomm intègre pour sa part un NPU Hexagon pouvant atteindre 45 TOPS, tandis que les puces récentes d’Intel, AMD, Apple, Qualcomm et de différents fabricants de semi-conducteurs mobiles réservent de plus en plus de puissance de calcul spécifiquement à l’IA. Ces chiffres ne suffisent pas à déterminer l’utilité réelle d’un appareil, mais ils illustrent l’évolution profonde de la conception des ordinateurs et des smartphones.

Les modèles eux-mêmes ont autant évolué que le matériel. Les modèles de langage popularisés par les services de conversation en ligne peuvent contenir des dizaines, voire des centaines de milliards de paramètres, c’est-à-dire les valeurs numériques utilisées par le modèle pour traiter le langage. Exécuter un modèle de cette taille sur un téléphone demanderait beaucoup trop de mémoire et d’énergie. Les développeurs créent donc des modèles plus petits et les compressent afin de réduire leurs besoins en ressources. Une technique appelée quantification consiste à stocker les valeurs du modèle avec une précision numérique plus faible, ce qui diminue la quantité de mémoire nécessaire sans forcément rendre le modèle inutilisable. Apple, par exemple, a présenté dans ses travaux de 2025 un modèle embarqué d’environ trois milliards de paramètres et a poursuivi cette approche avec une nouvelle génération de modèles en 2026. Les modèles de cette taille s’intègrent beaucoup plus facilement au matériel grand public tout en restant suffisamment performants pour de nombreuses tâches textuelles et multimodales.

Les logiciels savent également mieux déterminer quel processeur doit prendre en charge une tâche donnée. Une fonction d’IA locale n’a pas besoin d’envoyer tous les calculs vers le NPU. Certaines parties de la charge peuvent être traitées par le CPU, le GPU ou le NPU selon l’appareil et le logiciel utilisé. Les systèmes d’exploitation gèrent de plus en plus cette répartition automatiquement. Ainsi, une personne qui demande la reformulation d’un paragraphe n’a pas besoin de savoir quelle puce exécute chaque calcul. Cette évolution modifie profondément la manière dont l’IA arrive jusqu’aux utilisateurs : le traitement local du langage peut désormais être intégré comme une fonction normale du système d’exploitation ou d’une application, et non plus comme une expérience réservée aux spécialistes. Le modèle est téléchargé ou directement intégré à l’appareil, le traitement nécessaire est effectué localement et seules les tâches nécessitant réellement davantage de puissance ou des informations externes récentes doivent être envoyées vers un service distant.

Ce qui se passe réellement lorsqu’une requête reste sur l’appareil

Lorsqu’un modèle de langage fonctionne localement, le processus reste relativement simple du point de vue de l’utilisateur. Les fichiers du modèle sont stockés sur le téléphone ou l’ordinateur, l’utilisateur fournit un texte ou une autre entrée compatible, puis l’appareil calcule la réponse sans envoyer la requête vers un serveur d’IA distant. Le modèle analyse l’entrée par petits éléments, estime ce qui doit suivre et génère progressivement la réponse. Le matériel moderne est suffisamment rapide pour effectuer ces calculs lors de nombreuses tâches courtes du quotidien. Une connexion Internet permanente n’est pas nécessaire une fois que le modèle et les composants logiciels requis sont installés. C’est ce qui permet, par exemple, à un assistant local de résumer un document, reformuler une phrase ou classer des informations lorsqu’un ordinateur portable est utilisé dans un avion ou qu’un smartphone capte mal le réseau mobile.

Les modèles locaux sont particulièrement adaptés aux tâches pour lesquelles l’information de départ se trouve déjà sur l’appareil et où la réponse attendue reste relativement courte. Il peut s’agir de corriger un message, d’en modifier le ton, d’extraire des noms ou des dates d’une note, de produire un résumé, de classer du texte, de décrire une image ou de convertir la parole en texte. Google permet notamment d’utiliser Gemini Nano via le service AICore d’Android et les interfaces ML Kit pour des fonctions telles que le résumé, la correction, la reformulation, la description d’images ou la reconnaissance vocale. Les modèles embarqués d’Apple sont également destinés à des tâches comme la compréhension de texte, le résumé, l’extraction d’informations et la reformulation. Ces usages ne nécessitent pas que le modèle connaisse tout ce qui s’est passé sur Internet : il doit principalement comprendre correctement le contenu déjà fourni par l’utilisateur.

Le traitement local ne doit toutefois pas être confondu avec une IA totalement indépendante. Certaines fonctions s’exécutent entièrement sur l’appareil, tandis que d’autres adoptent une approche hybride. Un téléphone peut, par exemple, traiter localement des informations privées, puis solliciter un serveur plus puissant uniquement lorsque la requête exige un raisonnement complexe ou des informations absentes de l’appareil. Apple utilise ainsi à la fois des modèles embarqués et des modèles plus puissants exécutés via Private Cloud Compute. Les développeurs Android peuvent eux aussi combiner Gemini Nano avec des modèles en ligne lorsque cela est pertinent. Cette distinction est importante, car une fonction présentée comme reposant sur l’IA n’est pas automatiquement disponible hors ligne simplement parce que le téléphone dispose d’un NPU. Son fonctionnement dépend de l’application, de la tâche demandée et de ses réglages. Les utilisateurs attachés à la confidentialité ou à l’utilisation hors connexion doivent donc vérifier précisément le comportement de chaque fonction au lieu de supposer que toutes les fonctionnalités d’IA fonctionnent de la même manière.

Où l’IA embarquée est déjà utilisée en 2026

Apple fournit l’un des exemples les plus clairs de l’intégration des modèles de langage directement dans les appareils. Sa génération de 2025 comprenait un modèle d’environ trois milliards de paramètres conçu pour les puces Apple, tandis que le framework Foundation Models permettait aux développeurs d’exploiter ce modèle pour certaines fonctions prises en charge dans leurs propres applications. En juin 2026, Apple a présenté sa troisième génération de modèles fondamentaux. Cette famille comprend AFM 3 Core, décrit comme la nouvelle génération de son modèle dense de trois milliards de paramètres, ainsi qu’AFM 3 Core Advanced, un modèle embarqué plus performant doté de capacités multimodales natives. Pour l’utilisateur, le nom du modèle importe moins que l’évolution générale : certaines tâches qui nécessitaient auparavant une requête en ligne peuvent désormais être effectuées par un logiciel fonctionnant directement sur le téléphone, la tablette ou l’ordinateur. Des modèles plus puissants restent toutefois disponibles sur serveur, car le matériel local ne peut pas traiter efficacement toutes les demandes.

Android suit une approche comparable avec Gemini Nano et AICore. AICore est un service système d’Android chargé de gérer le modèle et de donner aux applications compatibles un accès à l’inférence locale, sans que chaque développeur soit obligé de construire seul l’ensemble du système d’IA. En juillet 2026, Google indiquait que Gemini Nano fonctionnait sur plus de 140 millions d’appareils. L’entreprise testait également Gemini Nano 4, basé sur des technologies développées pour la génération Gemma 4 et visant notamment une meilleure efficacité énergétique ainsi que de meilleures performances. Pour les utilisateurs, cela signifie que l’IA embarquée dépend de moins en moins d’une seule fonction phare. Les développeurs peuvent exploiter les outils ML Kit de Google pour intégrer la reformulation, la correction, le résumé et d’autres tâches directement dans différentes applications, sans limiter l’IA locale à un assistant conversationnel séparé.

Les ordinateurs portables Windows représentent une autre partie importante de cette évolution. Les Copilot+ PC ont été introduits avec l’exigence d’un NPU délivrant au minimum 40 TOPS, ce qui a établi une référence matérielle relativement claire pour les fonctions d’IA locales les plus exigeantes sous Windows. Microsoft utilise cette capacité pour des fonctions telles que le traitement du langage en temps réel et d’autres usages assistés par l’IA. Son petit modèle de langage Phi Silica est conçu pour des tâches génératives locales telles que la création de texte, le résumé et la reformulation. Une évolution importante en 2026 a été l’élargissement de Phi Silica à certains ordinateurs qui ne répondent pas aux exigences NPU des Copilot+ PC. Sur ces machines, le modèle peut utiliser le GPU. Cette évolution illustre une tendance plus générale : le matériel spécialisé pour l’IA reste utile pour améliorer l’efficacité et l’autonomie, mais les modèles de langage locaux ne sont plus réservés exclusivement à une petite catégorie d’ordinateurs haut de gamme.

Ce que les utilisateurs peuvent réellement faire sans accès au cloud

L’aide à la rédaction fait partie des usages locaux les plus pratiques, car elle ne nécessite généralement pas un modèle gigantesque. Un appareil peut prendre un paragraphe déjà écrit par l’utilisateur, le raccourcir, corriger sa grammaire, modifier son ton ou en extraire les informations essentielles. Des notes peuvent être condensées en un résumé, des messages corrigés avant leur envoi et de longs textes stockés localement peuvent être classés. Ces tâches correspondent bien aux capacités des modèles de langage compacts puisque les informations nécessaires sont directement incluses dans la demande. Un modèle local n’a pas besoin d’une immense base de connaissances constamment actualisée pour identifier les points principaux d’une note de réunion. Il lui faut avant tout une bonne compréhension du langage, un contexte suffisamment large pour traiter le document et assez de puissance de calcul pour produire une réponse utile dans un délai raisonnable.

La parole et les images font de plus en plus partie du même ensemble de fonctions locales. Les modèles compacts modernes deviennent multimodaux, ce qui signifie qu’ils peuvent traiter autre chose que du texte. Google mentionne déjà la description d’images et la reconnaissance vocale parmi les usages de Gemini Nano sur l’appareil, tandis que le modèle AFM 3 Core Advanced d’Apple, présenté en 2026, intègre des capacités multimodales natives. Cela permet d’envisager des fonctions telles que la dictée locale, l’aide à l’accessibilité, l’organisation de photos ou l’extraction d’informations à partir d’images. Le traitement sur l’appareil peut être particulièrement utile lorsque les contenus concernés sont personnels. La disponibilité de ces fonctions varie néanmoins selon le matériel, la version du système d’exploitation, la langue et la région. Une fonction présentée sur un smartphone récent haut de gamme ne doit donc pas être considérée comme automatiquement disponible de manière identique sur tous les téléphones Android ou sur des ordinateurs plus anciens.

Les utilisateurs peuvent également exécuter des modèles indépendamment des systèmes d’IA proposés par les fabricants. Des logiciels reposant sur des projets comme llama.cpp permettent d’exécuter localement des modèles ouverts compatibles sous Windows, macOS, Linux et même sur certains appareils mobiles. En 2026, le projet llama.cpp continue de prendre en charge de nombreuses familles de modèles ainsi que différentes méthodes d’accélération matérielle, tout en proposant des outils permettant de télécharger et d’exécuter directement des modèles compacts sur un ordinateur. Les utilisateurs plus expérimentés peuvent ainsi conserver un assistant de rédaction, un outil d’aide au développement ou un système d’analyse documentaire entièrement sur leur propre machine. L’expérience varie considérablement selon la taille du modèle et les caractéristiques du matériel. Un ordinateur portable moderne disposant de beaucoup de mémoire peut exécuter des modèles qu’un smartphone ne pourrait pas gérer, tandis que de très petits modèles peuvent fonctionner sur des appareils nettement plus modestes. L’IA locale couvre donc un large éventail de performances plutôt qu’un niveau unique et standardisé.

Avantages, limites et perspectives de l’IA locale

La confidentialité constitue l’une des principales raisons d’effectuer des tâches d’IA directement sur l’appareil. Si une requête, un document ou une photographie n’a pas besoin de quitter le téléphone ou l’ordinateur pour être traité, il n’est pas nécessaire de transmettre ce contenu à un serveur distant simplement pour obtenir un résultat. Cette approche peut être utile pour les notes privées, les documents non publiés, les photos personnelles et les informations professionnelles. L’inférence locale réduit également la dépendance à la disponibilité des serveurs d’un fournisseur. Il faut néanmoins distinguer le traitement du modèle du comportement général de l’application qui l’utilise. Une application peut toujours synchroniser des fichiers, collecter des données de diagnostic ou envoyer des informations à un autre service même si son modèle d’IA fonctionne localement. Le traitement sur l’appareil offre donc la possibilité technique de renforcer la confidentialité, mais les utilisateurs et les entreprises doivent toujours vérifier les pratiques de gestion des données et les réglages de l’application.

Le fonctionnement hors ligne et la maîtrise plus prévisible des coûts constituent d’autres avantages. Une fois le modèle nécessaire installé, générer un nouveau résumé local ne crée pas une nouvelle requête d’inférence sur un serveur distant. Cela peut être particulièrement intéressant pour les applications qui effectuent fréquemment de petites tâches, et Google cite précisément l’absence de coût supplémentaire lié à l’inférence cloud parmi les raisons d’utiliser des modèles embarqués. Le traitement local peut également réduire le temps de réponse, car la requête n’a pas besoin de parcourir Internet ni d’attendre la disponibilité d’un serveur. En contrepartie, le téléphone ou l’ordinateur fournit lui-même la puissance de calcul. Les modèles plus grands utilisent davantage de mémoire et d’espace de stockage, les traitements prolongés peuvent augmenter la consommation de batterie et certains appareils peuvent chauffer lorsqu’ils sont fortement sollicités. Les fichiers de modèles peuvent également occuper une quantité importante d’espace. L’IA locale n’est donc pas exempte de coûts en ressources : ceux-ci sont simplement déplacés du centre de données vers le matériel de l’utilisateur.

La précision reste la principale limite. Un modèle de langage local peut toujours générer des informations incorrectes, mal comprendre une instruction ou produire avec assurance une réponse de mauvaise qualité. Les modèles plus petits disposent généralement de moins de capacités que les plus grands systèmes exécutés sur serveur, notamment pour les raisonnements difficiles, les documents très longs et complexes ou les questions nécessitant des connaissances vastes et très récentes. Apple décrit explicitement ses modèles compacts embarqués comme étant conçus pour des tâches adaptées aux capacités d’un appareil, et non comme des remplaçants des modèles exécutés sur serveur pour les raisonnements avancés ou les connaissances générales étendues. Cela explique pourquoi les systèmes hybrides devraient rester courants. Un appareil peut traiter localement les tâches habituelles, privées et sensibles au temps de réponse, puis utiliser un modèle distant plus performant lorsque la demande dépasse ses capacités locales. Les deux approches sont donc complémentaires plutôt que directement concurrentes.

Comment déterminer si l’IA locale compte vraiment lors de l’achat d’un appareil

Une personne qui achète un smartphone ou un ordinateur portable pour profiter de l’IA locale ne devrait pas se concentrer sur un seul chiffre de performance. La puissance du NPU compte, mais la quantité de mémoire, sa vitesse, le stockage, la compatibilité logicielle et l’efficacité des modèles disponibles sur le matériel sont tout aussi importantes. L’exigence de 40 TOPS de Microsoft constitue une référence utile pour les Copilot+ PC, mais deux ordinateurs affichant des performances NPU similaires peuvent se comporter différemment en raison de leurs processeurs, systèmes de refroidissement, mémoires et logiciels. Il en va de même pour les smartphones. Un processeur mobile puissant ne garantit pas l’accès à toutes les fonctions de Gemini Nano si le fabricant, la version du système d’exploitation ou l’application ne les prend pas en charge. Les informations de compatibilité publiées par le fabricant de l’appareil et le développeur du logiciel sont donc plus utiles qu’un simple chiffre élevé présenté comme mesure des performances d’IA.

Le type d’utilisation prévu est tout aussi important. Une personne qui souhaite principalement bénéficier de la correction hors ligne, de la transcription, de la reformulation de messages et du résumé de documents peut tirer un avantage considérable d’un modèle embarqué récent. Un chercheur qui attend de son ordinateur portable qu’il réponde à des questions complexes à partir d’informations mondiales constamment mises à jour aura toujours besoin de ressources en ligne. La prise en charge des langues doit également être vérifiée, car les modèles locaux peuvent proposer moins de langues ou de fonctions que leurs équivalents exécutés sur serveur. Les besoins en stockage méritent aussi d’être pris en compte sur les appareils disposant d’un espace limité. Enfin, les utilisateurs soucieux de confidentialité doivent vérifier qu’une fonction peut réellement fonctionner hors ligne et qu’elle ne se contente pas d’effectuer une partie du traitement localement avant de contacter un serveur. Un test pratique peut être révélateur : couper la connexion Internet de l’appareil et observer quelles fonctions continuent de fonctionner.

En 2026, le changement essentiel n’est pas que l’IA dans le cloud soit devenue inutile. Il réside dans le fait que les appareils personnels sont désormais capables d’effectuer eux-mêmes une part significative des tâches liées à l’intelligence artificielle. Apple développe plusieurs modèles spécifiquement destinés à un usage sur l’appareil, Google étend Gemini Nano à un parc Android très important, Microsoft rend la génération locale de langage accessible à davantage d’ordinateurs Windows, tandis que les outils d’inférence open source offrent des possibilités supplémentaires. L’optimisation du matériel et des modèles continuera à rendre l’IA compacte plus performante, mais les limites physiques liées à la mémoire, à la batterie et à la puissance de calcul ne disparaîtront pas. Les systèmes les plus utiles devraient donc continuer à privilégier le téléphone ou l’ordinateur pour les tâches qui s’y prêtent, puis recourir à des ressources distantes uniquement lorsqu’elles apportent quelque chose que le modèle local ne peut pas fournir. Pour les utilisateurs, cela signifie davantage de fonctions hors ligne, un meilleur contrôle sur les données sensibles et un choix plus clair quant à l’endroit où les traitements d’IA sont réellement effectués.