AI senza cloud: come smartphone e laptop eseguono modelli linguistici direttamente sul dispositivo

L’intelligenza artificiale non deve più inviare ogni richiesta a un data center remoto. Nel 2026, smartphone e laptop sono in grado di gestire direttamente sul proprio hardware un numero crescente di attività legate al linguaggio, alla voce e alle immagini. Questo non significa che uno smartphone contenga lo stesso enorme modello utilizzato da un importante servizio AI online. I produttori di dispositivi impiegano invece modelli più piccoli e attentamente ottimizzati, progettati per funzionare entro i limiti di memoria, spazio di archiviazione e consumo energetico dell’elettronica personale. Il cambiamento è già evidente in Apple Intelligence, nella famiglia Gemini Nano di Google, nelle funzionalità AI locali di Microsoft Windows e negli strumenti indipendenti che consentono di eseguire modelli aperti su normali computer. L’elaborazione locale può rendere l’AI disponibile anche senza una connessione Internet affidabile, ridurre la quantità di informazioni personali che devono lasciare il dispositivo ed eliminare il ritardo dovuto alla comunicazione con un server remoto. I modelli cloud restano importanti per attività di ragionamento complesse e richieste che richiedono grandi quantità di conoscenze, ma l’AI locale è ormai diventata una componente concreta dell’informatica quotidiana e non più soltanto una dimostrazione sperimentale.

Perché i modelli linguistici possono ora funzionare sui dispositivi di uso quotidiano

Il primo cambiamento importante riguarda l’hardware presente nei moderni smartphone e laptop. Tradizionalmente, un computer si affidava soprattutto al processore centrale e al processore grafico, ma molti dispositivi più recenti includono anche una neural processing unit, generalmente abbreviata in NPU. Si tratta di una parte specializzata del chip progettata per eseguire i calcoli ripetitivi utilizzati dai modelli di machine learning consumando meno energia rispetto a un processore generico impiegato per lo stesso compito. Microsoft, ad esempio, definisce i Copilot+ PC in base alla presenza di una NPU capace di almeno 40 mila miliardi di operazioni al secondo. Snapdragon X Elite di Qualcomm include una NPU Hexagon con prestazioni fino a 45 TOPS, mentre i chip più recenti di Intel, AMD, Apple, Qualcomm e dei produttori di semiconduttori per dispositivi mobili riservano una parte sempre più significativa della potenza di calcolo specificamente all’AI. I valori numerici, da soli, non determinano l’effettiva utilità di un dispositivo, ma mostrano quanto sia cambiata la progettazione dei computer.

Anche i modelli sono cambiati quanto l’hardware. I modelli linguistici diventati noti attraverso i servizi di chat online possono contenere decine o centinaia di miliardi di parametri, cioè i valori numerici utilizzati dal modello durante l’elaborazione del linguaggio. Eseguire un modello di queste dimensioni su uno smartphone richiederebbe troppa memoria e troppa energia. Gli sviluppatori realizzano quindi modelli più piccoli e li comprimono affinché richiedano meno risorse. Una tecnica chiamata quantizzazione memorizza i valori del modello con una precisione numerica inferiore, riducendo la quantità di memoria necessaria senza rendere necessariamente inutilizzabile il modello. Apple, ad esempio, ha descritto nella propria ricerca del 2025 un modello on-device da circa tre miliardi di parametri e ha proseguito su questa strada con una nuova generazione di modelli per dispositivi nel 2026. Modelli di queste dimensioni possono essere integrati molto più facilmente nell’hardware destinato ai consumatori, pur continuando a gestire attività utili basate su testo e contenuti multimodali.

Anche il software è diventato più efficiente nel decidere quale processore debba occuparsi di una determinata attività. Una funzione AI locale non deve necessariamente affidare ogni calcolo alla NPU. Alcune parti del lavoro possono essere elaborate dalla CPU, dalla GPU o dalla NPU in base al dispositivo e al software utilizzato. I sistemi operativi gestiscono sempre più spesso questa distribuzione automaticamente, quindi chi chiede di riscrivere un paragrafo non ha bisogno di sapere quale chip stia eseguendo ciascun calcolo. Il risultato è un cambiamento importante nel modo in cui l’AI arriva agli utenti comuni: l’elaborazione linguistica locale può essere fornita come una normale funzione del sistema operativo o di un’applicazione, anziché come un esperimento specialistico. Il modello viene scaricato o integrato nel dispositivo, l’elaborazione necessaria avviene localmente e soltanto le attività che richiedono realmente maggiore potenza di calcolo o informazioni esterne aggiornate devono essere trasferite altrove.

Cosa accade realmente quando una richiesta resta sul dispositivo

Quando un modello linguistico funziona localmente, il processo di base è semplice dal punto di vista dell’utente. I file del modello sono memorizzati sullo smartphone o sul computer, l’utente fornisce un testo o un altro tipo di input supportato e il dispositivo calcola la risposta senza inviare la richiesta a un server AI remoto. Il modello legge l’input suddividendolo in piccole unità, valuta ciò che dovrebbe seguire e genera progressivamente la risposta. L’hardware moderno esegue questi calcoli abbastanza rapidamente per numerose attività quotidiane di breve durata. Una volta presenti il modello e i componenti software necessari, non è richiesta una connessione Internet permanente. Per questo motivo, un assistente locale può potenzialmente riassumere un documento, riformulare una frase o classificare informazioni anche quando un laptop viene utilizzato durante un volo o uno smartphone dispone di una connessione mobile debole.

I modelli locali sono particolarmente adatti alle attività in cui le informazioni da elaborare sono già presenti sul dispositivo e la risposta richiesta è relativamente breve. Tra gli esempi rientrano la correzione di un messaggio, la modifica del tono, l’estrazione di nomi o date da una nota, la creazione di un riassunto, la classificazione del testo, la descrizione di un’immagine o la conversione della voce in testo. Google mette a disposizione Gemini Nano tramite il servizio AICore di Android e le interfacce ML Kit per attività che comprendono riassunti, correzione, riscrittura, descrizione delle immagini e riconoscimento vocale. I modelli integrati nei dispositivi Apple sono analogamente orientati ad attività come comprensione del testo, riassunto, estrazione e miglioramento dei contenuti. Queste operazioni non richiedono che il modello conosca tutto ciò che è accaduto su Internet: nella maggior parte dei casi deve soprattutto comprendere il materiale già fornito dall’utente.

L’elaborazione locale non deve essere confusa con un’AI completamente indipendente. Alcune funzioni operano interamente sul dispositivo, mentre altre utilizzano un sistema ibrido. Uno smartphone può elaborare informazioni private localmente e poi collegarsi a un server più potente soltanto quando una richiesta richiede capacità di ragionamento più estese o informazioni che non sono disponibili sul dispositivo. Apple, ad esempio, utilizza sia modelli locali sia modelli più grandi che operano tramite Private Cloud Compute. Anche gli sviluppatori Android possono combinare Gemini Nano con modelli online quando necessario. Questa distinzione è importante perché una funzione indicata come AI non è automaticamente offline soltanto perché lo smartphone contiene una NPU. Il comportamento reale dipende dall’applicazione, dall’attività e dalle impostazioni. Chi è particolarmente attento alla privacy o all’accesso offline dovrebbe quindi verificare il funzionamento di una specifica funzione, invece di presumere che tutti gli strumenti AI operino nello stesso modo.

Dove viene già utilizzata l’AI on-device nel 2026

Apple offre uno degli esempi più chiari di come i modelli linguistici stiano diventando parte integrante del dispositivo stesso. La generazione del 2025 comprendeva un modello da circa tre miliardi di parametri progettato per Apple silicon, mentre il framework Foundation Models permetteva agli sviluppatori di utilizzare quel modello per funzioni supportate all’interno delle proprie applicazioni. Nel giugno 2026 Apple ha presentato la terza generazione dei propri foundation model. La famiglia comprende AFM 3 Core, descritto come la nuova generazione del modello dense da tre miliardi di parametri, e AFM 3 Core Advanced, un modello on-device più avanzato dotato di capacità multimodali native. Per gli utenti comuni, il punto importante non è il nome del modello, ma la direzione dello sviluppo: attività che in passato richiedevano una richiesta online possono essere gestite sempre più spesso dal software già presente sullo smartphone, sul tablet o sul computer. I modelli server più grandi continuano comunque a essere utilizzati perché l’hardware locale non è in grado di gestire efficientemente ogni tipo di richiesta.

Android ha seguito un percorso simile attraverso Gemini Nano e AICore. AICore è un servizio di sistema Android che gestisce il modello e permette alle applicazioni compatibili di accedere all’inferenza locale senza costringere ogni sviluppatore a realizzare autonomamente un intero sistema AI. Entro luglio 2026, Google dichiarava che Gemini Nano era in esecuzione su oltre 140 milioni di dispositivi. L’azienda stava inoltre testando Gemini Nano 4, basato sulla tecnologia sviluppata per la generazione Gemma 4, con particolare attenzione al miglioramento dell’efficienza energetica e delle prestazioni. Per gli utenti, questo significa che l’AI on-device dipende sempre meno da una singola funzione di fascia alta. Gli sviluppatori possono utilizzare gli strumenti ML Kit di Google per funzioni come riscrittura, correzione, riassunto e altre attività basate sui prompt, consentendo all’AI locale di essere integrata in numerose applicazioni invece di rimanere limitata a un chatbot dedicato.

Anche i laptop Windows rappresentano una parte importante di questo cambiamento. I Copilot+ PC sono stati introdotti con il requisito di una NPU capace di almeno 40 TOPS, creando così per Windows un livello hardware relativamente chiaro per le funzionalità AI locali più impegnative. Microsoft ha utilizzato questa capacità per funzioni quali l’elaborazione linguistica in tempo reale e altre esperienze assistite dall’intelligenza artificiale. Il suo piccolo modello linguistico Phi Silica è progettato per attività generative locali, tra cui creazione di testi, riassunti e riscrittura. Uno sviluppo importante del 2026 è stata l’estensione di Phi Silica ad alcuni computer che non soddisfano i requisiti NPU dei Copilot+ PC. Su questi dispositivi, il modello può utilizzare la GPU. Questo sviluppo dimostra una tendenza più ampia: l’hardware AI specializzato resta utile per migliorare efficienza e autonomia, ma i modelli linguistici locali non sono più limitati esclusivamente a una piccola categoria di computer di fascia alta.

Cosa possono realmente fare gli utenti senza accesso al cloud

L’assistenza alla scrittura è uno degli utilizzi locali più pratici perché in genere non richiede un modello enorme. Un dispositivo può prendere un paragrafo già scritto dall’utente e abbreviarlo, correggere la grammatica, modificarne il tono o estrarre i dettagli principali. Le note possono essere trasformate in brevi riassunti, i messaggi possono essere corretti prima dell’invio e testi lunghi memorizzati localmente possono essere classificati. Queste attività si adattano bene ai modelli linguistici compatti perché le informazioni necessarie sono incluse direttamente nella richiesta. Un modello locale non ha bisogno di una conoscenza enorme e costantemente aggiornata del mondo per identificare i punti principali di una nota di riunione. Ha invece bisogno di una buona comprensione linguistica, di un contesto sufficiente per il documento e di una capacità di elaborazione adeguata per produrre una risposta utile in tempi ragionevoli.

Voce e immagini stanno diventando sempre più importanti anche nell’AI locale. I moderni modelli compatti sono sempre più multimodali, vale a dire capaci di elaborare contenuti diversi dal semplice testo. Google include già la descrizione locale delle immagini e il riconoscimento vocale tra gli utilizzi di Gemini Nano, mentre AFM 3 Core Advanced di Apple, presentato nel 2026, è stato progettato con capacità multimodali native. Questo apre la strada a funzioni come dettatura locale, strumenti di accessibilità, organizzazione delle fotografie ed estrazione di informazioni dalle immagini. Mantenere questa elaborazione sul dispositivo può essere particolarmente utile quando il materiale di origine è personale. Tuttavia, la disponibilità varia in base all’hardware, alla versione del sistema operativo, alla lingua e alla regione. Una funzione mostrata su un recente smartphone di fascia alta non può automaticamente essere considerata disponibile nello stesso modo su qualsiasi dispositivo Android o su un laptop più vecchio.

Gli utenti possono inoltre eseguire modelli indipendentemente dai sistemi AI forniti dai produttori dei dispositivi. Software basati su progetti come llama.cpp possono eseguire modelli aperti compatibili localmente su Windows, macOS, Linux e perfino su hardware mobile. Nel 2026 il progetto llama.cpp continua a supportare numerose famiglie di modelli e diversi metodi di accelerazione hardware, oltre a offrire strumenti per scaricare ed eseguire modelli compatti direttamente su un computer. Gli utenti più esperti possono così mantenere sul proprio dispositivo un assistente privato per la scrittura, uno strumento di supporto alla programmazione o un modello per l’elaborazione di documenti. L’esperienza pratica varia notevolmente in base alle dimensioni del modello e all’hardware utilizzato. Un laptop moderno dotato di molta memoria può eseguire modelli che sarebbero poco realistici su uno smartphone, mentre modelli molto piccoli possono funzionare anche su dispositivi decisamente meno potenti. L’AI locale comprende quindi un’ampia gamma di capacità e non un unico livello standard di prestazioni.

Vantaggi, limiti e cosa aspettarsi dall’AI locale

La privacy è una delle ragioni principali per elaborare le attività AI localmente. Se un prompt, un documento o una fotografia non deve lasciare il dispositivo durante l’inferenza, non è necessario trasmettere quel materiale a un server AI soltanto per ottenere il risultato. Questo può essere utile per note private, documenti non pubblicati, fotografie personali e informazioni aziendali. L’inferenza locale riduce inoltre la dipendenza dalla disponibilità dei server di un determinato fornitore. È comunque importante distinguere l’elaborazione locale del modello dal comportamento dell’applicazione che lo utilizza. Un’app può continuare a sincronizzare file, raccogliere dati diagnostici o inviare informazioni attraverso un altro servizio anche quando il suo modello AI opera localmente. L’elaborazione on-device crea quindi la possibilità tecnica di una maggiore privacy, ma utenti e organizzazioni devono comunque verificare le pratiche relative ai dati e le impostazioni dell’applicazione.

La disponibilità offline e la maggiore prevedibilità dei costi rappresentano altri vantaggi. Una volta installato il modello necessario, produrre un nuovo riassunto localmente non genera una nuova richiesta di inferenza remota. Questo può essere interessante per applicazioni che eseguono frequentemente piccole attività, e Google indica specificamente l’assenza di costi aggiuntivi legati all’inferenza cloud tra i motivi per utilizzare modelli on-device. L’elaborazione locale può anche ridurre i tempi di risposta perché la richiesta non deve attraversare Internet e attendere un server remoto. Lo svantaggio è che lo smartphone o il laptop devono fornire direttamente la potenza di calcolo. I modelli più grandi utilizzano memoria e spazio di archiviazione, l’elaborazione prolungata può aumentare il consumo della batteria e alcuni dispositivi possono riscaldarsi durante le attività più impegnative. I file dei modelli possono inoltre occupare molto spazio, quindi l’AI locale non è realmente priva di costi in termini di risorse: questi costi si spostano semplicemente dal data center remoto all’hardware dell’utente.

L’accuratezza rimane il limite più importante. Anche un modello linguistico locale può generare informazioni errate, interpretare male le istruzioni o produrre con sicurezza una risposta di scarsa qualità. I modelli più piccoli dispongono generalmente di capacità inferiori rispetto ai più grandi sistemi server, soprattutto nel ragionamento complesso, nell’analisi di documenti molto lunghi e nelle domande che richiedono conoscenze ampie o molto recenti. Apple descrive esplicitamente i propri modelli compatti come strumenti progettati per attività adatte ai dispositivi, non come sostituti dei modelli server utilizzati per ragionamenti avanzati o per una conoscenza del mondo particolarmente ampia. Questo spiega perché i sistemi AI ibridi continueranno probabilmente a essere comuni. Un dispositivo può gestire localmente attività quotidiane, private o sensibili al tempo di risposta e affidarsi poi a un modello remoto più potente quando la richiesta supera i limiti dell’hardware locale. I due approcci sono quindi complementari, non sostitutivi.

Come capire se l’AI locale conta davvero quando si acquista un dispositivo

Chi acquista uno smartphone o un laptop pensando all’AI locale dovrebbe guardare oltre un singolo valore di prestazioni. La capacità della NPU è importante, ma contano anche quantità di memoria, velocità della memoria, spazio di archiviazione, supporto software ed efficienza dei modelli sviluppati per quello specifico hardware. Il requisito Microsoft di 40 TOPS offre un riferimento utile per i Copilot+ PC, ma due computer con valori NPU simili possono comunque comportarsi in modo diverso perché processore, sistema di raffreddamento, memoria e software non sono identici. Lo stesso vale per gli smartphone. Un potente processore mobile non garantisce l’accesso a tutte le funzionalità di Gemini Nano se il produttore, la versione del sistema operativo o l’applicazione non le supportano. Le informazioni sulla compatibilità fornite dal produttore del dispositivo e dallo sviluppatore del software sono quindi più utili che presumere che un valore elevato relativo alle prestazioni AI renda automaticamente disponibili tutte le funzioni locali.

Anche il tipo di attività prevista è importante. Chi desidera principalmente correzione offline, trascrizione, riscrittura dei messaggi e riassunti di documenti può ottenere vantaggi significativi da un moderno modello on-device. Un ricercatore che si aspetta che un laptop risponda a domande complesse basandosi su informazioni mondiali costantemente aggiornate continuerà invece ad avere bisogno di risorse online. Anche il supporto linguistico deve essere verificato, perché i modelli locali possono offrire meno lingue o funzionalità rispetto alle versioni server. Lo spazio di archiviazione è un altro fattore da considerare sui dispositivi con capacità limitata, mentre chi attribuisce particolare importanza alla privacy dovrebbe accertarsi che una funzione possa davvero operare offline, anziché limitarsi a svolgere una parte dell’elaborazione localmente prima di collegarsi a un server. Un semplice test pratico può essere indicativo: disconnettere il dispositivo da Internet e verificare quali funzioni restano disponibili.

Nel 2026, il cambiamento più importante non è che l’AI cloud sia diventata inutile. La vera novità è che i dispositivi personali possono ormai gestire autonomamente una parte significativa del lavoro legato all’intelligenza artificiale. Apple continua a sviluppare diversi modelli progettati specificamente per l’utilizzo on-device, Google sta estendendo Gemini Nano a un numero sempre maggiore di dispositivi Android, Microsoft sta portando la generazione linguistica locale su una gamma più ampia di computer Windows e gli strumenti open source per l’inferenza offrono ulteriori possibilità agli utenti. L’evoluzione dell’hardware e l’ottimizzazione dei modelli continueranno a rendere l’AI compatta più capace, ma i limiti fisici legati a memoria, batteria e potenza di calcolo non scompariranno. I sistemi più utili saranno quindi probabilmente quelli che utilizzeranno smartphone o laptop come prima scelta per elaborare localmente le attività adatte e ricorreranno al calcolo remoto soltanto quando offre capacità che il modello locale non può fornire. Per gli utenti, questo significa strumenti offline più rapidi, maggiore controllo sui dati sensibili e una scelta più chiara su dove venga realmente eseguito il lavoro dell’AI.