Quest’anno gli annunci di prodotti sono quasi sempre accompagnati dall’introduzione di nuove funzionalità AI. Praticamente ogni nuovo laptop sarà dotato di IA, anche se questa può manifestarsi in un gran numero di modi. Sembra che la domanda di IA stia causando un cambiamento generalizzato per quanto riguarda l’hardware.
L’IA, come viene comunemente chiamata, viene per lo più eseguita nel cloud, in particolare applicazioni ben note come ChatGPT, Stable Diffusion e Windows Copilot. Tuttavia, come dice Intel, molte parti vogliono passare all’IA client, in cui l’utente finale porta con sé l’hardware necessario. In effetti, l’utente non deve dipendere dal cloud per eseguire un sistema operativo accelerato dall’intelligenza artificiale. In effetti, nel lungo periodo non c’è spazio per miliardi di consumatori che si appoggiano ai data center per eseguire l’IA.
La soluzione è rappresentata da processori efficienti, specificamente adatti alle attività di IA. Questi sono già presenti in tutti i tipi di smartphone, desktop e laptop. Quest’autunno, la tendenza verso un hardware incentrato sull’IA è evidente nei nuovi computer portatili, con o senza coprocessore dedicato. L’IA gestita localmente dovrebbe garantire una migliore latenza, una maggiore privacy per l’utente e un minor consumo energetico.
IA limitata: pulizia delle webcam, editing delle immagini
Un esempio di funzionalità AI si trova nella nuova linea di computer portatili HP. L’HP ENVY di quest’anno è dotato di un acceleratore AI Intel Movidius VPU. Il marketing si concentra in particolare sul miglioramento dell’esperienza utente nelle videoconferenze, come ad esempio il mantenimento di un volto nell’inquadratura, un migliore filtraggio dello sfondo o la pulizia dinamica della qualità dell’audio. Anche l’annuncio delle funzionalità AI del Chromebook Plus non è da meno: Magic Eraser rimuove in modo intelligente persone o oggetti dalle foto e File Sync tiene traccia dei file che l’utente vuole vedere apparire rapidamente. Il Surface Laptop Studio 2 è inoltre dotato di un acceleratore AI specifico per eseguire tali funzioni in modo più fluido rispetto al passato.
In altre parole: al debutto, le capacità di AI accelerate dei nuovi laptop non sembrano rivoluzionarie. Dopo tutto, una funzione di Google come Magic Eraser è stata introdotta negli smartphone Pixel più di un anno fa. Funzioni più significative come quelle presenti in Windows Copilot, ad esempio, non hanno ancora abbandonato il cloud come piattaforma di esecuzione. Le cose cambieranno?
Prossimamente: Meteor Lake, VPU e inferenza locale
John Rayfield, VP e GM Client AI di Intel, ritiene che ci siano molti sviluppi in vista. A dicembre arriveranno i primi computer portatili dotati di processori Meteor Lake, gli ultimi chip di Intel e la prima generazione che include le VPU nel design. A differenza del chip Movidius, si tratta di un componente integrato nel processore che dovrebbe essere molto più capace. Questo “acceleratore di inferenza” è progettato per accelerare l’inferenza, ossia l’esecuzione di un modello generativo di intelligenza artificiale per generare un nuovo output. L’aspetto cruciale è che questo processo sia efficiente, in modo che anche un computer portatile possa utilizzarlo con la batteria.
Si tratta di un passo avanti rispetto a quanto è già possibile fare oggi: scaricare le attività di IA sulla GPU o semplicemente eseguirle sulla CPU. Rayfield spiega che il 75% dell’IA è un problema di software; l’ultimo quarto riguarda l’ottimizzazione e l’accelerazione. Esistono quindi standard come ONNX per i modelli di IA, API come DirectML e WebNN per le applicazioni Web. Questi consentono agli sviluppatori di utilizzare dinamicamente ciò che l’utente finale ha a disposizione: in questo modo, un nuovo computer portatile con accelerazione AI distribuirà automaticamente le risorse hardware appropriate per un compito specifico. L’autore afferma che le attività di IA particolarmente pesanti richiedono una potenza di calcolo da 10 a 50 volte superiore rispetto alle applicazioni precedenti.
Questa caratteristica spiega perché le capacità di IA dei computer portatili nel 2023 non catturano immediatamente l’immaginazione. L’esecuzione di un LLM a livello locale su un computer sottile e leggero non sarà pratica a breve. Tuttavia, sono stati posti i presupposti perché ciò sia possibile un giorno, quando l’hardware avrà apportato i miglioramenti necessari. Nel frattempo, laptop, PC e smartphone saranno gradualmente in grado di adottare un numero sempre maggiore di funzioni di intelligenza artificiale dal cloud.
