Un’architettura ibrida basata sull’intelligenza artificiale potrebbe trasformare i sistemi neuromorfici in macchine affidabili.

Le macchine dotate di intelligenza artificiale (IA) che guidano il mondo possono essere raggruppate in tre categorie principali: macchine inferenziali, macchine di apprendimento e macchine di scoperta. I ricercatori della Washington University di St. Louis si stanno dedicando alla più rara di queste macchine. Un nuovo studio indica un modo migliore per costruire macchine di scoperta, grazie alla recente ricerca condotta da Shantanu Chakrabartty, professore titolare della cattedra Clifford W. Murphy e vicedecano per la ricerca presso la McKelvey School of Engineering della Washington University di St. Louis.

Il lavoro, ora pubblicato su Nature Communications , si basa su precedenti ricerche volte a stabilire un’architettura di sistemi ibridi , che impiega un’architettura “neuromorfica” modellata sulle funzioni neurobiologiche umane, combinata con sistemi che sfruttano la meccanica quantistica per trovare soluzioni ottimali a problemi complessi.

La ricerca dimostra che queste macchine sono in grado di produrre costantemente soluzioni all’avanguardia con elevata affidabilità e tempi di risposta competitivi, ha affermato Chakrabartty.

Per capire come funzionano i nuovi sistemi, ripensiamo ai tre diversi tipi di macchine. Le macchine inferenziali sono le più comuni e familiari: ChatGPT, ad esempio, può fungere da macchina inferenziale. Se chiedi a un modello linguistico di grandi dimensioni (LLM) di risolvere un cubo di Rubik, quell’LLM è già stato addestrato sui passaggi esatti necessari per risolvere il problema e può fornire le istruzioni in pochi secondi.

Ora, immaginate che nessuno abbia mai addestrato la macchina su quei passaggi e che gli utenti vogliano invece che essa “impari” tutti i possibili passaggi per risolvere il cubo. Questo sforzo richiede una macchina in grado di apprendere. Ma problemi più complessi richiedono calcoli più complessi, che a loro volta richiedono più energia e tempo. Gli ingegneri informatici e di sistema sono diventati più bravi anche nella creazione di queste macchine.

È nella terza categoria, quella delle macchine di scoperta, che le cose si fanno davvero difficili. Immaginate una macchina in grado non solo di trovare tutte le possibili soluzioni a un particolare enigma, ma anche di individuare la soluzione più rapida e ottimizzata, persino con trilioni di fattori. Questo tipo di ricerca implica sfruttare il potere della casualità.

Con la sua nuova ricerca, Chakrabartty offre essenzialmente una ricetta per creare macchine dotate di intelligenza artificiale con questo tipo di potenza. Queste macchine sono progettate per “trovare un ago in un pagliaio”, ha affermato, con successo garantito.

La formula del suo team per le macchine di scoperta si riduce a un sistema ibrido di auto-codifica di ispirazione neuromorfica , unita al ricottura di Fowler-Nordheim, uno strumento mutuato dalla meccanica quantistica. “Questi sono i due ingredienti necessari”, ha affermato Chakrabartty. “È un sistema sufficientemente generale da poter essere applicato a qualsiasi problema complesso.”

Un autoencoder è una tecnica che comprime grandi flussi di dati. Con i dati compressi, la macchina può effettuare previsioni di pattern e ripetere il processo di compressione finché le previsioni non risultano accurate.

Il ricottura di Fowler-Nordheim è un metodo per generare rumore e casualità, che permette alla macchina di “convertirsi” direttamente alla soluzione ottimizzata. È proprio in questo che i ricercatori riscontrano i maggiori vantaggi rispetto a un approccio di calcolo classico.

I nuovi chip per computer consentono la ricottura simulata, un metodo di calcolo quantistico che può condurre i ricercatori al “momento eureka” in modo più diretto, utilizzando i principi della meccanica quantistica, ha affermato Chakrabartty. Con il sistema ibrido che hanno costruito, il suo team può ottimizzare le macchine di ricerca per ottenere risultati.

Il lavoro di squadra fa funzionare la macchina

Chakrabartty e il suo team sono coinvolti in questa ricerca con collaboratori di tutto il mondo attraverso l’Institute of Neuromorphic Engineering e tramite eventi annuali di brainstorming come il Telluride Neuromorphic AI Workshop in Colorado e il Bangalore Neuromorphic Engineering Workshop a Bengaluru, in India. Questa ricerca include coautori dell’Indian Institute of Science, dell’Università di Heidelberg in Germania, della Johns Hopkins University e dell’Università della California, Santa Cruz. Faiek Ahsan, dottorando di Chakrabartty e primo autore di questo lavoro, ha studiato le origini sinaptiche del processo di “scoperta”.

Nel corso degli anni, il gruppo ha cercato di risolvere problemi di ordine superiore utilizzando un test standard chiamato modello di Ising. Persino le reti neurali hanno trovato il modello di Ising troppo difficile da risolvere, quindi hanno avuto l’idea di potenziare la prossima generazione di modelli di intelligenza artificiale con un tocco di meccanica quantistica. Ma c’è un ulteriore vantaggio.

L’architettura proposta si differenzia dai precedenti modelli di Ising di ordine superiore anche per le sue garanzie di convergenza. Ciò significa che, indipendentemente dal fatto che la macchina impieghi sei mesi o un anno per trovare una risposta, questa verrà fornita al termine di tale periodo. In alcuni casi, con i supercomputer, se i ricercatori non inseriscono correttamente il prompt al primo tentativo, potrebbero dover aspettare un anno senza ottenere alcun risultato.

“Ricorda Deep Thought, il supercomputer di ‘Guida galattica per gli autostoppisti'”, ha detto Chakrabartty. “Gli fu chiesto: ‘Qual è la risposta alla vita, all’universo e a tutto il resto?’ e ci mise milioni di anni per rispondere infine con ’42’, con grande disappunto dei suoi creatori. Non sarà così per le macchine di scoperta che emergeranno dal sistema ibrido del team.”

“Questi tipi di macchine offrono questa garanzia”, ​​ha affermato. “Dopo sei mesi, qualcosa di utile si manifesterà.”

Riportiamo che un’architettura neuromorfica basata su autoencoder, combinata con il ricottura di Fowler-Nordheim, è sufficiente per implementare macchine di Ising di ordine superiore scalabili. Mostriamo che queste macchine possono produrre costantemente soluzioni all’avanguardia con elevata affidabilità e con metriche di tempo di soluzione competitive. L’autoencoder cattura le interazioni di ordine superiore decomponendo le clausole di Ising e gli spin di Ising in strati encoder-decoder di neuroni a impulsi, mantenendo così la complessità delle risorse indipendente dall’ordine di interazione per problemi sparsi. Un processo di ricottura basato sulla dinamica del tunneling quantistico di Fowler-Nordheim estrapola tra un programma di ricottura e un schema di ricottura. Ciò non solo garantisce una rapida convergenza verso soluzioni di alta qualità, ma assicura anche la convergenza asintotica allo stato fondamentale di Ising. Per dimostrare i vantaggi della macchina di Ising neuromorfica di ordine superiore proposta, abbiamo risolto sistematicamente problemi di ottimizzazione combinatoria di riferimento come MAX-CUT e MAX-SAT, confrontando i risultati con quelli ottenuti utilizzando una macchina di Ising di secondo ordine che impiega lo stesso processo di ricottura.

 

by