Ripensare il modo in cui l’IA esegue i calcoli
Al centro del problema c’è un’idea matematica apparentemente semplice: la derivazione, ovvero la misurazione di come qualcosa cambia. In termini semplici, una derivata può indicare agli scienziati la velocità con cui una quantità aumenta o diminuisce. Le derivate di ordine superiore vanno oltre, aiutando a descrivere modelli di cambiamento più complessi.
Per anni, i sistemi di intelligenza artificiale che affrontano problemi di equazioni differenziali parziali inverse hanno tipicamente calcolato tali derivate attraverso un metodo chiamato differenziazione automatica ricorsiva, che calcola ripetutamente come cambiano le quantità attraverso una rete neurale, lo scheletro di tutti i modelli di intelligenza artificiale.
Ma per i sistemi di ordine superiore, soprattutto quando i dati sono rumorosi, questo processo può diventare instabile e richiedere enormi quantità di potenza di calcolo.
Come spiegano i ricercatori, la differenziazione automatica ricorsiva è come ingrandire ripetutamente la pendenza di una retta: se la retta è frastagliata, ogni passaggio aggiuntivo può effettivamente amplificare il rumore nei dati e rendere il risultato finale meno affidabile. In altre parole, il team si è reso conto di aver bisogno di un modo per uniformare in modo affidabile il segnale prima di misurarne il cambiamento.
Il potere degli agenti calmanti
Negli anni Quaranta, Kurt Otto Friedrichs, un matematico tedesco-americano che in seguito ricevette la National Medal of Science, descrisse i “mollificatori “, strumenti matematici che “attenuano” le funzioni particolarmente rumorose o frastagliate smussandone le caratteristiche più acute.
Adattando questa tecnica, il team è riuscito a superare i problemi causati dalla differenziazione automatica ricorsiva. “Inizialmente abbiamo ipotizzato che il problema fosse legato all’architettura della rete neurale”, afferma Ananyae Kumar Bhartari, laureato al master in Calcolo Scientifico presso la Penn Engineering e co-primo autore dell’articolo. “Ma, dopo aver attentamente ottimizzato la rete, ci siamo resi conto che il collo di bottiglia era la differenziazione automatica ricorsiva stessa.”
L’implementazione di uno “strato di attenuazione”, che ha uniformato il segnale prima di misurarlo, ha ridotto drasticamente sia il rumore che il consumo energetico. “Questo ci ha permesso di risolvere queste equazioni in modo più affidabile, senza lo stesso carico computazionale”, afferma Bhartari.
Srotolamento della cromatina
Per il laboratorio Shenoy, una delle applicazioni immediate degli strati di omogeneizzazione è una migliore comprensione di come minuscoli domini di cromatina, ovvero la miscela di proteine e DNA che impacchetta i cromosomi per la conservazione all’interno delle cellule, regolino l’accesso al materiale genetico all’interno del nucleo, basandosi su precedenti studi che mostrano come le reazioni epigenetiche e le interazioni fisiche organizzino la struttura della cromatina.
“Questi domini hanno una dimensione di soli 100 nanometri “, afferma Shenoy, “ma poiché l’accessibilità determina l’espressione genica, e l’espressione genica regola l’identità cellulare, la funzione, l’invecchiamento e le malattie, questi domini svolgono un ruolo fondamentale in biologia e nella salute”.
Deducendo i tassi di reazione epigenetica che guidano questi cambiamenti, ovvero la rapidità con cui avvengono le modifiche chimiche che regolano i geni, gli strati di ammorbidente potrebbero aiutare i ricercatori che studiano la cromatina a passare dalla semplice osservazione della sua struttura tramite potenti microscopi alla modellizzazione di come essa cambia nel tempo e di come tali cambiamenti influenzano l’espressione genica.
“Se riusciamo a monitorare l’evoluzione di questi tassi di reazione durante l’invecchiamento, il cancro o lo sviluppo”, aggiunge Vinayak, “si aprono nuove prospettive per terapie innovative: se i tassi di reazione controllano l’organizzazione della cromatina e il destino cellulare, allora modificarli potrebbe indirizzare le cellule verso gli stati desiderati”.
Direzioni future
Gli strati di smorzamento potrebbero rivelarsi utili anche al di fuori della biologia. Poiché molti problemi nella scienza dei materiali, nella meccanica dei fluidi e in altri settori dell’apprendimento automatico scientifico coinvolgono equazioni di ordine superiore e dati rumorosi, il framework potrebbe offrire un modo più stabile ed efficiente dal punto di vista computazionale per dedurre parametri nascosti in un’ampia gamma di sistemi.
I ricercatori sperano che lo stesso approccio matematico che ha contribuito a scoprire le velocità di reazione nascoste nella cromatina possa aiutare gli scienziati ad affrontare problemi inversi altrettanto complessi in molti altri campi. “In definitiva, l’obiettivo è passare dall’osservazione di schemi complessi alla scoperta quantitativa delle regole che li generano”, afferma Shenoy. “Se si comprendono le regole che governano un sistema, si ha la possibilità di modificarlo.”
by 