Decifrare gli Atomi con l’Informazione: Incertezze, Completezza e Segreti Nascosti nel Machine Learning

Ciao a tutti! Oggi voglio parlarvi di qualcosa che mi affascina tantissimo e che sta cambiando il modo in cui studiamo materiali e molecole a livello atomico: l’uso della teoria dell’informazione nel campo del machine learning (ML) atomistico. Sembra complicato? Tranquilli, cercherò di spiegarvelo in modo semplice e, spero, intrigante!

Il Cuore del Problema: Capire i Dati Atomistici

Immaginate di dover costruire un modello di machine learning super potente, un cosiddetto “potenziale interatomico” (MLIP), capace di prevedere come si comportano gli atomi in un materiale o in una molecola. Questi modelli imparano da enormi quantità di dati generati da simulazioni complesse (spesso basate sulla teoria del funzionale della densità, o DFT). Ma qui sorge il problema: come facciamo a sapere se i dati che diamo in pasto al modello sono “abbastanza”? Sono sufficientemente vari? Contengono tutte le informazioni necessarie? E come possiamo fidarci delle previsioni del modello, specialmente quando si trova di fronte a situazioni nuove, mai viste prima nei dati di addestramento?

Finora, per rispondere a queste domande, ci siamo spesso affidati a euristiche (regole pratiche basate sull’esperienza) o alle previsioni stesse del modello per stimare l’incertezza. Ma non sarebbe fantastico avere uno strumento rigoroso, che non dipenda dal modello specifico che stiamo usando (cioè “model-free”), per quantificare quanta informazione c’è davvero nei nostri dati?

La Risposta? Teoria dell’Informazione!

Ed è qui che entra in gioco la teoria dell’informazione, quella branca della matematica nata per le comunicazioni ma che si è rivelata utilissima in tantissimi campi, dalla termodinamica alla biofisica, fino al deep learning. L’idea di base è usare il concetto di entropia informativa (sì, simile all’entropia termodinamica, ma applicata all’informazione!) per misurare la “sorpresa” o la “novità” contenuta in un set di dati.

Abbiamo sviluppato un metodo, che abbiamo chiamato QUESTS (Quick Uncertainty and Entropy from STructural Similarity), che fa proprio questo. Come funziona?

1. Prendiamo le nostre simulazioni atomistiche.
2. Per ogni atomo, creiamo una sorta di “impronta digitale” (un descrittore) che ne descrive l’ambiente circostante (quali atomi ha vicino, a che distanze, ecc.). Questo descrittore è pensato per essere molto efficiente da calcolare e per catturare le informazioni essenziali sulla struttura locale.
3. Usiamo una tecnica chiamata Kernel Density Estimation (KDE) per stimare la distribuzione di probabilità di queste impronte digitali. In pratica, cerchiamo di capire quali ambienti atomici sono comuni e quali sono rari nel nostro dataset.
4. Calcoliamo l’entropia di Shannon di questa distribuzione. Un’entropia alta significa che il dataset contiene tanti ambienti atomici diversi e “sorprendenti”; un’entropia bassa indica che molti ambienti sono simili tra loro, quindi c’è ridondanza.

Il bello è che questo approccio è model-free: non abbiamo bisogno di addestrare nessun modello di machine learning per fare questa analisi! Lavoriamo direttamente sui dati strutturali.

Cosa Possiamo Farci con Questa Entropia? Un Mondo di Applicazioni!

Okay, abbiamo questo numero, l’entropia. A cosa serve concretamente? Beh, le applicazioni sono davvero tante e potenti!

1. Spiegare gli Errori dei Modelli ML e Ottimizzare i Dataset:
Vi siete mai chiesti perché un modello ML funziona benissimo per una molecola e meno bene per un’altra, anche se addestrato con la stessa quantità di dati? Abbiamo scoperto che l’entropia del dataset è strettamente legata a questo!
Abbiamo analizzato il dataset rMD17 (un classico benchmark per MLIP) e visto che molecole “rigide” e con atomi in ambienti simili (come il benzene) hanno un’entropia bassa che si satura presto: bastano pochi dati per descriverle completamente. Molecole più complesse e flessibili (come l’aspirina) hanno un’entropia più alta e richiedono molti più dati per essere “capite”.
La differenza tra l’entropia massima raggiungibile e quella effettiva del dataset (che chiamiamo “information gap”) correla incredibilmente bene con l’errore del modello ML addestrato su quei dati! Un gap grande significa che mancano informazioni, e il modello farà più fatica. Questo ci permette di:

• Capire perché certi modelli sbagliano di più su certi sistemi.
• Quantificare la ridondanza in un dataset. Ad esempio, analizzando il dataset GAP-20 per il carbonio, abbiamo visto che il subset “Graphene” è molto ridondante (entropia molto inferiore al massimo possibile), mentre “Fullerenes” lo è molto meno.
• Valutare se un dataset può essere “compresso” senza perdere informazioni preziose. Abbiamo dimostrato che si può ridurre drasticamente la dimensione del subset “Graphene” senza peggiorare le prestazioni del modello ML, mentre per “Fullerenes” questo non è possibile. Questo è fondamentale per ridurre i costi computazionali dell’addestramento!
• Monitorare l’efficienza dell’active learning. Analizzando il dataset ANI-Al, costruito iterativamente, abbiamo visto che dopo un po’ l’entropia smette di crescere e inizia a diminuire, anche se la diversità (un’altra metrica che abbiamo introdotto) continua ad aumentare. Questo significa che l’active learning stava campionando regioni già note, diventando meno efficiente nel trovare novità.

2. Quantificare l’Incertezza (UQ) Senza Dipendere dal Modello:
Una delle sfide più grandi nel ML è capire quando possiamo fidarci delle previsioni. I metodi UQ tradizionali spesso si basano sulle proprietà del modello stesso (es. la varianza tra previsioni di un ensemble di modelli). Il nostro approccio è diverso.
Introduciamo l’entropia differenziale (δH): misura quanto “sorprendente” è un nuovo ambiente atomico (Y) rispetto a un dataset di riferimento (X) già noto.

• Se δH ≤ 0, l’ambiente Y è “simile” a qualcosa che abbiamo già visto nel dataset X.
• Se δH > 0, l’ambiente Y è nuovo, è al di fuori del dominio conosciuto (extrapolazione).

Questa semplice misura si è rivelata un ottimo stimatore di incertezza, totalmente model-free!
Abbiamo verificato questo sul dataset GAP-20: l’errore di un modello ML addestrato su un subset (es. “Defects”) e testato su un altro (es. “Fullerenes”) è molto più alto quando gli ambienti del test set hanno δH > 0 rispetto al training set. Addirittura, più δH è positivo, più l’errore tende ad essere alto!
Lo stesso vale per il dataset TM23 (metalli di transizione): abbiamo spiegato perché alcuni modelli si generalizzano bene a diverse temperature e altri no, semplicemente guardando l’overlap (la frazione di ambienti con δH ≤ 0) tra i dataset a diverse temperature. La correlazione tra questo overlap e l’errore di trasferimento del modello è fortissima!

3. Rilevare Outlier ed Eventi Rari nelle Simulazioni:
Questa capacità di identificare ambienti “nuovi” (δH > 0) è potentissima per monitorare simulazioni su larga scala. Immaginate una simulazione con milioni di atomi: come facciamo a sapere se il modello ML sta iniziando a “inventarsi” cose perché si trova in una regione dello spazio delle configurazioni che non conosce?
Abbiamo testato questo su una simulazione enorme (32.5 milioni di atomi!) di Tantalio (Ta) usando un potenziale SNAP. Il nostro metodo ha identificato chiaramente delle regioni (atomi colorati in rosso nella figura) dove gli ambienti atomici erano fuori dal dominio di addestramento (δH > 0), corrispondenti alla formazione inaspettata di una fase amorfa. La cosa sorprendente è che l’errore sulle forze previsto dal modello SNAP in quelle regioni non era particolarmente alto! Quindi, basandosi solo sull’errore, non avremmo capito che il modello stava fallendo. L’entropia differenziale, invece, ci ha dato un segnale d’allarme chiaro e model-free.

Ma non solo fallimenti! Possiamo usare δH anche per rilevare eventi rari e fisicamente interessanti. Abbiamo studiato la simulazione della solidificazione del Rame (Cu), un processo che inizia con la nucleazione, cioè la formazione spontanea di un piccolo cristallo (nucleo) nel liquido sotto-raffreddato. La teoria classica della nucleazione (CNT) prevede che esista una dimensione critica per questo nucleo.
I metodi tradizionali (come la Common Neighbor Analysis, CNA) faticano a identificare questi nuclei piccolissimi nel liquido. Noi, invece, abbiamo usato l’entropia differenziale: abbiamo definito come “solidi” gli atomi nel liquido il cui ambiente fosse molto simile a quello di un solido FCC puro (cioè δH ≤ 0 rispetto a un dataset di riferimento di Cu solido). Poi abbiamo cercato i cluster (gruppi connessi) di questi atomi “solidi”.
Il risultato? Abbiamo visto che la dimensione del cluster più grande identificato dal nostro metodo cresce fino a un certo punto e poi, improvvisamente, esplode: quello è il momento della nucleazione! E la dimensione del cluster più grande proprio prima della nucleazione corrisponde quasi perfettamente alla dimensione critica del nucleo predetta dalla CNT usando le proprietà del potenziale EAM utilizzato! È incredibile: abbiamo “visto” l’evento raro predetto dalla teoria, usando solo la nostra misura di informazione.

Uno Sguardo al Futuro (e Qualche Considerazione)

Questo approccio basato sulla teoria dell’informazione apre scenari davvero promettenti. Ci fornisce un linguaggio comune e rigoroso per parlare di completezza dei dati, incertezza, ridondanza, novità. È uno strumento versatile che può essere integrato in diversi flussi di lavoro, dallo sviluppo di MLIP più efficienti e robusti, all’analisi di simulazioni complesse.

Abbiamo anche notato una cosa interessante: in alcuni casi, l’entropia informativa che calcoliamo sembra correlare bene con la componente configurazionale dell’entropia termodinamica. Questo legame è noto in teoria, ma vederlo emergere dai nostri descrittori atomici è affascinante e merita ulteriori studi.

Certo, ci sono ancora aspetti da migliorare. Ad esempio, il nostro descrittore attuale non tiene conto esplicitamente del tipo di elemento chimico, cosa importante per sistemi come le leghe. Inoltre, la scelta del descrittore e del kernel per la KDE influenza il risultato, e bisogna studiare meglio queste dipendenze. Infine, stiamo lavorando per rendere il calcolo dell’entropia ancora più veloce e scalabile, magari per poter fare UQ in tempo reale durante le simulazioni MD!

In Conclusione

Spero di avervi trasmesso un po’ del mio entusiasmo per questo lavoro. Usare la teoria dell’informazione per analizzare il mondo atomistico è come avere un paio di occhiali speciali che ci permettono di vedere cose prima nascoste: la vera quantità di informazione nei dati, i limiti teorici della compressione, le zone d’ombra dove i nostri modelli ML potrebbero fallire, e persino gli eventi rari che guidano le trasformazioni della materia. È un passo avanti importante per rendere le simulazioni atomistiche guidate dal machine learning non solo più veloci, ma anche più affidabili e interpretabili. E chissà quali altre scoperte ci riserva questo connubio tra informazione, atomi e intelligenza artificiale!

Fonte: Springer