Il Canto degli Uccelli e l’Intelligenza Artificiale: Come il Transfer Learning Sta Cambiando Tutto!

Amici appassionati di natura e tecnologia, preparatevi! Oggi vi porto con me in un viaggio affascinante al confine tra il melodioso canto degli uccelli e le frontiere più avanzate dell’intelligenza artificiale. Vi siete mai chiesti come facciamo a sapere quali specie di uccelli popolano i nostri cieli, soprattutto in luoghi remoti o quando il loro numero cala drasticamente? Beh, una delle risposte più promettenti arriva dal monitoraggio bioacustico, potenziato da algoritmi di machine learning sempre più sofisticati. Ma, come in ogni avventura che si rispetti, le sfide non mancano!

L’Ascolto Intelligente della Natura: Una Sfida Complessa

Riconoscere automaticamente i suoni degli animali, e in particolare il canto degli uccelli, è cruciale per monitorare la biodiversità, un tesoro che, ahimè, stiamo perdendo a un ritmo allarmante. Immaginate di poter “ascoltare” la salute di un ecosistema: i canti degli uccelli sono un ottimo indicatore, anche se parziale, della presenza delle specie. Grazie al deep learning, abbiamo fatto passi da gigante nell’analisi automatica di enormi quantità di dati acustici. Questo ci permette di risparmiare tempo prezioso e di studiare specie elusive, quelle che si nascondono in fitte foreste o in ambienti acquatici difficili da raggiungere.

Pensate a BirdNET, un modello di rete neurale che riconosce migliaia di specie di uccelli! Fantastico, vero? Eppure, anche i classificatori più performanti a volte zoppicano, specialmente quando si tratta di paesaggi sonori complessi, con tanti suoni sovrapposti, o quando le performance variano molto tra specie e habitat diversi.

Qui entrano in gioco due risorse fondamentali: da un lato, la disponibilità di dati di addestramento ben etichettati. Per gli uccelli, collezioni come Xeno-canto o la Macaulay Library sono miniere d’oro, anche se con qualche limite: dati scarsi per specie rare (spesso quelle che più ci interessano per la conservazione!) e etichette a volte incomplete, che magari omettono specie di sottofondo o dettagli temporali precisi. Dall’altro lato, sempre più importante, c’è la possibilità di riutilizzare modelli di machine learning già addestrati da altri. Ed è qui che il concetto di transfer learning diventa il nostro supereroe.

Transfer Learning: Non Reinventare la Ruota (Acustica)!

Il transfer learning, o apprendimento trasferito, è una tecnica che ci permette di riutilizzare la “conoscenza” immagazzinata in un algoritmo di machine learning precedentemente addestrato. In pratica, un modello sviluppato per un compito viene usato come punto di partida per un altro compito correlato. È un po’ come imparare ad andare in bicicletta e poi usare parte di quell’equilibrio e coordinazione per imparare ad andare in moto. Questo è particolarmente utile quando abbiamo pochi dati per il nostro nuovo compito.

Nel deep learning, l’approccio più comune è il finetuning (messa a punto): si prendono strati di una rete pre-addestrata (magari su dataset enormi come ImageNet per le immagini o AudioSet per i suoni generici) e si ri-addestrano su un dataset più piccolo e specifico, come quello dei canti degli uccelli. Questo perché i modelli pre-addestrati hanno già imparato a estrarre caratteristiche ricche e utili dai segnali audio, il che migliora l’accuratezza e riduce tempi e risorse di calcolo.

Nel mio studio, ho voluto esplorare diverse strategie di transfer learning per capire come sfruttarle al meglio per la classificazione dei canti degli uccelli europei, con l’obiettivo di creare un classificatore super accurato. Mi sono concentrato su come addestrare un modello usando solo i dati di Xeno-canto, per vedere come generalizzasse poi a dati di paesaggi sonori reali.

Le strategie che ho messo alla prova sono principalmente due:

• Finetuning:
  • Deep finetuning: Si ri-addestrano tutti gli strati del modello pre-addestrato. È potente, ma può essere costoso computazionalmente e rischia l’overfitting (cioè, il modello impara troppo bene i dati di training specifici e poi generalizza male) o la “dimenticanza catastrofica” (il modello dimentica ciò che aveva imparato prima).
  • Shallow finetuning: Si “congelano” gli strati iniziali del modello pre-addestrato (usandoli come estrattori di feature) e si ri-addestrano solo gli strati finali. È meno intensivo e più robusto con dataset piccoli.
• Knowledge Distillation (Distillazione della Conoscenza): Qui, un modello pre-addestrato (il “maestro” o teacher) non viene modificato, ma guida l’addestramento di un nuovo modello (l'”allievo” o student). L’allievo impara a replicare il comportamento del maestro, spesso usando le sue predizioni “sfumate” (soft targets) invece di decisioni binarie. Questo aiuta l’allievo a imparare le sottili relazioni di similarità tra le classi che il maestro ha colto. Una cosa super interessante è la cross-model distillation, dove maestro e allievo possono avere architetture diverse (es. una CNN insegna a un Transformer).

I Dati e i Modelli Sotto la Lente

Per costruire il mio classificatore di uccelli europei, ho selezionato specie dall’Atlante Europeo degli Uccelli Nidificanti (EBBA2) e scaricato i dati audio da Xeno-canto, privilegiando registrazioni di alta qualità effettuate in Europa. Xeno-canto è fantastico perché è open access, ha una buona qualità media e identificazioni affidabili. Ho creato due dataset principali:

• Uno per la classificazione multi-class (AvesEcho v0, 438 specie), assumendo un solo uccello “protagonista” per registrazione.
• Uno per la classificazione multi-label (AvesEcho v1, 585 specie), permettendo la presenza simultanea di più specie, includendo anche registrazioni da fuori Europa per specie con pochi dati.

Ho anche usato un dataset di “rumore” (senza uccelli) e un dataset dal progetto Dawn Chorus per testare la generalizzazione dei modelli a paesaggi sonori reali, spesso polifonici (con molti uccelli che cantano insieme).

Certo, Xeno-canto ha le sue sfide: etichette “deboli” (sappiamo la specie, ma non esattamente quando canta nella registrazione), molte specie di sottofondo non etichettate (questo è un tipo di “rumore” per l’algoritmo!), e registrazioni prevalentemente “focali” (il microfono puntato sull’uccello target, che quindi suona più forte del normale). Nonostante ciò, è la spina dorsale di molti classificatori di successo.

I modelli che ho confrontato includono:

• BirdNET (v2.2): Una CNN (EfficientNet) addestrata su un’enorme quantità di dati di uccelli e altri suoni.
• PaSST: Un’architettura basata su Transformer, ottimizzata per l’audio, pre-addestrata su AudioSet (un dataset di suoni generici).
• PSLA: Un’altra EfficientNet pre-addestrata su AudioSet.

Ho anche sperimentato con l’data augmentation, come MixUp (mescolare due campioni audio) e l’aggiunta di rumore di fondo, per rendere i modelli più robusti.

Risultati: Cosa Ho Scoperto?

Allora, cosa è emerso da tutti questi esperimenti? Tante cose interessanti!

Single-Label: Un Uccello alla Volta

Nella classificazione single-label (un solo uccello per volta), testata sui dati di Xeno-canto, il modello PaSST con knowledge distillation da BirdNET è stato il campione, con un F1-score di 0.704. Questo suggerisce che “distillare” la conoscenza specifica sugli uccelli da BirdNET in un’architettura Transformer come PaSST è una mossa vincente. Subito dopo, il deep finetuning di PaSST pre-addestrato su AudioSet (0.679) e lo shallow finetuning di BirdNET (0.676) hanno mostrato performance solide e quasi identiche. Su un dataset diverso (Observation.org), lo shallow finetuning di BirdNET ha primeggiato (F1-score 0.52), confermando la sua robustezza.

Multi-Label: Il Coro degli Uccelli

Passando alla classificazione multi-label (più uccelli contemporaneamente), cruciale per i paesaggi sonori reali, i risultati su Xeno-canto hanno visto di nuovo il PaSST con knowledge distillation da BirdNET in testa (mAP 0.71, AUROC 0.95). Però, attenzione: lo shallow finetuning di BirdNET, pur con un mAP leggermente inferiore (0.68), ha eguagliato l’AUROC (0.95) e, soprattutto, ha richiesto un tempo di addestramento incredibilmente più basso (meno di 1 ora contro le oltre 23 ore del PaSST distillato!).

E quando abbiamo testato questi modelli sul dataset Dawn Chorus, molto più “selvaggio” e polifonico? Qui la sorpresa: lo shallow finetuning di BirdNET ha superato tutti, con il mAP più alto (0.311) e AUROC (0.836). Questo è un risultato chiave: mentre la cross-distillation sembra ottima per migliorare le performance in-domain (sugli stessi tipi di dati dell’addestramento), lo shallow finetuning sembra avere capacità di generalizzazione superiori a nuovi dataset e condizioni sonore complesse. Probabilmente perché è una forma di addestramento più “vincolata”, con meno gradi di libertà, che lo costringe a fare tesoro della conoscenza pregressa.

L’Importanza della Quantità e Qualità dei Dati

Come c’era da aspettarsi, la quantità di dati di addestramento per specie conta. Specie con molte registrazioni hanno ottenuto punteggi di precisione media più alti. Quelle con pochi dati, invece, mostrano maggiore variabilità e performance inferiori. Il transfer learning aiuta, ma non fa miracoli se i dati sono davvero scarsi o di bassa qualità.

E che dire delle etichette secondarie (gli uccelli di sottofondo in Xeno-canto)? Usarle durante l’addestramento ha avuto un effetto interessante: il mAP generale è rimasto stabile, ma la precisione è calata (più falsi positivi), mentre il recall è aumentato (più veri positivi rilevati, anche quelli “nascosti”). L’AUROC è leggermente migliorato. Questo significa che il modello diventa più “sensibile” ma anche più incline a “sentire” uccelli che non ci sono, probabilmente a causa del rumore e dell’incompletezza di queste etichette secondarie. È un trade-off da considerare!

Analizzando 10 specie comuni, ho notato che i modelli addestrati anche con etichette secondarie riconoscevano meglio quelle specie quando erano effettivamente in sottofondo. Per le specie in primo piano, i risultati erano più misti. Questo ci dice che c’è una differenza acustica reale tra un uccello registrato come “primario” (probabilmente più vicino e forte) e uno “secondario”.

Infine, ho provato a usare dei “rilevatori” per scartare i segmenti audio senza canti di uccelli prima dell’addestramento. Sorprendentemente, l’impatto è stato marginale. I modelli sembrano abbastanza robusti da gestire l’etichettatura debole di Xeno-canto.

Conclusioni e Prospettive Future: Un Canto di Speranza

Allora, cosa ci portiamo a casa da questa esplorazione? Il transfer learning è una strategia potentissima per la classificazione dei canti degli uccelli. Lo shallow finetuning brilla per la sua capacità di generalizzare a nuovi paesaggi sonori, mentre la knowledge distillation (specialmente cross-model) offre flessibilità e ottime performance in-domain, permettendoci di sfruttare architetture diverse e all’avanguardia.

La pre-addestramento specifico per uccelli (come quello di BirdNET) generalmente porta a risultati superiori, ma anche modelli pre-addestrati su audio generico (come PaSST su AudioSet) possono adattarsi bene. La qualità e quantità dei dati rimangono cruciali, così come la gestione delle etichette, specialmente quelle di sottofondo nelle registrazioni polifoniche.

Per il futuro, vedo un enorme potenziale nello sviluppo di modelli fondamentali (foundation models) per la bioacustica, capaci di apprendere rappresentazioni sonore robuste e generalizzabili, utili per il few-shot learning (imparare con pochissimi esempi), specialmente per specie rare. Altrettanto cruciale sarà l’integrazione di sistemi di annotazione human-in-the-loop, dove esperti umani collaborano con l’IA per migliorare iterativamente i modelli e arricchire i dataset, magari aggiungendo dettagli temporali precisi alle registrazioni di Xeno-canto.

Immaginate pipeline adattabili che combinano transfer learning, modelli fondamentali e apprendimento attivo guidato da esperti: potremmo davvero fare un balzo in avanti verso sistemi di monitoraggio della biodiversità su larga scala, accessibili e ad alta risoluzione. Questo non solo potenzierebbe la ricerca bioacustica, ma darebbe strumenti concreti per gli sforzi di conservazione.

Insomma, il viaggio nell’ascolto intelligente del canto degli uccelli è appena iniziato, e grazie al transfer learning e alle continue innovazioni, il futuro si preannuncia ricco di… melodie e scoperte!

Fonte: Springer