Abeba Birhane

Birhane ha svolto attività di ricerca come borsista postdottorale presso la Mozilla Foundation e ha continuato a collaborare con l'organizzazione come Senior Advisor in AI Accountability, conducendo audit di modelli generativi e dei relativi dataset di addestramento, con particolare attenzione alla presenza di contenuti discriminatori.^[7]

Nel 2024 ha fondato l'AI Accountability Lab (AIAL) presso il Trinity College di Dublino, di cui detiene la direzione, ricoprendo al contempo il ruolo di Assistant Professor presso la School of Computer Science and Statistics.^[8]

Il nucleo della ricerca di Birhane riguarda la responsabilità dei sistemi di intelligenza artificiale, con un approccio che integra scienze cognitive, studi critici sulla razza e teoria della decolonialità.^[9]

Tra i suoi contributi più citati vi è lo studio del 2020 condotto con Vinay Uday Prabhu incentrato sulle criticità sistemiche dei grandi dataset di immagini, tra cui ImageNet e 80 Million Tiny Images del MIT, comunemente impiegati per addestrare algoritmi di visione artificiale.

La ricerca ha esaminato nello specifico le problematiche etiche e metodologiche legate ai processi di raccolta e classificazione dei dati, documentando la sistematica associazione di immagini a etichette contenenti insulti razzisti e misogini, con conseguenze dirette sui sistemi addestrati su tali dati.^[10] In risposta e in conseguenza a tali scoperte, il Massachusetts Institute of Technology (MIT) ha provveduto al ritiro formale e volontario del set di dati 80 Million Tiny Images.^[11][12]

Nell'ambito dello stesso filone di ricerca, Birhane ha in seguito condotto audit dei dataset LAION-400M e LAION-2B-en, rilevando la presenza di contenuti offensivi che contribuiscono alla produzione di stereotipi negativi da parte dei modelli generativi associati.^[7]

Ha inoltre esaminato, con diversi collaboratori, gli algoritmi di ritaglio automatico delle immagini utilizzati da piattaforme come Twitter, Apple e Google, riscontrando una sistematica preferenza per i soggetti bianchi e una tendenza a oggettivare le donne attraverso l'enfasi sulle caratteristiche fisiche piuttosto che sul volto.^[13]

Birhane ha inoltre analizzato lo sviluppo tecnologico attraverso il concetto di colonizzazione algoritmica. Secondo questa prospettiva, i sistemi di intelligenza artificiale tenderebbero a riprodurre logiche di potere storiche, dove gli obiettivi delle grandi aziende tecnologiche prevalgono sulle necessità delle comunità marginalizzate e delle minoranze. In quest'ottica, la ricercatrice esamina come le oppressioni sistemiche vengano codificate negli algoritmi, producendo impatti discriminatori che colpiscono in modo specifico le donne nere.^{[14] [15]}

Come caso emblematico di questi squilibri, Birhane ha studiato le barriere alla condivisione dei dati in Africa.^[16] La ricerca, condotta con Rediet Abebe, George Obaido e Sekou Remy e presentata alla ACM Conference on Fairness, Accountability and Transparency, evidenzia come i paesi africani si trovino spesso in una posizione di svantaggio, rischiando di perdere il controllo sui propri dati a favore di attori esterni senza ricevere benefici proporzionati.^[17]

Sul versante teorico Birhane ha sviluppato una critica sistematica dei presupposti valoriali dell'apprendimento automatico. In uno studio del 2022 presentato alla ACM Conference on Fairness, Accountability, and Transparency (FAccT) e premiato come distinguished paper, ha analizzato con un gruppo di coautrici cento articoli altamente citati pubblicati presso le conferenze ICML e NeurIPS, mostrando come i valori dominanti nel campo - performance, efficienza, generalizzazione - non siano neutrali ma tendano a concentrare potere nelle istituzioni già avvantaggiate, trascurando le conseguenze sociali delle applicazioni.^[18]

Nell'ottobre 2023 il Segretario generale delle Nazioni Unite António Guterres ha nominato Birhane tra i 32 esperti - selezionati da oltre 1800 candidature provenienti da più di cento paesi - del neoistituito AI Advisory Body, l'organo consultivo incaricato di elaborare raccomandazioni sulla governance globale dell'intelligenza artificiale.^[19][20]

Birhane è inoltre membro dell'AI Advisory Council irlandese.