Rumman Chowdhury

Dopo aver insegnato scienza dei dati presso il centro di formazione Metis e aver lavorato presso Quotient, Chowdhury è entrata in Accenture nel gennaio 2017 come Global Lead for Responsible AI di Accenture Applied Intelligence, un ruolo che, come ha ricordato, «nessuno capiva davvero» al momento della sua introduzione:^[12]

Durante gli anni in Accenture, Chowdhury ha sviluppato insieme a un gruppo di ricercatori dell'Alan Turing Institute il Fairness Tool, uno strumento che analizza i dati in ingresso a un algoritmo per verificare se determinate categorie, come genere o etnia, possano influenzarne i risultati, con l'obiettivo di identificare e correggere automaticamente le distorsioni.^[13]

Nel 2018 ha presentato in un TEDx talk il concetto di «outsourcing etico» («moral outsourcing»), indicando con questa espressione la tendenza di chi sviluppa tecnologia a non assumersi la responsabilità delle conseguenze etiche dei propri prodotti, attribuendo invece alle macchine caratteristiche morali che deresponsabilizzano i loro creatori. Nel talk ha esemplificato questa dinamica osservando che espressioni come «intelligenza artificiale razzista» o «algoritmo sessista», comunemente usate nel dibattito pubblico, traslano sulla tecnologia una responsabilità che appartiene alle persone che l'hanno costruita.^[14]

Chowdhury ha progettato All.ai, uno strumento di analisi del linguaggio che monitora e tenta di riequilibrare il tempo di parola tra i partecipanti alle riunioni in base al genere.^[15]

Nel 2020 ha fondato Parity, una piattaforma per il controllo e la trasparenza algoritmica pensata per colmare il divario comunicativo tra i team che si occupano di rischio, questioni legali e analisi dei dati all'interno delle aziende.^[16]

Ha inoltre fondato lo X Institute, un programma che offre formazione in scienza dei dati e marketing a persone con status di rifugiato.^[8]

Da febbraio 2021 a novembre 2022 ha diretto il team META (Machine Learning Ethics, Transparency and Accountability) di Twitter, composto principalmente da ricercatrici, professori e ingegneri, con l'obiettivo di studiare e migliorare i sistemi di apprendimento automatico della piattaforma, riducendone gli effetti discriminatori.^[17]

Nel 2021 Chowdhury e il team META hanno pubblicato l'analisi Examining algorithmic amplification of political content on Twitter, che ha documentato come gli algoritmi della piattaforma amplificassero in modo sproporzionato i contenuti delle forze politiche di destra durante le elezioni statunitensi del 2020.^[18] Il team ha inoltre sperimentato un sistema aperto di incentivi economici (bias bounty) che invitava ricercatori esterni a identificare distorsioni algoritmiche nella piattaforma, mutuando una pratica già diffusa nel campo della sicurezza informatica.^[19]

Nel novembre 2022, con l'acquisizione di Twitter da parte di Elon Musk, Chowdhury è stata licenziata insieme a quasi tutto il team META con brevissimo preavviso; unica eccezione, un membro trasferito a un altro dipartimento.^[17][2]

Dopo il licenziamento ha scritto pubblicamente della propria esperienza, sottolineando come il lavoro dei team etici venisse spesso frainteso come un'agenda politica, piuttosto che riconosciuto come ricerca scientifica.^[20]

Nel 2023 Chowdhury ha co-fondato Humane Intelligence, un'organizzazione non profit che valuta i modelli di intelligenza artificiale attraverso il red teaming, una metodologia mutuata dalla cultura hacker della sicurezza informatica, che consiste nel coinvolgere ampi gruppi eterogenei di persone per individuare vulnerabilità, bias e potenziali danni nei sistemi di IA prima che raggiungano il grande pubblico.^[21]

Il principio fondatore di Humane Intelligence è che le persone che subiscono più frequentemente discriminazioni - per genere, etnia o classe sociale - sono anche le più capaci nel riconoscere i bias nei sistemi algoritmici.^[2]

Nel settembre 2023, con il sostegno della Casa Bianca e in collaborazione con aziende come Anthropic, Google DeepMind, Meta, OpenAI e NVIDIA, Chowdhury ha co-organizzato presso la conferenza DEF CON di Las Vegas il più grande esercizio pubblico di red teaming mai condotto su sistemi di IA generativa, con oltre 2.500 partecipanti.^[21][22]

Durante l'evento, attraverso una serie di domande mirate, un partecipante ha dimostrato che un modello associava la professione medica a una maggiore meritevolezza di diritti umani. Chowdhury ha utilizzato questo esempio per illustrare come i sistemi algoritmici non siano neutrali: addestrati su dati prodotti da esseri umani, riproducono e amplificano i bias storici e sociali già presenti nella società, in questo caso, il fatto che la professione medica sia storicamente associata a profili demografici privilegiati.^[2]

Nello stesso anno ha partecipato al Senate AI Insight Forum, la prima sessione chiusa del Senato statunitense dedicata all'intelligenza artificiale, alla quale hanno preso parte anche Mark Zuckerberg ed Elon Musk. Nei tre minuti a sua disposizione, Chowdhury ha dichiarato davanti a oltre sessanta senatori che i problemi legati ai modelli su larga scala si risolvono meglio coinvolgendo persone più diverse.^[2] Chowdhury ha inoltre rifiutato di sviluppare sistemi di IA per la polizia predittiva, sostenendo che il problema non sia tecnico ma strutturale: anche un algoritmo privo di bias razziali resterebbe eticamente inaccettabile, perché si baserebbe sul principio di sorvegliare o penalizzare individui per crimini non ancora commessi.^[2]

Nel marzo 2024 il Dipartimento di Stato statunitense ha nominato Chowdhury Science Envoy per l'intelligenza artificiale nell'ambito dell'U.S. Science Envoy Program. Per la prima volta nella storia del programma, tutti gli inviati nominati nel 2024 erano donne.^[23] Nel suo ruolo ha promosso la cooperazione internazionale in materia di IA etica, con particolare attenzione ai mercati emergenti e alle comunità globalmente sotto-rappresentate nei processi di sviluppo tecnologico.^[24]