Margaret Mitchell (informatica)

Margaret Mitchell nel 2022

Margaret Mitchell (18 novembre 1983) è un'informatica statunitense, nota per le sue ricerche sull'equità nei sistemi di apprendimento automatico, sui bias algoritmici e sull'etica dell'intelligenza artificiale.Ha lavorato presso la Johns Hopkins University, Microsoft Research e Google, dove ha cofondato e co-guidato il team Ethical AI insieme a Timnit Gebru e ha introdotto il concetto di Model Cards per una rendicontazione trasparente dei modelli di apprendimento automatico.

Dal 2021 è Chief Ethics Scientist presso Hugging Face. Nel 2023 è stata inclusa nella lista TIME100 AI che raccoglie le cento persone più influenti nel campo dell'intelligenza artificiale secondo la rivista Time.[1]

Formazione

Mitchell ha conseguito la laurea triennale in linguistica presso il Reed College di Portland, nell'Oregon, nel 2005, con una tesi sulla generazione automatica di espressioni referenziali.[2] Durante gli studi, dal 2005 al 2007 ha lavorato come assistente di ricerca presso il Center for Spoken Language Understanding dell'Oregon Health and Science University, occupandosi di trascrizione e analisi automatica del linguaggio per progetti su disturbi neurologici e del linguaggio, tra cui l'Alzheimer, l'afasia, l'aprassia, l'autismo, la disartria e il Parkinson.[2]

Ha conseguito il master in linguistica computazionale presso la University of Washington nel 2008, con una tesi sulla generazione automatica di espressioni referenziali, sotto la supervisione di Emily Bender e Scott Farrar, e nel 2012 il dottorato in informatica presso la University of Aberdeen, con una tesi sulla generazione automatica di descrizioni linguistiche di oggetti in immagini.[3]

Carriera e ricerca

Nel 2012 ha ottenuto una posizione postdoc presso il Human Language Technology Center of Excellence della Johns Hopkins University, dove si è dedicata allo sviluppo di modelli probabilistici per l'estrazione automatica di informazioni dal testo nel campo dell'elaborazione del linguaggio naturale, lavorando in particolare su modelli grafici per il riconoscimento di entità e l'analisi del sentiment.[2][4]

Microsoft (2013-2016)

Nel 2013 è entrata in Microsoft Research, inizialmente nel gruppo dedicato all'elaborazione del linguaggio naturale, dove ha lavorato sui prodotti Bing e Cortana. Dal 2014 è passata al gruppo interno "Cognition", dove ha sviluppato il progetto Seeing AI, un'applicazione che fornisce supporto alle persone con disabilità visiva descrivendo testi e immagini tramite sintesi vocale.[5][6]

Il progetto ha ricevuto nel 2018 il prestigioso Helen Keller Achievement Award dell'American Foundation for the Blind.[5]

Google e il team Ethical AI (2016-2021)

Nel novembre 2016 è entrata in Google come Senior Research Scientist, occupandosi di equità nei sistemi di apprendimento automatico. Dal 2018 ha operato in Google Brain, dove ha co-guidato il team Ethical AI insieme a Timnit Gebru. Nello stesso anno ha rappresentato Google nella Partnership on AI[7] e ha tenuto un TED talk dal titolo How we can build AI to help humans, not hurt us, in cui ha invitato il settore tecnologico a considerare le conseguenze sociali delle proprie scelte progettuali.[7]

Mitchell ha sviluppato diversi strumenti pratici per la misurazione e la promozione dell'equità nei sistemi di apprendimento automatico, tra cui ''Fairness Indicators'' (2017–2019), un software per il calcolo e la visualizzazione di metriche di equità, e ''Know Your Data'' (2020–2021), un'applicazione interattiva per l'esplorazione dei dataset.

Un approccio complementare è stato seguito nello stesso periodo da Rumman Chowdhury, che ha elaborato il "Fairness Tool"in collaborazione con l'Alan Turing Institute, con l'obiettivo di identificare e correggere automaticamente le distorsioni nei dati in ingresso agli algoritmi.[8]

Mitchell ha inoltre lavorato alla rimozione automatica dei bias indesiderati, costruendo un framework che utilizza un componente avversariale per neutralizzare le correlazioni indesiderate tra le previsioni del modello e le variabili demografiche sensibili.[9]

Tra i contributi più rilevanti del periodo Google vi è l'introduzione del concetto di Model Cards: schede standardizzate allegate ai modelli di apprendimento automatico che ne documentano le caratteristiche, i limiti, le prestazioni su diversi gruppi demografici e le finalità d'uso, con l'obiettivo di aumentare la trasparenza e ridurre i rischi di utilizzo improprio.[10] Il progetto Google Cloud Model Cards ha ricevuto nel 2020 il Tech Spotlight Award del Segretario della Difesa degli Stati Uniti Ashton Carter.[11]

Nel 2021 è stata coautrice, con Timnit Gebru, Emily M. Bender e altri ricercatori, dell'articolo On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? (2021) che ha avviato un dibattito sulle implicazioni sociali della tecnologia di elaborazione del linguaggio naturale.[12].[13][14]

Uscita da Google

Nel gennaio 2021, dopo la controversa uscita di Timnit Gebru da Google, il tentativo di Mitchell di utilizzare script automatizzati per ricercare nella propria casella di posta aziendale prove di episodi discriminatori a danno della sua collega ha portato all'avvio di un'indagine interna nei suoi confronti da parte di Google. Il 19 febbraio 2021 Mitchell è stata licenziata per violazione del codice di condotta aziendale e delle politiche di sicurezza, in quanto accusata di avendo condiviso con account esterni documenti riservati e dati personali di altri dipendenti; Mitchell ha invece dichiarato di aver cercato solo di raccogliere prove delle discriminazioni subite da Gebru.[15][16]

Prima del licenziamento Mitchell era stata una voce attiva in favore della diversità in Google e aveva espresso preoccupazioni sulla censura della ricerca in azienda e sulle disuguaglianze di genere e razza.[17][18]

Hugging Face e attività successiva

Nell'estate del 2021 Mitchell è entrata a far parte della start-up Hugging Face, dove ricopre il ruolo di Chief Ethics Scientist, occupandosi di ricerca sull'apprendimento automatico, governance dei dati, valutazione dei modelli e applicazione pratica dei principi etici nell'intelligenza artificiale.[19]

Mitchell è cofondatrice di Widening NLP, un gruppo di interesse speciale all'interno dell'Association for Computational Linguistics che mira ad aumentare la presenza di donne e minoranze nel campo del trattamento automatico del linguaggio naturale.[20] Sovraintende inoltre il workshop annuale Computational Linguistics and Clinical Psychology, che riunisce clinici e linguisti computazionali per far avanzare la ricerca in psicologia clinica.[21]

Riconoscimenti

Il suo lavoro ha ricevuto il Tech Spotlight Award del Segretario alla Difesa degli Stati Uniti Ash Carter e il riconoscimento dell'American Foundation for the Blind. È stata inclusa nella lista TIME100 delle persone più influenti del mondo nel 2023,[22] nella lista Fortune Top Innovators e nella lista 100 Brilliant Women in AI Ethics di Lighthouse3.[11]

Pubblicazioni (selezione)

Note

  1. ↑ (EN) Margaret Mitchell, su time.com, 7 settembre 2023. URL consultato l'11 marzo 2026.
  2. 1 2 3 (EN) Margaret Mitchell, Margaret Mitchell CV (PDF), su m-mitchell.com. URL consultato l'11 marzo 2026 (archiviato dall'url originale il 2 agosto 2024).
  3. ↑ (EN) Margaret Mitchell, Generating Reference to Visible Objects, Aberdeen University, 2013.
  4. ↑ (EN) Margaret Mitchell, Margaret Mitchell (Google Research) "Algorithmic Bias in Artificial Intelligence", su Johns Hopkins, 14 febbraio 2017. URL consultato il 10 marzo 2026.
  5. 1 2 (EN) Seeing AI, su Microsoft. URL consultato il 10 marzo 2026.
  6. ↑ (EN) Margaret Mitchell, su Chartwell Speakers. URL consultato il 10 marzo 2026.
  7. 1 2 (EN) Margaret Mitchell's TED talk, su TED, febbraio 2018. URL consultato il 10 marzo 2026.
  8. ↑ (EN) 5 Q's for Rumman Chowdhury, Global Lead for Responsible AI at Accenture, in Center for Data Innovation, 17 agosto 2018. URL consultato il 12 marzo 2026.
  9. ↑ (EN) Brian Hu Zhang, Blake Lemoine e Margaret Mitchell, Mitigating Unwanted Biases with Adversarial Learning, AAAI/ACM Conference on AI, Ethics, and Society, 1º dicembre 2018, pp. 220–229, DOI:10.1145/3278721.3278779, arXiv:1801.07593.
  10. ↑ (EN) Margaret Mitchell, Simone Wu, Andrew Zaldivar, Parker Barnes, Lucy Vasserman, Ben Hutchinson, Elena Spitzer, Inioluwa Deborah Raji e Timnit Gebru, Model Cards for Model Reporting - FAT '19: Proceedings of the Conference on Fairness, Accountability, and Transparency, Conference on Fairness, Accountability, and Transparency, 29 gennaio 2019, DOI:10.1145/3287560.3287596, arXiv:1810.03993.
  11. 1 2 (EN) Margaret Mitchell, su Berkman Klein Center, Harvard University. URL consultato il 10 marzo 2026.
  12. ↑ (EN) Esther Sánchez García, Michael Gasser, Stochastic Parrots: How Natural Language Processing Research Has Gotten Too Big for Our Own Good, in Science for the people, vol. 24, n. 2, 2021.
  13. ↑ (EN) Karen Hao, We read the paper that forced Timnit Gebru out of Google. Here's what it says., su MIT Technology Review, 4 dicembre 2020. URL consultato il 10 marzo 2026.
  14. ↑ (EN) Tom Simonite, What Really Happened When Google Ousted Timnit Gebru, in Wired, 8 giugno 2021, ISSN 1059-1028. URL consultato il 10 marzo 2026.
  15. ↑ (EN) Google fires Margaret Mitchell, another top researcher on its AI ethics team, su The Guardian, 20 febbraio 2021. URL consultato il 10 marzo 2026.
  16. ↑ (EN) Margaret Mitchell: Google fires AI ethics founder, su BBC, 20 febbraio 2021. URL consultato il 10 marzo 2026.
  17. ↑ (EN) Charlie Osborne, Google fires top ethical AI expert Margaret Mitchell, su ZDNet. URL consultato il 10 marzo 2026.
  18. ↑ (EN) Dr. Margaret Mitchell, founder of Google Ethical AI Team, terminated, su Levy Vinick Burrell Hyams LLP. URL consultato il 10 marzo 2026.
  19. ↑ (EN) Fired from Google After Critical Work, AI Researcher Mitchell to Join Startup, in Bloomberg, 24 agosto 2021. URL consultato il 10 marzo 2026.
  20. ↑ (EN) Philip Resnik, Rebecca Resnik e Margaret Mitchell, Proceedings of the Workshop on Computational Linguistics and Clinical Psychology, Baltimora, ACL, giugno 2014, DOI:10.3115/v1/W14-32.
  21. ↑ (EN) Workshop on Computational Linguistics and Clinical Psychology (CLPsych), su ACL Anthology. URL consultato il 10 marzo 2026.
  22. ↑ (EN) Margaret Mitchell, su London Speaker Bureau. URL consultato il 10 marzo 2026.

Voci correlate

Altri progetti

Collegamenti esterni

Controllo di autoritàORCID (EN) 0000-0001-7043-6545
Questa voce è stata pubblicata da Wikipedia. Il testo è rilasciato in base alla licenza Creative Commons Attribution-Share Alike 4.0, salvo diversa indicazione. Potrebbero essere applicate clausole aggiuntive per i file multimediali.