Cofondatrice del gruppo Black in AI, ha operato in istituzioni accademiche e industrie tecnologiche.

Nel 2020 la controversa conclusione del suo rapporto di lavoro con Google, dove aveva ricoperto il ruolo di co-responsabile tecnica del team Ethical AI, ha suscitato un ampio dibattito pubblico sul rapporto tra ricerca accademica, etica dell'intelligenza artificiale e governance delle grandi aziende tecnologiche. Biografia

Origini e formazione (1983-2001) Gebru è nata e cresciuta ad Addis Abeba in una famiglia di origine eritrea. Il padre, ingegnere elettrico con un dottorato di ricerca, è morto quando lei aveva cinque anni ed è stata quindi cresciuta dalla madre, economista.

A 15 anni, durante la guerra eritreo-etiope, ha lasciato l'Etiopia dopo che alcuni familiari erano stati deportati in Eritrea e costretti a combattere nel conflitto. Trascorso un periodo in Islanda, ha ottenuto asilo politico negli Stati Uniti, dove già vivevano la madre e le sorelle maggiori.

Stabilitasi a Somerville, nel Massachusetts, ha riferito di aver subito forme di discriminazione razziale nella scuola superiore: alcuni insegnanti le avrebbero impedito l'accesso ai corsi Advanced Placement nonostante i suoi risultati scolastici. Dopo il diploma, un episodio con le forze dell'ordine ha rafforzato questa percezione: alla denuncia di un'aggressione subita da una sua amica di colore, la polizia aveva arrestato la vittima anziché raccogliere la segnalazione. Gebru ha definito l'accaduto un «chiaro esempio di razzismo sistemico».

Gli anni di Stanford e i primi passi nell'industria (2001-2013) Nel 2001 è stata ammessa alla Stanford University, dove ha conseguito la laurea triennale e magistrale in ingegneria elettrica. Durante gli studi ha svolto attività di volontariato politico: nel 2008 ha partecipato alla campagna presidenziale di Barack Obama con attività di porta a porta.

Apple (2004-2013) Mentre stava studiando Gebru è entrata in Apple come tirocinante ed ha lavorato nella divisione hardware alla progettazione di circuiti per componenti audio. Ha successivamente sviluppato un interesse crescente per i sistemi software di visione artificiale in grado di rilevare figure umane, contribuendo allo sviluppo di algoritmi di elaborazione del segnale per il primo iPad, senza considerare, in quel periodo, le possibili applicazioni di sorveglianza di tali tecnologie.

In occasione del movimento #AppleToo, nell'estate del 2021 - guidato dall'ingegnera Cher Scarlett, che ha dichiarato di essersi consultata anche con lei - Gebru ha dichiarato di aver vissuto «molti episodi gravissimi» in azienda e di essersi interrogata su come Apple riuscisse a «restare fuori dai riflettori». Ha inoltre sottolineato che da tempo era attesa una maggiore responsabilità da parte dell'azienda, e che la stampa aveva contribuito a proteggerla da un'adeguata attenzione pubblica.

Il dottorato e l'ingresso nella ricerca (2013-2018) Nel 2013 ha intrapreso il dottorato in visione artificiale presso la Stanford University, nel laboratorio di Fei-Fei Li, applicando tecniche di deep learning a immagini di Google Street View. La ricerca ha dimostrato che dai veicoli presenti nelle strade potessero essere dedotte variabili come orientamento di voto, reddito, appartenenza etnica e livello di istruzione.

Nel corso del dottorato Gebru ha redatto un articolo - mai pubblicato - in cui ha espresso le prime preoccupazioni sui rischi dell'intelligenza artificiale, collegandoli alla scarsa rappresentanza di donne e minoranze etniche nel settore, e alle proprie esperienze personali con le forze dell'ordine. Il testo richiamava un'indagine di ProPublica sulla polizia predittiva negli Stati Uniti, evidenziando come i sistemi di apprendimento automatico potessero riprodurre pregiudizi umani. L'articolo criticava inoltre la «cultura da club maschile» del settore, citando episodi di molestie subite durante conferenze, e metteva in discussione la tendenza a idealizzare alcune figure di spicco nel campo dell'IA.

Queste preoccupazioni hanno trovato conferma nel 2015, quando durante la partecipazione alla Neural Information Processing Systems (NIPS) a Montréal, Gebru ha rilevato la presenza di pochissimi ricercatori neri su 3.700 partecipanti. Tornata alla conferenza l'anno seguente ha constatato come la situazione non fosse migliorata: su 8.500 delegati ve ne erano solo cinque di colore, e lei era l'unica donna nera presente.

Questa esperienza l'ha portata a fondare, insieme alla collega Rediet Abebe, Black in AI, una comunità di ricercatori neri attivi nell'intelligenza artificiale, con l'obiettivo di aumentare la presenza, la visibilità e il benessere dei professionisti e dei leader neri nel settore.

Nel 2016 e nel 2018 è tornata in Etiopia come docente volontaria per il programma di formazione AddisCoder fondato da Jelani Nelson.

Nell'estate del 2017, conseguito il dottorato sotto la supervisione di Fei-Fei Li, ha presentato la sua ricerca al concorso LDV Capital Vision Summit, vincendo la competizione e avviando collaborazioni con imprenditori e investitori. Nello stesso anno è entrata in Microsoft come ricercatrice postdoc nel laboratorio Fairness, Accountability, Transparency, and Ethics in AI (FATE).

Sempre nel 2017 è intervenuta alla conferenza Fairness and Transparency, dove MIT Technology Review l'ha intervistata sui bias presenti nei sistemi di intelligenza artificiale e sul contributo che una maggiore diversità nei team avrebbe potuto apportare per mitigarli. Alla domanda su come la mancanza di diversità distorcesse i sistemi di IA, Gebru ha risposto sottolineando che tali pregiudizi riflettono quelli presenti tra gli stessi sviluppatori.

Nel 2018 è stata coautrice con Joy Buolamwini dello studio Gender Shades, che ha dato il nome a un progetto più ampio del Massachusetts Institute of Technology. L'analisi di sistemi di riconoscimento faccialeha rilevato che, in una specifica implementazione, le donne nere avevano una probabilità inferiore del 35% di essere riconosciute rispetto agli uomini bianchi.

Google (2018-2020) Nel 2018 Gebru è entrata in Google, dove ha co-guidato il team dedicato all'etica dell'intelligenza artificiale insieme a Margaret Mitchell, con l'obiettivo di studiare le implicazioni sociali dell'IA e migliorare la capacità delle tecnologie di produrre benefici per la società.

Nel 2019, con altri ricercatori, ha firmato una lettera indirizzata ad Amazon per chiedere l'interruzione della vendita della propria tecnologia di riconoscimento facciale alle forze dell'ordine. La richiesta si basava su uno studio del MIT che documentava come il sistema di Amazon presentasse maggiori difficoltà nell'identificazione delle donne con pelle scura rispetto ai software di altre aziende. In un'intervista al New York Times ha inoltre sostenuto che il riconoscimento facciale fosse, allo stato attuale, troppo pericoloso per essere impiegato in ambito di sicurezza e applicazione della legge.

Uscita da Google Nel 2020 è stata tra le autrici dell'articolo On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, che analizzava i rischi dei grandi modelli linguistici, tra cui l'impatto ambientale, i costi economici, l'opacità dei modelli, la possibilità di riprodurre pregiudizi presenti nei dati e il rischio di utilizzo per diffondere disinformazione.

Prima della pubblicazione Google ha richiesto la rimozione dell'articolo o dei nomi dei ricercatori dipendenti dell'azienda. A seguito di uno scambio di comunicazioni interne, nel dicembre 2020 il rapporto di lavoro tra Gebru e Google si è concluso in circostanze controverse: l'azienda ha dichiarato di aver accettato le sue dimissioni, mentre Gebru ha sostenuto di essere stata licenziata.

La vicenda ha suscitato un ampio dibattito pubblico: migliaia di dipendenti di Google e numerosi accademici hanno firmato una lettera di protesta chiedendo chiarimenti sull'accaduto e nove membri del Congresso hanno inviato una lettera a Google chiedendo chiarimenti sulle circostanze dell'uscita.

Mitchell ha criticato pubblicamente su Twitter il trattamento riservato da Google ai dipendenti impegnati a contrastare bias e tossicità nei sistemi di IA, incluso il presunto licenziamento di Gebru, ed è stata successivamente allontanata dall'azienda dopo aver presumibilmente creato script automatizzati per analizzare i server interni alla ricerca di prove del trattamento subito da Gebru.

Ricerca indipendente (2021-) Nel dicembre 2021 Gebru ha fondato il Distributed Artificial Intelligence Research Institute (DAIR), un centro di ricerca indipendente dedicato allo studio degli impatti sociali dell'intelligenza artificiale, con particolare attenzione agli effetti sui gruppi marginalizzati, sull'Africa e sugli immigrati africani negli Stati Uniti.

Uno dei primi progetti dell'istituto ha previsto l'analisi, tramite intelligenza artificiale, di immagini satellitari dei township sudafricani per studiare le eredità dell'apartheid.

Insieme al filosofo Émile P. Torres, ha coniato il termine TESCREAL per descrivere e criticare un insieme di correnti futuriste e tecnologiche - transumanesimo, estropianesimo, singolaritanismo, cosmismo russo, razionalismo, altruismo efficace e lungoterminismo - ritenute capaci di esercitare un'influenza orientata a destra nel settore Big Tech. I loro sostenitori sono stati paragonati da Gebru agli «eugenisti del XX secolo» per la produzione di progetti dannosi presentati come «a beneficio dell'umanità».

Ha inoltre criticato la ricerca sull'intelligenza artificiale generale (AGI), sostenendo che essa affonda le proprie radici nell'eugenetica e che l'attenzione dovrebbe essere spostata lontano da tale obiettivo, ritenendo intrinsecamente rischioso qualsiasi tentativo di svilupparla.

Premi e riconoscimenti

Nel 2019 Gebru, Joy Buolamwini e Inioluwa Deborah Raji hanno ricevuto il VentureBeat AI Innovations Award per la ricerca sui bias nei sistemi di riconoscimento facciale. Nel 2021 è stata inclusa tra i «50 greatest leaders» dalla rivista Fortune e tra le dieci persone che hanno maggiormente influenzato la scienza secondo la rivista Nature. Nel 2022 è stata inserita nella lista annuale delle cento persone più influenti del mondo dalla rivista Time. Nel 2023 ha ricevuto il Great Immigrants Award della Carnegie Corporation of New York ed è stata inclusa nella lista BBC 100 Women.

Pubblicazioni (parziali)

Note

Altri progetti

Collegamenti esterni