É nota per le sue ricerche sui bias algoritmici nei motori di ricerca commerciali e sulla discriminazione razziale e di genere nei sistemi digitali; ha formalizzato e reso celebre l'espressione "oppressione algoritmica" (algorithmic oppression) attraverso il suo lavoro e il saggio Algorithms of Oppression: How Search Engines Reinforce Racism pubblicato nel 2018.

Nel 2020 è stata nominata commissario della University of Oxford Commission on Artificial Intelligence and Good Governance e membro del Global Future Council on Artificial Intelligence for Humanity al World Economic Forum.

Nel 2021 è stata insignita del premio MacArthur Fellowship per il suo lavoro innovativo sui pregiudizi algoritmici.

Biografia Safiya Noble è cresciuta a Fresno, in California. Nel giugno 1996 ha conseguito una laurea in sociologia con specializzazione in studi etnici presso la California State University, Fresno.

Durante gli anni universitari è stata attiva nella vita politica del campus, partecipando a proteste contro l'apartheid e a campagne per l'uguaglianza razziale e di genere. É stata membro dell'Associated Students, Inc. e della California State Student Association.

Ha in seguito intrapreso una carriera professionale di oltre un decennio nei settori del marketing multiculturale, della pubblicità e delle pubbliche relazioni.

Nel 2009 ha conseguito un master in biblioteconomia e scienze dell'informazione, con specializzazione in Community Informatics, presso l'Università dell'Illinois Urbana-Champaign, dove ha conseguito anche il dottorato di ricerca nel dicembre 2012, con una tesi intitolata Searching for Black Girls: Old Traditions in New Media, sotto la supervisione di Linda C. Smith. La tesi ha analizzato il modo in cui genere e razza si manifestano nelle piattaforme tecnologiche.

Carriera Dopo il dottorato ha lavorato come docente all'Università dell'Illinois Urbana-Champaign nei dipartimenti di studi afroamericani, studi sui media e cinema e nell'Istituto per la ricerca sulla comunicazione. Nel 2014 è entrata a far parte del Dipartimento di studi sull'informazione dell'UCLA. Ha ricevuto nel 2016 l'Early Career Award e la borsa Hellman Fellow. Nel 2018 è stata assunta stabilmente con il ruolo di professoressa associata.

Dal 2017 al 2019 è stata visiting professor presso l'Università della California del Sud, concentrandosi sulle implicazioni politiche e sui diritti umani e civili legati alle piattaforme dei media digitali, promuovendo l'integrazione di tali tematiche nei percorsi formativi STEM.

Il 25 settembre 2020 è stata nominata tra i 25 membri del Real Facebook Oversight Board, un gruppo di monitoraggio indipendente di Facebook. Nel 2020 è stata inoltre nominata membro della University of Oxford Commission on Artificial Intelligence and Good Governance e membro del Global Future Council on Artificial Intelligence for Humanity al Forum economico mondiale.

Nel 2021 ha fondato Equity Engine, un'organizzazione non profit per accelerare gli investimenti in aziende, istruzione e reti guidate da donne di colore. Fa parte del consiglio di amministrazione della Cyber Civil Rights Initiative, che si occupa di persone vulnerabili alle molestie online.

È membro fondatore dell'International Panel on the Information Environment e Direttrice ad interim della UCLA DataX Initiative.

Ricerca Noble ha condotto ricerche accademiche su Internet e sul suo impatto sulla società attraverso un approccio sociologico e interdisciplinare, evidenziando le intersezioni tra media digitali, razza, genere, cultura, potere e tecnologia. La sua competenza su questioni di pregiudizi algoritmici e sulla discriminazione tecnologica è stata trattata da testate internazionali, come Rolling Stone, The Guardian, BBC, CNN International, USA Today, Wired, Full Frontal con Samantha Bee e The New York Times. Nei suoi scritti ha inoltre denunciato la progressiva privatizzazione delle infrastrutture digitali e dell'accesso all'informazione da parte delle grandi aziende tecnologiche.

La sua attività di ricerca si concentra su come fattori come genere, tecnologia e cultura influenzino la progettazione e l'uso di Internet, con contributi apparsi in pubblicazioni accademiche e media popolari tra cui Time e Bitch.

In ambito editoriale, ha co-curato i libri Emotions, Technology & Design e The Intersectional Internet: Race, Sex, Culture and Class Online. Ricopre il ruolo di co-curatrice della sezione Commentary & Criticism della rivista Feminist Media Studies ed è membro di diverse riviste accademiche e comitati consultivi, tra cui Taboo: The Journal of Culture and Education e Journal of Critical Library and Information Studies.

Tra il dicembre 2017 e il gennaio 2018 ha contribuito con una serie di saggi alla piattaforma online del Fotomuseum di Winterthur, esplorando le intersezioni tra razza, genere e infrastrutture digitali.

Algoritmi dell'oppressione Nell'introduzione alla sua opera di esordio, Algorithms of Oppression: How Search Engines Reinforce Racism, ha raccontato di aver tratto ispirazione per il suo lavoro nel 2011, quando dopo aver effettuato una ricerca su Google inserendo i termini "black girls" è rimasta inorridita nel vedersi restituire come primo risultato il sito pornografico HotBlackPussy.com. I termini suggeriti da Google e i risultati della prima pagina riflettevano stereotipi sessualizzati e denigratori (come "Big Booty" o "angry black women"), non paragonabili ai risultati molto più "neutri" o positivi ottenuti cercando "white girls".

Noble ha coniato il termine «oppressione algoritmica» per descrivere un concetto sociologico che pone l'accento sulla "natura" dell'oppressione, definendola come un fenomeno sistemico esercitato attraverso la tecnologia. Tale oppressione colpisce in modo specifico le persone di colore, le donne e altri gruppi marginalizzati.

Noble analizza come i motori di ricerca, presentati come neutrali, incorporino pregiudizi contro le persone di colore e documenta come la comunità nera venga commercializzata dalle aziende tecnologiche tramite algoritmi "scatola nera" che rendono opaco il processo di generazione dei risultati di ricerca, privilegiando sistematicamente le prospettive e i soggetti bianchi e discriminando le donne di colore.

Noble sostiene che i motori di ricerca non sono strumenti neutrali, ma sistemi progettati da esseri umani che replicano le strutture di potere delle società occidentali in cui vengono costruiti, con il sessismo e il razzismo che vi sono incorporati. Nei suoi scritti ha espresso critiche sulla perdita di beni pubblici a favore delle grandi aziende tecnologiche.

L'opera è stata inclusa nella lista dei migliori libri per adulti del 2018 della New York Public Library e recensita dal Los Angeles Review of Books.

Riconoscimenti Nel 2018 ha ricevuto il Distinguished Alumni Award dalla California State University, Fresno.

Nel 2020 ha ricevuto il Distinguished Alumna Award dall'iSchool Alumni Association ed è stata la prima vincitrice del Diversity and Inclusion Award dell'Illinois Alumni Association all'Università dell'Illinois Urbana-Champaign.

Nel 2021 è stata insignita della borsa di studio MacArthur, riconoscimento noto come «Genius Award», per il suo lavoro pionieristico sui pregiudizi algoritmici.

Nel 2022 è stata la prima vincitrice del NAACP-Archewell Digital Civil Rights Award.

Pubblicazioni (parziali)

Articoli

Libri

Note

Voci correlate Etica dell'intelligenza artificiale Intelligenza artificiale Motore di ricerca Timnit Gebru Rumman Chowdhury

Altri progetti

Collegamenti esterni Sito personale Center for Critical Internet Inquiry, UCLA