Algoritmi dell’oppressione: vediamo come, secondo Safiya Umoja Noble, i motori di ricerca riflettono i pregiudizi razziali e sociali.

Di Massimiliano Priore

Algoritmi dell’oppressione: il lato negativo di Google

Accusiamo spesso i social network di essere ambienti in cui si diffondono mali come il complottismo, le fake news, il clickbaiting, l’odio razziale e il sessismo.

Al contrario, i motori di ricerca sono considerati più sani. Quasi la parte nobile del Web. Certo, anche loro propongono contenuti che rientrano nelle categorie che ho elencato sopra, ma dipende dalle query. Inoltre, se facciamo qualche prova,  vediamo che questi contenuti non sono quasi mai ai primi posti.

ALGORITMI DELL’OPPRESSIONE

Ma Safiya Umoja Noble la vede un po’ diversamente. Infatti, ha scritto un libro che si chiama Algoritmi dell’oppressione. Come i motori di ricerca favoriscono il razzismo. Il titolo è piuttosto eloquente e il concetto viene rafforzato dalla copertina, in cui leggiamo frasi come:

·     perché le donne nere sono così arrabbiate

·     perché le donne nere sono così rumorose

·     perché le donne nere sono così cattive

·     perché le donne nere sono così attraenti.

Sono suggest (suggerimenti) generati automaticamente in seguito alla digitazione delle parole «perché le donne nere sono così».

Secondo l’autrice, non è un caso: gli algoritmi di Google – sostiene – seguono le logiche della parte dominante della società. Detto in modo diverso, afferma che i loro creatori non hanno impostato i parametri in modo neutrale. Tanto più che, per esempio, negli Stati in cui sono vietati, Google non presenta contenuti antisemiti.

Razzismo e serp

Uno dei capitoli più interessanti è quello che parla di una strage compiuta il 17 giugno 2015 da Dylan Roof, un nazionalista bianco di 21 anni, nella chiesa episcopale africana di Charleston (Carolina del Sud).

Ci interessa perché Roof ha corroborato le proprie convinzioni razziste con il materiale presente sul sito del Consiglio dei cittadini conservatori, un’associazione suprematista bianca, che probabilmente era posizionato molto bene nella serp per le query fatte da Roof. 

Safiya Umoja Noble scrive:

«[…] ho cercato anch’io le parole crimini dei neri sui bianchi. […] In due ricerche diverse […] il sito di NewNation.org è stato il primo risultato, seguito da una serie di indirizzi web conservatori e nazionalisti bianchi che promuovevano l’odio verso gli africani e gli ebrei. […]NewNation promuoveva così tanto l’odio anti-Nero (sic) che nel 2013 il suo fondatore era stato oggetto di un attacco informatico da parte di un membro di Anonymous […]» (p. 181).

CHI È SAFIYA UMOJA NOBLE

Safiya Umoja Noble insegna Studi di genere e Studi afroamericani all’UCLA (University of California, Los Angeles)), dove dirige il Center for Critical Internet Inquiry.

È membro della Cyber Civil Rights Initiative, attiva contro le molestie online ai danni delle persone fragili

Nel 2021 le è stata assegnata la MacArtur fellowship per gli studi sull’informazione e sugli algoritmi.

L’UCLA è stata uno dei primi quattro atenei collegati ad Arpanet, l’antesignana di Internet.

CONCLUSIONE

 Qual è la soluzione? Leggiamo qualche passo dell’estratto.

 «[…] In gioco c’è l’idea di un’informazione non commerciale, il diritto all’oblio delle nostre tracce online e la regolamentazione dell’intelligenza artificiale, rispetto alla quale prevale un ingenuo ottimismo. Ripartire dalla prospettiva delle comunità che sono più penalizzate dalle logiche del capitalismo digitale […] è un passaggio necessario per una lotta alle disuguaglianze all’altezza del presente».

Titolo: Algoritmi dell'oppressione. Come i motori di ricerca favoriscono il razzismo
Autore: Safiya Umoja Noble. Traduzione del gruppo Ippolita
Genere: Saggio
Casa editrice: Tamu Editore
Data di Pubblicazione: 2025
Pagine: 288 p.,