AI e patriarcato: gli algoritmi fanno mansplaining.

di Elena Codeluppi.

L’AI è spesso presentata come il futuro della tecnologia, ma, quando osserviamo da vicino il modo in cui funziona, emergono chiari segnali di come gli algoritmi non siano affatto privi di pregiudizi legati al patriarca. L’AI apprende dai dati che le forniamo, e se questi dati riflettono una società in cui il potere è ancora distribuito in modo non equo, anche le decisioni prese dagli algoritmi tendono a riprodurre le stesse dinamiche.

Un esempio evidente è il settore della selezione del personale, dove gli algoritmi utilizzati per il recruiting tendono a penalizzare i curriculum femminili. Se il sistema è addestrato su dati storici in cui le posizioni di leadership sono state prevalentemente maschili, l’AI può concludere erroneamente che “uomo” sia sinonimo di “candidato ideale”. Questo non è il frutto di una cattiva intenzione, ma il risultato di un problema strutturale: l’AI, come ogni altra tecnologia, è il prodotto delle persone che la sviluppano, e se queste persone non considerano la diversità nei dati di partenza, il rischio di bias è inevitabile.

Diversi studi hanno evidenziato che i modelli di linguaggio di grandi dimensioni (LLM) tendono ad associare professioni scientifiche agli uomini e ruoli legati alle lingue o alla cucina alle donne, perpetuando così stereotipi di genere. Ad esempio, una ricerca ha mostrato che questi modelli sono da 3 a 6 volte più propensi ad associare una professione al genere stereotipicamente correlato. ​In un documento UNESCO “Challenging systematic prejudices: an investigation into bias against women and girls in large language models”, pubblicato a marzo 2024, si conferma la presenza di bias di genere nei LLM. Lo studio ha analizzato modelli come GPT-2 e Llama 2, rilevando pregiudizi e sottolineando che gli sforzi finora compiuti per mitigarli non sono stati sufficienti. ​Questi bias possono manifestarsi anche nei sistemi di traduzione automatica. Ad esempio, traducendo dal turco la frase “o bir doktor”, che è neutra rispetto al genere, alcuni sistemi restituiscono “lui è un dottore”, mentre “o bir hemşire” viene tradotto come “lei è un’infermiera”, riflettendo stereotipi di genere nelle professioni.

Un altro aspetto interessante è il modo in cui l’AI viene progettata nei prodotti di consumo. Assistenti virtuali come Siri, Alexa e Cortana sono quasi sempre femminili, con voci morbide e un atteggiamento servizievole. Questo riflette, più che una scelta tecnica, una visione del mondo ancora fortemente influenzata da stereotipi di genere, in cui la donna è vista come figura di supporto. Al contrario, nei settori dove l’intelligenza artificiale prende decisioni strategiche—come la finanza o la sicurezza—non vi è alcuna caratterizzazione di genere, e spesso questi sistemi vengono associati a un’immagine più neutra o maschile.

Il problema non riguarda solo i prodotti, ma anche chi progetta l’AI. Oggi il settore tecnologico è ancora dominato da uomini: nel 2022, le donne rappresentavano solo il 28% della forza lavoro nel settore tecnologico e appena il 5% delle posizioni dirigenziali. Questa sottorappresentazione non è solo una questione di equità, ma ha conseguenze concrete. Se chi sviluppa l’AI non ha esperienze dirette di discriminazione di genere o di altre forme di esclusione, è più probabile che certi problemi vengano ignorati o sottovalutati. Questo spiega, ad esempio, perché i sistemi di riconoscimento facciale hanno tassi di errore molto più elevati per le donne, in particolare se nere, rispetto agli uomini bianchi. Il motivo? I dataset utilizzati per addestrare questi sistemi contengono più immagini di uomini bianchi, e chi progetta l’AI spesso non si pone il problema di garantire una rappresentazione equa di tutti i gruppi sociali.

Un ulteriore elemento su cui riflettere è la narrazione che accompagna lo sviluppo dell’AI. Spesso si sente dire che l’intelligenza artificiale è inevitabile, che sarà il futuro e che dobbiamo adattarci. Questa retorica rischia di nascondere un aspetto fondamentale: l’AI non è un fenomeno naturale, ma il risultato di scelte umane, economiche e politiche. Dire che “l’AI funziona così” significa deresponsabilizzare chi la progetta e chi la utilizza, evitando di affrontare le questioni di equità e giustizia sociale che sono già presenti nella società. Anche nel mercato del lavoro, queste disuguaglianze emergono chiaramente: nel settore tecnologico, le donne guadagnano in media il 19% in meno rispetto ai colleghi uomini, mentre nelle discipline STEM (Scienza, Tecnologia, Ingegneria e Matematica) costituiscono solo il 28% dei laureati in ingegneria e il 22% degli specialisti in intelligenza artificiale.

Ma questo scenario non è immutabile. Sempre più ricercatrici e sviluppatori stanno lavorando per creare modelli di AI più inclusivi, dataset più diversificati e strumenti per ridurre il bias algoritmico. La sfida è far sì che l’intelligenza artificiale non si limiti a riprodurre le disuguaglianze esistenti, ma possa essere usata per costruire un futuro più equo. Affinché questo accada, è essenziale aumentare la presenza di donne e di gruppi sottorappresentati nel settore tecnologico, adottare un approccio più critico nello sviluppo degli algoritmi e riconoscere che nessuna tecnologia è neutrale: ogni sistema di intelligenza artificiale riflette il mondo di chi lo crea.