Pubblichiamo qui di seguito un approfondimento a cura di Francesca Romana Pesce, autrice della tesi “Gender, Suistainable Development and Rules for Artificial Intelligence: Is Innovation Innovating?”, 2a classificata nell’edizione 2020 del Premio Valeria Solesin, istituito dal Forum della Meritocrazia.

In che modo l’intelligenza artificiale non rispetta la parità di genere?

Nel migliore dei mondi possibili, l’intelligenza artificiale dovrebbe supportare lo sviluppo. Eppure, porta con sé molti limiti e molte discriminazioni propri della nostra società, uno su tutti la disparità di genere. Nella sua introduzione alle United Nation Activities on AI, lo ha sottolineato anche il segretario generale dell’International Telecommunication Union (ITU), Houlin Zao, offrendo un punto di vista che sembra condiviso da tutti, ma che certamente non è scontato.

Quando gli algoritmi sono sessisti – e razzisti?

Joy Buolamwini, informatica del MIT Media Lab, e Timnit Gebru, ricercatrice di Microsoft, hanno scoperto che un algoritmo implementato in sistemi di riconoscimento facciale effettuava una discriminazione nell’elaborazione dei dati. Testandolo, le due scienziate hanno rilevato che la classificazione, basata su sesso ed etnia, perdeva in accuratezza quando si trattava di persone con la pelle più scura e di genere femminile. Secondo lo studio, i volti delle donne di colore ricevono la classificazione meno accurata, con un tasso di errore del 34,7%, rispetto al tasso di errore maschile dello 0,8%. Algoritmi come quello testato nello studio di Buolamwini e Gebru sono usati, per scopi legali, nei sistemi di sorveglianza per il rilevamento e il riconoscimento dei volti: una percentuale di errore come quella del 34,7% per le donne di colore appare estremamente rilevante e degna di nota.

Quale è il genere della AI?

Il grafico sotto riportato mostra come l’attribuzione del genere nell’AI sembri dipendere dal ruolo che si intende farle svolgere. Gli assistenti digitali sono a netta maggioranza di genere femminile mentre i protagonisti di pellicole cinematografiche sono invece a maggioranza uomini. Altro elemento di particolare rilevanza in questo ambito è il fatto che intelligenze artificiali che sfidano la mente umana a giochi come Jeopardy, scacchi e Go abbiano nomi neutri o maschili come Watson, Deep Blue e AlphaGo.

Schnoebelen, The Gender of Artificial Intelligence, (2016), Medium.

Le assistenti virtuali non dicono mai di no

Una società che sviluppa assistenti digitali di supporto per camionisti ha scoperto che i loro dispositivi sono stati esposti a conversazioni sessuali fino a un tasso del 5%. Una percentuale che, plausibilmente, è molto più alta, se si tiene conto che molte interazioni di questo tipo potrebbero essere sfuggite all’analisi, visto che non tutti i discorsi di carattere sessuale contengono lessico sessualmente esplicito.

Nella tabella qui sotto, è rappresentata una panoramica di alcune affermazioni a sfondo sessuale abbinate alle rispettive risposte fornite dagli assistenti digitali più comunemente utilizzati. La ricerca, effettuata nel 2017, mostra come, fondamentalmente, non vi erano risposte negative a un’aggressione sessuale verbale.

UNESCO, I’d Blush if I Could closing gender divides in digital skills through education, (2019) EQUALS, p.107.

Come risolvere il problema?

Al fine di evitare che le nuove tecnologie perpetuino discriminazioni di genere, una soluzione proposta da molti esperti è quella promuovere e mettere in evidenza il lavoro svolto dalle donne nell’ambito della tecnologia e nelle discipline STEM (Science, Technology, Engineering and Mathematics). L’importanza di tale tesi è stata recentemente ribadita da Emilia Gomez, ricercatrice e docente universitaria nell’ambito machine learning, durante l’evento Spotlight on Women in Cybersecurity, organizzato dalla Commissione Europea. Un’altra soluzione proposta è quella di migliorare la rappresentanza femminile nei settori in cui la predominanza maschile è estremamente accentuata (in particolare quelli dell’ingegneria, dei servizi IT, del software, della finanza e dello sviluppo dell’IA), anche e soprattutto a livello manageriale, dove si prendono le decisioni e si costruisce la cultura aziendale: dove si fa la differenza.

Francesca Romana Pesce – trainee @ 42Law Firm & 2a classificata al Premio Valeria Solesin 2020