Nell’era digitale in cui viviamo, l’Intelligenza Artificiale (IA) ha assunto un ruolo sempre più centrale nelle nostre vite, influenzando molti aspetti della società, inclusi quelli legati alla diversità e all’inclusione. Recentemente, durante un intervento presso un’associazione dedicata all’empowerment femminile, abbiamo avuto l’opportunità di esplorare il ruolo sempre più pervasivo dell’Intelligenza Artificiale (IA) nelle nostre vite e, di entrare nel dettaglio delle implicazioni di genere associate a questa tecnologia in rapida evoluzione.

La domanda che ci siamo poste è stata: come l’IA interagisce con i concetti di diversità e inclusione?Quali impatti di genere e quali rischi possono emergere da questa relazione?

L’Intelligenza Artificiale, Diversità e Inclusione: un’analisi necessaria

L’intelligenza artificiale è l’abilità di una macchina di mostrare capacità umane quali il ragionamento, l’apprendimento, la pianificazione e la creatività (Definizione Commissione Europea, 2020). Gli ingredienti dell’intelligenza artificiale sono: i codici, i programmi e i dati, oltre all’intervento umano in alcune parti. Da qui nascono gli impatti di genere.

Facciamo una fotografia della situazione. Le disparità di genere nell’ambito tecnologico non sono un fenomeno nuovo ma nel campo dell’intelligenza artificiale:

1. Fin dall’inizio, ci sono stati stereotipi di genere che hanno influenzato l’accesso delle donne alla tecnologia
2. Le barriere all’accesso (sociali e culturali) all’istruzione e alla formazione nel campo delle materie STEM hanno contribuito a una sottorappresentazione delle donne in questi ambiti
3. Gli algoritmi di IA sono addestrati con dati che riflettono le disuguaglianze e contengono sterotipi esistenti nella società. Se i dati contengono pregiudizi di genere, razziali o di altro tipo, gli algoritmi tendono a perpetuare e ad amplificare tali disuguaglianze.
4. La mancanza di diversità di genere nei team di sviluppo e design può portare a soluzioni tecnologiche che non tengono conto delle esigenze e prospettive delle donne o che sottovalutano l’impatto dei bias/pregiudizi.
5. Alcuni studi stanno mettendo in evidenza la maggior vulnerabilità delle donne agli impatti negativi dell’IA in settori come il lavoro, l’assistenza sanitaria e la sicurezza.
6. Le implicazioni etiche dell’IA includono anche considerazioni di genere. È importante interrogarsi su come garantire che i sistemi di IA siano equi e inclusivi.

Stereotipi di Genere nell’intelligenza artificiale: una realtà da affrontare

Ormai è noto, l’intelligenza artificiale può riflettere e persino amplificare gli stereotipi di genere presenti nella società. Ad esempio, nei settori come la salute e il lavoro, gli algoritmi basati sull’IA possono essere influenzati da dati storici che riflettono pregiudizi di genere radicati. Questo può portare a risultati discriminatori, come diagnosi errate o selezioni lavorative distorte, che colpiscono in particolare le donne e le minoranze.Ad esempio, se i dati storici di assunzione mostrano una preferenza per candidati maschi rispetto a quelli femminili, un algoritmo di selezione del personale addestrato su tali dati potrebbe perpetuare questa disuguaglianza.

l’intelligenza artificiale è già parte integrante delle nostre attività quotidiane, dalle semplici consulenze di assistenti vocali ai suggerimenti personalizzati per i ristoranti. Questo ci porta a riflettere sull’importanza di comprendere appieno cosa sia l’IA e quali siano i suoi effetti sulla società, soprattutto in termini di stereotipi di genere e disuguaglianza.

La definizione fornita dalla Commissione Europea ci offre una panoramica chiara: l’intelligenza artificiale è la capacità di una macchina di emulare capacità umane come il ragionamento, l’apprendimento e la creatività. Ma l’IA non è solo codici e dati; è anche influenzata dalle etichette (come i dati vengono classificati) e dalle azioni umane che la alimentano. È importante sottolineare che, nonostante il progresso e i continui miglioramenti, gli stereotipi di genere continuano ad influenzare il modo in cui l’intelligenza artificiale interagisce con il mondo.

Consideriamo ad esempio come l’IA possa amplificare gli stereotipi di genere e le disuguaglianze in diversi settori.

Esempi di stereotipi di genere nell’intelligenza artificiale

Come già scritto, l’intelligenza artificialeè già parte integrante delle nostre attività quotidiane. Alcuni esempi includono le semplici consulenze di assistenti vocali, come Siri o Alexa, che ci aiutano a rispondere a domande o a svolgere compiti, e i suggerimenti personalizzati per i ristoranti, basati sui nostri gusti e preferenze, forniti da app come Yelp o TripAdvisor, i navigatori utilizzano l’intelligenza artificiale per fornire indicazioni stradali ottimizzate in tempo reale, tenendo conto del traffico e delle condizioni stradali. I social media la utilizzano per personalizzare i contenuti che vediamo, suggerendo post, annunci e amicizie in base ai nostri interessi e comportamenti.

Questo ci porta a riflettere sull’importanza di comprendere appieno cosa sia l’IA e quali siano i suoi effetti sulla società, soprattutto in termini di stereotipi di genere e disuguaglianza. Consideriamo quindi come l’intelligenza artificiale possa amplificare gli stereotipi di genere e le disuguaglianze in diversi settori.

• Salute: stereotipi nella diagnosi e nel trattamento

Nell’ambito della salute, i dati storici utilizzati per addestrare gli algoritmi possono portare a diagnosi errate o a differenze di trattamento tra uomini e donne. Ad esempio, uno studio del 2019 ha rilevato che i modelli di apprendimento automatico per la diagnosi di malattie cardiache erano addestrati su dati in prevalenza maschili, il che può portare a diagnosi errate nelle donne. Le app di salute che utilizzano questi dati potrebbero suggerire alle donne di trattare sintomi di malattie cardiache come depressione anziché come infarto, con conseguenze potenzialmente gravi sulla loro salute.

• Riconoscimento facciale e vocale: disuguaglianza nell’accuratezza

Il riconoscimento facciale, fondamentale per molte applicazioni dell’intelligenza artificiale, in passato mostrava una accuratezza inferiore per le donne, a causa di dataset sbilanciati e modelli basati su caratteristiche maschili. Ancora oggi il riconoscimento del volto delle donne di coloreè meno accurato. Stesso discorso vale per lo speech recognition, il riconoscimento vocale. Molte applicazioni mostravano difficoltà a riconoscere voci femminili, chiedendo alle donne di parlare a voce più alta direttamente nel microfono. Uno degli strumenti di allenamento per le applicazioni di riconoscimento vocale sono stati i TED Talks, e questi sono al 70% realizzati da uomini. Fortunatamente queste problematiche sono emerse qualche anno fa e le soluzioni sono state trovate.

• Mondo del Lavoro: disuguaglianza nelle opportunità e nella remunerazione

Anche nel mondo del lavoro, l’intelligenza artificiale può perpetuare disuguaglianze di genere. LinkedIn ha scoperto, qualche anno fa, che a più uomini che donne venivano mostrate posizioni aperte semplicemente perché gli uomini cercavano più spesso nuove opportunità di lavoro.L’algoritmo aveva imparato questa predisposizione, perpetuandola. I sistemi di reclutamento e raccomandazione delle risorse umane si basano su dati che sono generalmente dati storici dei candidati di successo.Per questo motivo nel 2018 Amazon ha sospeso l’utilizzo di un algoritmo di screening dei curriculumche “preferiva” cv di uomini, visto il successo nelle posizioni di vertice, dove le donne erano sottorappresentate. È stato anche intercettato un comportamento degli algoritmi che, nei settori della tecnologia e dell’intelligenza artificiale propongono alle donne posizioni che richiedono meno competenze tecniche e posizioni con stipendi più bassi.

Promuovere l’inclusione nell’intelligenza artificiale: strategie e azioni

Per contrastare gli impatti negativi della IA sulla diversità e l’inclusione, è necessario un impegno congiunto da parte di aziende, istituzioni e individui. Ciò include la promozione di una maggiore diversità nei team che sviluppano e implementano l’IA, la creazione di politiche e procedure che affrontino attivamente i bias di genere nei dati e negli algoritmi, e l’adozione di approcci etici che considerino l’impatto sociale delle soluzioni di intelligenza artificiale. Più in dettaglio:

• La società e le aziende dovrebbero continuare a sostenere le donne che entrano nei settori STEM e dell’IA
• La connettività e l’accesso ai dati saranno requisiti cruciali per i lavori futuri
• Le donne dovrebbero avere la capacità di implementare, utilizzare e gestire sistemi tecnologici, inclusa l’IA (i dati dimostrano che, oggi, la utilizzano significativamente meno degli uomini)
• Governi, organizzazioni e tutti i dipendenti – non solo le donne – dovrebbero comprendere le sfide e le opportunità presentate dall’IA

Conclusioni: un futuro digitale equo ed equilibrato

L’UNESCO, nel 2023 ha concluso il suo rapporto “The Effect of AI on the working life of Women” (Gli impatti dell’IA sulla vita professionale delle donne) con questa affermazione: “Il design delle tecnologie, le disparità di genere nei dati e la velocità, l’ampiezza e la portata abilitate dall’IA possono contribuire a peggiorare la situazione delle lavoratrici se non si presta attenzione attiva.

Come CEO di ZaLa Consulting, da anni mi impegno a promuovere una discussione aperta e inclusiva sull’IA e i suoi impatti di genere. I benefici di un’adozione consapevole ed etica delle tecnologie emergenti è fondamentale per organizzazioni e persone.

È fondamentale che collaboriamo come comunità per garantire che l’IA rifletta i nostri valori di diversità e uguaglianza, creando così un futuro digitale più equo per tutti.

In conclusione, affrontare gli impatti di genere dell’intelligenza artificiale richiede un impegno collettivo e continuo. Dobbiamo essere consapevoli dei rischi e delle opportunità che questa tecnologia porta con sé e lavorare insieme per creare un mondo digitale più inclusivo e giusto per ogni persona.

Laura Zanfrini