Oggi, i sistemi di intelligenza artificiale sono diventati sempre più invasivi tanto che gli algoritmi utilizzati influenzano particolarmente le scelte e le opportunità, senza che le persone se ne rendano conto. Decidono quali annunci pubblicitari vedere, quali prestiti è possibile ottenere, quali contenuti seguire sui social in base alle preferenze, se avere possibilità di fare un colloquio di lavoro. I cosiddetti bias dell’intelligenza artificiale sono distorsioni o pregiudizi che alterano il modo in cui gli algoritmi analizzano i dati e prendono decisioni. Queste distorsioni possono emergere in diverse fasi, dalla progettazione all’addestramento dei sistemi di IA fino all’applicazione pratica portando a risultai poco equi o discriminatori.
Ma cosa succede se questi sistemi, invece di essere imparziali, finiscono per discriminare?
Nel mondo del lavoro, potrebbe capitare che i software di selezione automatica del personale scartino dei CV in base a criteri o parole chiave inseriti in schemi predefiniti. Questo significa che il candidato, nonostante abbia le competenze necessarie, potrebbe essere scartato solo perché non possiede i criteri inseriti nel sistema. Oppure, sempre nel mondo del lavoro, se l’algoritmo di selezione è addestrato su un database in cui la maggioranza dei dipendenti in posizione di leadership sono uomini, potrebbe scartare candidature femminili. Nel settore bancario invece, alcune banche potrebbero negare un prestito se l’algoritmo si basa sulla storia finanziaria del richiedente nonostante quest’ultimo abbia entrate stabili e sia in grado di poter pagare il debito. Alcuni sistemi di IA potrebbero discriminare richiedenti prestiti e finanziamenti provenienti da quartieri svantaggiati.
Gli algoritmi sono strumenti potenti ma non sono perfetti, se non gestiti correttamente possono rafforzare stereotipi e discriminazioni senza eliminarli. Per questo motivo è indispensabile che i giovani consumatori sappiano come difendersi. Per contrastare la discriminazione algoritmica ecco alcuni passi fondamentali:
- Diritto alla spiegazione e trasparenza: le aziende e le istituzioni dovrebbero essere obbligate ad informare gli utenti su come funzionano gli algoritmi e su come prendono le decisioni importanti. il GDPR (Regolamento 2016/679) prevede di poter chiedere spiegazioni sulle decisioni automatizzate.
- Supervisione umana: non si possono affidare all’intelligenza artificiale tutte le decisioni su questioni che riguardano il lavoro o la finanza. Un controllo umano deve essere essenziale per correggere eventuali errori o discriminazioni.
- Dati più equi: Se gli algoritmi sono basati su dati distorti, i risultati continuano ad essere discriminatori. Diventa fondamentale fare in modo che i dati siano rappresentativi di tutta la popolazione per non replicare tali risultati.
- Segnalare le discriminazioni: se si sospetta di essere stato vittima di una decisione discriminatoria e ingiusta, diventa importante segnalare il problema perché non venga ripetuto in futuro.
Foto di Pixabay