La normativa europea sull’intelligenza artificiale adotta un approccio basato sul rischio, classificando i sistemi di IA in diverse categorie a seconda del loro potenziale impatto sulla società e sui diritti fondamentali.

• Rischio inaccettabile: include usi dell’IA che violano i valori e i diritti fondamentali dell’UE e che sono quindi vietati. Esempi:
• Manipolazione delle persone o sfruttamento delle loro vulnerabilità.
• Punteggio sociale (classificazione delle persone in base ai loro comportamenti o caratteristiche).
• Polizia predittiva basata esclusivamente sulla profilazione.
• Raccolta massiva di immagini facciali da internet o telecamere di sorveglianza.
• Riconoscimento delle emozioni sul lavoro e a scuola, salvo eccezioni per sicurezza o salute.
• Identificazione biometrica remota in tempo reale nei luoghi pubblici (con limitate eccezioni per le forze dell’ordine).
• Rischio alto: riguarda sistemi di IA che possono avere impatti significativi sulla sicurezza e sui diritti delle persone. Questi sistemi devono rispettare requisiti specifici di affidabilità e trasparenza. Esempi:
• Sistemi di IA che influenzano decisioni critiche, come l’accesso a cure mediche, lavoro o prestiti.
• IA utilizzata dalla polizia per profilare individui o valutare il rischio di reati.
• Sistemi di IA impiegati in robot, droni o dispositivi medici.
• Rischio specifico per la trasparenza: alcune applicazioni di IA, come chatbot o deepfake, devono informare chiaramente gli utenti che stanno interagendo con un’intelligenza artificiale per evitare manipolazioni.
• Rischio minimo: la maggior parte dei sistemi di IA rientra in questa categoria e può essere utilizzata senza restrizioni particolari, ma i fornitori possono aderire volontariamente a codici di condotta per un’IA più affidabile.

Inoltre, la normativa tiene conto dei rischi sistemici legati a modelli di IA molto avanzati o diffusi, come quelli generativi, che potrebbero avere impatti su larga scala, ad esempio attraverso attacchi informatici o la diffusione di distorsioni nei dati.

L’Unione Europea e gli Stati membri già offrono una forte tutela dei diritti fondamentali e della non discriminazione. Tuttavia, alcune applicazioni di intelligenza artificiale, spesso complesse e poco trasparenti (le cosiddette “scatole nere”), possono rappresentare una sfida in questo ambito.

Per questo, la normativa sull’IA adotta un approccio centrato sull’uomo, imponendo regole di trasparenza e responsabilità per i sistemi ad alto rischio. Questi requisiti garantiscono che l’IA venga progettata fin dall’inizio nel rispetto delle leggi sui diritti fondamentali. Inoltre, forniscono alle autorità competenti gli strumenti per verificare che l’uso dell’IA sia conforme alle normative.

La legge prevede anche che alcuni soggetti che utilizzano sistemi di IA ad alto rischio debbano condurre una valutazione d’impatto sui diritti fondamentali, per prevenire possibili violazioni.

L’intelligenza artificiale (IA) comprende un insieme di tecnologie avanzate che permettono alle macchine di apprendere, adattarsi e svolgere attività tipicamente umane, come l’analisi dei dati e la previsione dei comportamenti.

L’IA è impiegata in diversi settori, tra cui:

• Pubblicità personalizzata: grazie all’analisi dei dati dei consumatori, l’IA consente di creare campagne pubblicitarie mirate, migliorando l’efficacia delle strategie di marketing.
• Assistenti virtuali: strumenti basati su IA, come chatbot e assistenti vocali, facilitano l’interazione tra aziende e clienti, offrendo supporto immediato e personalizzato.
• Servizi finanziari: l’IA è utilizzata per analizzare i comportamenti dei consumatori, migliorando la comprensione delle loro esigenze e ottimizzando l’offerta di prodotti e servizi.
• Sanità: l’IA contribuisce a migliorare l’esperienza del paziente, ad esempio attraverso l’analisi dei dati per fornire diagnosi più accurate e trattamenti personalizzati.

Per comprendere se un sistema di intelligenza artificiale (IA) sta influenzando le tue decisioni di acquisto o l’accesso al credito, è fondamentale che le aziende garantiscano trasparenza riguardo agli algoritmi utilizzati. Con l’entrata in vigore dell’AI Act dell’Unione Europea, prevista per il 2 febbraio 2025, i sistemi considerati ad alto rischio, come quelli impiegati nel credit scoring o nelle decisioni di assunzione, devono essere tracciabili e spiegabili ai consumatori. ​

L’AI Act stabilisce che le applicazioni di IA ad alto rischio devono rispettare requisiti rigorosi di trasparenza e sicurezza. Ciò significa che le aziende dovranno fornire informazioni chiare e comprensibili sulle modalità di funzionamento degli algoritmi e sui criteri adottati nelle decisioni automatizzate. Ad esempio, nel settore bancario, ciò implica che gli istituti finanziari devono comunicare ai clienti come vengono valutati i loro dati nel processo di concessione del credito.

Sì, ma la legge impone delle tutele. Il Regolamento Generale sulla Protezione dei Dati (GDPR, art. 22) stabilisce che le decisioni automatizzate con impatti significativi sulle persone devono essere trasparenti e offrire la possibilità di richiedere un intervento umano.

Il GDPR già prevede che, in caso di decisioni automatizzate, gli individui abbiano il diritto di ottenere “informazioni significative sulla logica utilizzata”, permettendo loro di comprendere e, se necessario, contestare tali decisioni.  

Per assicurarti che le tue decisioni siano informate e consapevoli, è consigliabile:​

• Richiedere informazioni: Se sospetti che una decisione sia stata influenzata da un sistema di IA, chiedi all’azienda coinvolta dettagli sul funzionamento dell’algoritmo e sui dati utilizzati.​
• Verificare la presenza di informative: Le aziende dovrebbero fornire informative chiare sull’uso dell’IA nei loro processi decisionali.​
• Esercitare i tuoi diritti: Se ritieni che una decisione automatizzata sia ingiusta o poco trasparente, puoi esercitare i tuoi diritti previsti dal GDPR, come il diritto di accesso, rettifica o opposizione.

Sì, l’intelligenza artificiale (IA) può, in determinate circostanze, discriminare gli individui basandosi sui loro dati personali. Questo accade quando i sistemi di IA, durante il loro addestramento, assimilano pregiudizi presenti nei dati storici, perpetuando o amplificando discriminazioni esistenti. Ad esempio, se un algoritmo viene addestrato su dati che contengono bias di genere o razziali, potrebbe riprodurre tali discriminazioni nelle sue decisioni.

Un caso emblematico riguarda l’uso del riconoscimento facciale, dove alcuni sistemi hanno mostrato tassi di errore più elevati nel riconoscere individui appartenenti a determinate etnie, portando a potenziali ingiustizie e discriminazioni.  Inoltre, l’IA può analizzare i dati personali per creare profili dettagliati degli individui, prevedendo comportamenti e preferenze. Sebbene ciò possa avere applicazioni utili, come nel marketing personalizzato, pone anche seri rischi di discriminazione, soprattutto se tali profili vengono utilizzati per decisioni su assunzioni, concessioni di credito o assicurazioni.  Per mitigare questi rischi, è fondamentale che le aziende adottino misure per garantire la trasparenza e l’equità nei loro sistemi di IA, monitorando e correggendo eventuali bias nei dati e negli algoritmi utilizzati.

L’intelligenza artificiale, se progettata e utilizzata correttamente, non crea né amplifica distorsioni, ma può invece contribuire a ridurre discriminazioni preesistenti, portando a decisioni più eque, ad esempio nella selezione del personale.

Per questo motivo, i sistemi di IA ad alto rischio devono rispettare requisiti obbligatori che ne garantiscano l’affidabilità. Devono essere progettati in modo da evitare risultati distorti, come falsi positivi o negativi che potrebbero penalizzare in modo sproporzionato gruppi vulnerabili sulla base di caratteristiche come etnia, genere o età.

Per ridurre il rischio di pregiudizi nei modelli, questi sistemi devono essere addestrati con dati rappresentativi e prevedere misure per rilevare e correggere eventuali distorsioni. Inoltre, devono essere tracciabili e verificabili, con documentazione chiara sui dati e i metodi di addestramento, così da consentire verifiche anche dopo l’immissione sul mercato.

Infine, è previsto un sistema di controllo continuo per garantire che i sistemi di IA siano monitorati e che eventuali rischi vengano tempestivamente individuati e mitigati.

L’uso dell’intelligenza artificiale spesso comporta la raccolta e l’elaborazione di dati personali. Per proteggere la tua privacy ed evitare un uso improprio delle tue informazioni, puoi adottare alcune precauzioni:

• Leggi le informative sulla privacy
  Prima di utilizzare un servizio basato su IA, verifica quali dati vengono raccolti, come vengono utilizzati e se vengono condivisi con terze parti. Le aziende sono tenute a fornire informazioni chiare e trasparenti in conformità al GDPR.
• Limita la condivisione dei dati personali
  Nelle impostazioni di app, social network e assistenti virtuali, puoi ridurre il livello di accesso ai tuoi dati (ad es. disattivando la raccolta di dati sensibili, geolocalizzazione o personalizzazione degli annunci).
• Usa il diritto di accesso e cancellazione dei dati
  Hai il diritto di sapere quali dati un’azienda ha raccolto su di te (art. 15 GDPR) e puoi richiederne la cancellazione (art. 17 GDPR, “diritto all’oblio”). Puoi anche chiedere la rettifica di informazioni inesatte o la limitazione del trattamento dei tuoi dati.
• Fai attenzione ai consensi e ai cookie
  Quando visiti un sito o usi un’app, verifica quali autorizzazioni concedi. Evita di accettare automaticamente tutti i cookie e rivedi le impostazioni di tracciamento.
• Utilizza strumenti per la protezione della privacy
  Puoi adottare misure aggiuntive come l’uso di VPN, browser con protezione anti-tracciamento e strumenti che bloccano la raccolta eccessiva di dati.
• Diffida di richieste sospette
  Se un sistema di IA ti chiede dati personali senza una chiara spiegazione, verifica l’attendibilità del servizio. Evita di fornire informazioni sensibili a chatbot o assistenti virtuali non verificati.

Se ritieni che un’azienda stia utilizzando l’intelligenza artificiale in modo non trasparente, discriminatorio o lesivo dei tuoi diritti, puoi intraprendere diverse azioni per tutelarti.

• Chiedere informazioni sull’uso dell’IA e sui tuoi dati personali
  Hai il diritto di sapere se un’azienda utilizza sistemi di IA nelle sue decisioni che ti riguardano e in che modo tratta i tuoi dati. Puoi:
  • Richiedere chiarimenti su come l’IA influenza un processo decisionale (ad esempio, nell’approvazione di un prestito o nella valutazione di un curriculum).
  • Esercitare i tuoi diritti previsti dal GDPR, tra cui l’accesso ai dati (art. 15), la rettifica (art. 16) o la cancellazione (art. 17).
  • Chiedere spiegazioni nel caso di decisioni automatizzate che abbiano un impatto significativo su di te (art. 22 GDPR).
• Segnalare l’azienda all’Autorità Garante per la Protezione dei Dati Personali (Garante Privacy)
  Se sospetti che un’azienda stia violando le normative sulla protezione dei dati (ad esempio, raccogliendo dati senza consenso o utilizzando IA in modo opaco), puoi presentare un reclamo al Garante per la Protezione dei Dati Personali.
• Rivolgerti a organizzazioni per la tutela dei consumatori o all’AGCM (Autorità Garante della Concorrenza e del Mercato) per pratiche scorrette.