La commissione per la protezione dei consumatori e del mercato interno del Parlamento ha approvato giovedì una risoluzione che affronta diverse sfide derivanti dal rapido sviluppo delle tecnologie di intelligenza artificiale (AI) e di processo decisionale automatizzato (ADM). (in allegato la ricerca “Comprensione del processo decisionale algoritmico: opportunità e sfide”)

Quando i consumatori interagiscono con un sistema ADM, dovrebbero essere “adeguatamente informati su come funziona, su come raggiungere un essere umano con poteri decisionali e su come le decisioni del sistema possono essere controllate e corrette”, afferma il comitato.

Tali sistemi dovrebbero utilizzare solo set di dati imparziali e di alta qualità e “algoritmi spiegabili e imparziali” al fine di rafforzare la fiducia e l’accettazione dei consumatori, afferma la risoluzione. Dovrebbero essere istituite strutture di revisione per porre rimedio a possibili errori nelle decisioni automatizzate. Dovrebbe anche essere possibile per i consumatori chiedere la revisione umana e il ricorso a decisioni automatizzate che siano definitive e permanenti.

“Gli esseri umani devono sempre essere in ultima analisi responsabili e in grado di scavalcare le decisioni” che vengono prese attraverso i processi ADM, in particolare in relazione alle professioni mediche, legali e contabili e del settore bancario, sottolineano i deputati.

Adeguare le norme di sicurezza e responsabilità alle nuove tecnologie

I prodotti abilitati per l’IA possono evolversi e agire in modi non previsti al momento della loro prima immissione sul mercato. I deputati esortano la Commissione a presentare proposte per adattare le norme di sicurezza dell’UE per i prodotti (ad esempio le direttive sulle macchine e la sicurezza dei giocattoli) per garantire che i consumatori siano protetti dai danni, i produttori siano chiari sui loro obblighi e gli utenti siano informati sull’uso di tali prodotti.

La direttiva sulla responsabilità da prodotto, adottata oltre 30 anni fa, dovrebbe anche essere aggiornata per adattare concetti quali “danno” e “difetto” del prodotto, nonché le norme che regolano l’onere della prova, afferma il comitato.

I deputati chiedono un sistema di valutazione del rischio per AI e ADM e un approccio comune dell’UE per aiutare a garantire i benefici di tali processi e mitigare i rischi in tutta l’UE.

Verifica prezzi differenziati e discriminazione

Ai sensi del diritto dell’UE, gli operatori economici devono informare i consumatori quando il prezzo di beni o servizi è stato personalizzato sulla base dell’ADM, ricordano gli eurodeputati, chiedendo alla Commissione di monitorare da vicino l’attuazione di tali norme. Deve inoltre verificare in che modo viene applicato il regolamento UE che vieta i blocchi geografici ingiustificati per garantire che l’ADM non venga utilizzato per discriminare i consumatori in base alla loro nazionalità, luogo di residenza o luogo temporaneo.

Petra De Sutter (Verts / ALE, BE), presidente del Comitato per il mercato interno e la protezione dei consumatori, ha dichiarato: “La tecnologia nel campo dell’intelligenza artificiale e del processo decisionale automatizzato sta avanzando a un ritmo straordinario. Oggi il comitato ha accolto con favore il potenziale di questi progressi, sottolineando allo stesso tempo tre importanti questioni che devono essere affrontate. Dobbiamo assicurarci che sia garantita la protezione e la fiducia dei consumatori, che le norme dell’UE in materia di sicurezza e responsabilità per prodotti e servizi siano idonee allo scopo nell’era digitale e che i set di dati utilizzati nei sistemi decisionali automatizzati siano di alta qualità e sono imparziali ”.

Prossimi passi

La risoluzione, approvata in commissione con 39 voti favorevoli, nessuno contrario e quattro astensioni, sarà votata dall’intera Camera in una prossima sessione plenaria. Alimenterà ulteriormente il lavoro del Parlamento su questo argomento.

Dopo la votazione in Aula, la risoluzione sarà trasmessa al Consiglio dell’UE (Stati membri) e alla Commissione, in modo tale da tener conto delle opinioni dei deputati su AI e ADM. La Commissione ha annunciato che dovrebbe presentare i suoi piani per un approccio europeo all’IA il 19 febbraio 2020.