Il Parlamento europeo ha compiuto un passo significativo verso la regolamentazione dell’intelligenza artificiale (AI), approvando una bozza di mandato negoziale. Queste regole, se approvate, segneranno una novità a livello mondiale e sono state concepite per promuovere un approccio etico e incentrato sull’uomo allo sviluppo dell’AI in Europa. Il mandato prevede disposizioni per la trasparenza, la gestione del rischio e la supervisione dei sistemi di IA, con particolare attenzione alla tutela dei diritti fondamentali e alla sicurezza.
Dopo il voto, il correlatore Brando Benifei (parlamentare del gruppo S&D) ha dichiarato: “Siamo sul punto di mettere in atto una legislazione epocale che deve resistere alla sfida del tempo. È fondamentale per costruire la fiducia dei cittadini nello sviluppo dell’intelligenza artificiale, per definire la via europea dell’AI, per affrontare gli straordinari cambiamenti che stanno già avvenendo e per orientare il dibattito politico sull’AI a livello globale” aggiungendo di essere certo “che il testo licenziato sia in grado di bilanciare la tutela dei diritti fondamentali con la necessità di fornire certezza giuridica alle imprese e di stimolare l’innovazione in Europa”.
Dragos Tudorache (Renew, Romania), correlatore, ha dichiarato: “Dato il profondo impatto trasformativo che l’IA avrà sulle nostre società ed economie, la legge sull’IA è molto probabilmente l’atto legislativo più importante di questo mandato, trattandosi del l primo atto legislativo di questo tipo a livello mondiale” l’obiettivo è di far sì che l’intelligenza artificiale sia incentrata sull’uomo, affidabile e sicura, “Abbiamo lavorato per sostenere l’innovazione dell’AI in Europa e per dare alle start-up, alle PMI e all’industria lo spazio per crescere e innovare, proteggendo al contempo i diritti fondamentali, rafforzando il controllo democratico e garantendo un sistema maturo di governance e applicazione dell’AI” ha concluso.
I punti chiave del regolamento sull’intelligenza artificiale sono:
1. Approccio basato sul rischio
Le norme proposte seguono un approccio basato sul rischio, con l’obiettivo di classificare i sistemi di AI in base ai loro rischi potenziali. I sistemi che presentano un livello di rischio inaccettabile per la sicurezza delle persone saranno severamente vietati. Ciò include i sistemi di AI che impiegano tecniche di manipolazione, sfruttano le vulnerabilità, si impegnano nel social scoring o utilizzano metodi subliminali.
2. Divieto di sorveglianza biometrica e di AI discriminatoria
Gli eurodeputati hanno introdotto emendamenti significativi all’elenco delle pratiche di AI vietate. Questi emendamenti vietano l’uso di sistemi di identificazione biometrica remota “in tempo reale” e “a posteriori” in spazi accessibili al pubblico, tranne nei casi di applicazione della legge con un’adeguata autorizzazione giudiziaria.
Inoltre, sono vietati i sistemi di categorizzazione biometrica che utilizzano caratteristiche sensibili come sesso, razza, etnia, cittadinanza, religione o orientamento politico.
I sistemi di polizia predittivi basati sulla profilazione, sulla localizzazione o su comportamenti criminali passati, così come i sistemi di riconoscimento delle emozioni nelle forze dell’ordine, nella gestione delle frontiere, nei luoghi di lavoro e negli istituti scolastici, sono considerati inaccettabili. È vietato anche il prelievo indiscriminato di dati biometrici dai social media o dai filmati delle telecamere a circuito chiuso per i database di riconoscimento facciale, in violazione dei diritti umani e della privacy.
3. Ampliamento delle aree ad alto rischio di AI
La classificazione delle aree di AI ad alto rischio è stata ampliata per includere i potenziali danni alla salute, alla sicurezza, ai diritti fondamentali, all’ambiente e alle campagne politiche. I sistemi di AI progettati per influenzare gli elettori durante le campagne politiche e i sistemi di raccomandazione utilizzati dalle piattaforme di social media con più di 45 milioni di utenti rientrano in questa categoria. L’inclusione di queste aree evidenzia la necessità di un’attenta regolamentazione e mitigazione dei rischi.
4. AI per scopi generali e modelli di base
Le norme comprendono i sistemi di AI per scopi generali, in particolare i modelli di base come il GPT, che si stanno rapidamente evolvendo nel campo dell’AI. I fornitori di tali modelli saranno obbligati a garantire una solida protezione dei diritti fondamentali, della salute e della sicurezza, delle considerazioni ambientali, della democrazia e dello Stato di diritto. Saranno tenuti a valutare e mitigare i rischi, rispettare i requisiti di progettazione, informazione e ambientali e registrarsi nella banca dati dell’UE.
I modelli di fondazione generativa, come il GPT, sono soggetti a ulteriori requisiti di trasparenza, tra cui la divulgazione dei contenuti generati dall’AI, la prevenzione della generazione di contenuti illegali e l’obbligo di fornire informazioni sui contenuti generati dall’’AI.
5. Bilanciare innovazione e diritti dei cittadini
Per promuovere l’innovazione dell’AI, le norme prevedono esenzioni per le attività di ricerca e per i componenti dell’AI forniti con licenze open-source. Sono inoltre incoraggiate le sandbox regolamentari, ambienti controllati creati dalle autorità pubbliche per testare l’AI prima della sua diffusione.
I regolamenti cercano di trovare un equilibrio tra la protezione dei diritti dei cittadini e lo stimolo all’innovazione nel panorama europeo dell’AI. I cittadini avranno il diritto di presentare reclami sui sistemi di AI e di ricevere spiegazioni sulle decisioni prese dai sistemi di AI ad alto rischio che hanno un impatto significativo sui loro diritti. L’Agenzia dell’UE per l’AI sarà responsabile del monitoraggio dell’attuazione del regolamento sull’AI.
Conclusioni
L’approvazione da parte del Parlamento europeo di una bozza di mandato negoziale per le prime regole sull’intelligenza artificiale (AI) al mondo, rappresenta una pietra miliare significativa nella regolamentazione dell’AI.
Le norme proposte mirano a garantire un approccio etico e incentrato sull’uomo allo sviluppo dell’AI, ponendo l’accento sulla trasparenza, sulla gestione del rischio e sulla supervisione.
Le norme prevedono divieti sulla sorveglianza biometrica, sul riconoscimento delle emozioni, sui sistemi di AI predittivi e sullo scraping dei dati biometrici per i database di riconoscimento facciale. Esse riguardano anche l’intelligenza artificiale per scopi generali e i modelli fondativi come il GPT, imponendo ai medesimi misure di trasparenza e requisiti di conformità.
Se da un lato le norme cercano di sostenere l’innovazione dell’AI nell’UE, dall’altro lato, danno priorità ai diritti dei cittadini, consentendo reclami e spiegazioni per le decisioni dei sistemi di AI.
Prossimi passi
Prima che possano iniziare i negoziati con il Consiglio sulla forma definitiva del regolamento, questa bozza di mandato negoziale deve essere approvata dal Parlamento in sessione plenaria.
Il voto è previsto durante la sessione parlamentare del 12-15 giugno.
