Artificial Intelligence Act: l'Europa approva l'accordo provvisorio

I negoziatori del Parlamento e del Consiglio europei hanno raggiunto un accordo provvisorio circa il regolamento sull'Intelligenza Artificiale nell'Unione Europea (Artificial Intelligence Act).

Questo regolamento mira a garantire che i diritti fondamentali dell'individuo, la democrazia, lo stato di diritto e la sostenibilità ambientale siano protetti dall'Intelligenza Artificiale ad alto rischio, promuovendo al contempo l'innovazione e anche lo sviluppo delle piccole realtà imprenditoriali per rendere l'Europa leader nel settore. L'accordo, seppur provvisorio, è stato accolto con grande entusiasmo, dato l'iter finora piuttosto travagliato a causa di posizioni contrastanti dei legiferanti. “È stato lungo e intenso, ma ne è valsa la pena - ha dichiarato l'europarlamentare italiano e correlatore al regolamento Brando Benifei - Grazie alla determinazione del Parlamento europeo, la prima legislazione orizzontale al mondo sull'intelligenza artificiale manterrà la promessa europea, garantendo che i diritti e le libertà siano al centro dello sviluppo di questa tecnologia innovativa. La corretta attuazione sarà fondamentale: il Parlamento continuerà a vigilare per garantire il sostegno a nuove idee imprenditoriali con sandbox e regole efficaci per i modelli più potenti”.

Ugualmente, il collega correlatore rumeno Dragos Tudorache ha sottolineato che “L'UE è la prima al mondo a mettere in atto una solida regolamentazione sull'intelligenza artificiale, guidandone lo sviluppo e l'evoluzione in una direzione incentrata sull'uomo. La legge sull'intelligenza artificiale stabilisce norme per modelli di intelligenza artificiale grandi e potenti, garantendo che non presentino rischi sistemici per l'Unione e offre solide garanzie per i nostri cittadini e le nostre democrazie contro eventuali abusi della tecnologia da parte delle autorità pubbliche. Protegge le nostre PMI, rafforza la nostra capacità di innovare e guidare nel campo dell'intelligenza artificiale e tutela i settori vulnerabili della nostra economia”.

I punti principali dell'accordo provvisorio

Il regolamento sull'IA sembra quindi aver trovato finalmente un percorso condiviso grazie a questo accordo relativo ad alcuni temi importanti.

In primo luogo, sono state identificate alcune applicazioni di Intelligenza Artificiale da vietare perché ritenute potenzialmente pericolose per i diritti dei cittadini e la democrazia.

Nello specifico, esse riguardano: i sistemi di categorizzazione biometrica che utilizzano caratteristiche sensibili (come le convinzioni politiche, religiose e filosofiche, nonché l'orientamento sessuale e la razza); la raccolta indiscriminata di immagini facciali da Internet o filmati da sistemi di videoregistrazione CCTV per creare dei grandi database di riconoscimento facciale; il riconoscimento delle emozioni sul posto di lavoro e nelle istituzioni educative (scuole e università); la catalogazione sociale (con relativo punteggio) degli individui basata sul comportamento sociale o sulle caratteristiche personali; i sistemi di IA che manipolano il comportamento umano per aggirare il loro libero arbitrio e, infine, i sistemi che sfruttano le vulnerabilità delle persone (a causa della loro età, disabilità, situazione sociale o economica).

Altro punto dell'accordo riguarda il modo in cui le forze dell'ordine possono usare i sistemi di Intelligenza Artificiale. 

In particolare, sono state previste una serie di garanzie ed eccezioni limitate per l'uso dei sistemi di identificazione biometrica (Remote Biometric Identification) in spazi pubblici per scopi di contrasto, che saranno soggetti a previa autorizzazione giudiziaria e per elenchi di reati rigorosamente definiti. L'RBI “post-remoto” verrebbe utilizzato rigorosamente nella ricerca mirata di una persona condannata o sospettata di aver commesso un reato grave. L'RBI “in tempo reale”, invece, rispetterebbe condizioni rigorose e il suo utilizzo sarebbe limitato nel tempo e nel luogo, allo scopo di: ricerche mirate delle vittime (sequestro, tratta di esseri umani, sfruttamento sessuale); prevenzione di una minaccia terroristica specifica e attuale; la localizzazione o l'identificazione di una persona sospettata di aver commesso uno dei reati specifici menzionati nella norma (ad esempio terrorismo, tratta di esseri umani, sfruttamento sessuale, omicidio, rapimento, stupro, rapina a mano armata, partecipazione a un'organizzazione criminale, reati ambientali).

Sono stati poi concordati obblighi chiari relativamente ai sistemi di IA classificati come ad alto rischio, vale a dire con un potenziale danno significativo alla salute, alla sicurezza, ai diritti fondamentali, all'ambiente, alla democrazia e allo stato di diritto. A tal proposito, gli eurodeputati hanno previsto, tra gli altri requisiti, una valutazione d'impatto obbligatoria sui diritti fondamentali delle persone, applicabile anche ai settori assicurativo e bancario. Lo stesso dicasi anche per i sistemi di intelligenza artificiale utilizzati per influenzare l'esito delle elezioni e il comportamento degli elettori. Da segnalare, inoltre, che i cittadini avranno il diritto di presentare reclami sui sistemi di IA e ricevere spiegazioni sulle decisioni basate su questi sistemi di intelligenza artificiale ad alto rischio che incidono sui loro diritti.

Sistemi generali di IA, PMI e sanzioni

L'accordo provvisorio prende in considerazione altresì l'ampia gamma di compiti che i sistemi di intelligenza artificiale possono svolgere, così come della rapida espansione delle loro capacità. Perciò è stato deciso che i sistemi di IA per scopi generali (GPAI) e i modelli GPAI su cui si basano dovranno aderire ai requisiti di trasparenza come inizialmente proposto dal Parlamento. Questi includono la stesura di documentazione tecnica, il rispetto della normativa UE sul diritto d'autore e la diffusione di riepiloghi dettagliati sui contenuti utilizzati per la formazione. Obblighi ancor più rigorosi, poi, per i modelli GPAI ad alto impatto con rischio sistemico. Se questi modelli soddisfano determinati criteri, si dovranno condurre valutazioni dei modelli, valutare e mitigare i rischi sistemici, condurre test, riferire alla Commissione su incidenti gravi, garantire la sicurezza informatica e riferire sulla loro efficienza energetica. I deputati hanno inoltre insistito sul fatto che, fino a quando non verranno pubblicate norme UE concordate, le GPAI con rischio sistemico potranno fare affidamento su codici di condotta per conformarsi al regolamento.

Altro punto dell'accordo riguarda le misure per supportare le piccole realtà imprenditoriali e le PMI, al fine che possano anch'esse sviluppare soluzioni di intelligenza artificiale senza indebite pressioni da parte dei giganti del settore che controllano il mercato. A tal fine, l'accordo promuove i cosiddetti “sandbox normativi” e test nel mondo reale, istituiti dalle autorità nazionali per sviluppare e formare un'intelligenza artificiale innovativa prima del suo collocamento sul mercato.

Infine, l'ultimo tema dell'accordo concerne le sanzioni per il mancato rispetto delle norme che possono variare da 35 milioni di euro (o il 7% del fatturato globale) a 7,5 milioni di euro (o l'1,5% del fatturato), a seconda della violazione e delle dimensioni dell'azienda.