La regolamentazione dell’intelligenza artificiale nell’UE

Di Antonio Pezzuto, ex Dirigente della Banca d’Italia

 

1. Introduzione

Il 21 aprile 2021 la Commissione europea ha presentato una proposta di regolamento in materia di intelligenza artificiale (IA)[1], nella convinzione che l’uso di tecnologie innovative, oltre a “contribuire al conseguimento di risultati vantaggiosi dal punto di vista sociale e ambientale nonché fornire vantaggi competitivi fondamentali alle imprese e all’economia europea”, comporta anche rischi e solleva questioni etiche e giuridiche.

L’atto proposto è volto a conseguire i seguenti obiettivi: i) garantire la sicurezza dei sistemi di IA immessi sul mercato e rispettare la legislazione esistente sui diritti fondamentali e i valori dell’Unione; ii) assicurare la certezza del diritto per favorire gli investimenti e l’innovazione nell’ambito dell’IA; iii) migliorare la governance e l’effettiva applicazione delle leggi vigenti sui diritti fondamentali e sui requisiti di sicurezza applicati ai sistemi di IA; iv) agevolare lo sviluppo di un mercato unico e prevenirne la frammentazione.

Per il raggiungimento di tali finalità , la proposta stabilisce regole armonizzate per lo sviluppo, l’immissione sul mercato e l’utilizzo di sistemi di IA nell’Unione seguendo un approccio proporzionato basato sul rischio (risk-based approach), in base al quale tanto maggiore è il rischio, quanto più rigorose sono le regole.

L’iniziativa legislativa è stata preceduta dalla Comunicazione del 25 aprile 2018[2], con la quale la Commissione ha delineato una strategia in tema di tema di IA, articolata su tre direttrici: i) promozione della ricerca, dello sviluppo tecnologico e delle applicazioni industriali legate all’IA; ii) sostegno all’apparato socio-economico interessato da tali sviluppi tecnologici; iii) definizione di un quadro etico e giuridico adeguato, fondato sui valori dell’Unione e coerente con la Carta dei diritti fondamentali dell’UE.

Parallelamente, la Commissione ha istituito un gruppo di esperti di alto livello sull’IA (high-level expert group on AI) che ha pubblicato, nell’aprile 2019, il documento “Orientamenti etici per un’intelligenza artificiale affidabile”, nel quale sono enunciati tre principi fondamentali (legalità , eticità , robustezza tecnica e sociale), sulla base dei quali sono individuati sette requisiti per un’IA affidabile: 1) intervento e sorveglianza umani; 2) robustezza tecnica e sicurezza; 3) riservatezza e governance dei dati; 4) trasparenza; 5) diversità , non discriminazione ed equità ; 6) benessere sociale e ambientale; 7) responsabilità .

Successivamente, nel “Libro bianco sull’intelligenza artificiale – Un approccio europeo all’eccellenza e alla fiducia”[3] del febbraio 2020, la Commissione ha definito le opzioni strategiche su come conseguire il duplice obiettivo di promuovere l’adozione dell’IA e affrontare i rischi associati all’utilizzo di tale tecnologia.

Dopo un lungo negoziato all’interno del trilogo tra la Commissione e i co-legislatori, il Consiglio dell’UE ha approvato in via definitiva il 21 maggio 2024 il Regolamento (UE) 2024/1689 sull’intelligenza artificiale (Artificial Intelligence Act, IA Act), che si compone di 180 considerando, 13 capi contenenti 113 articoli e 13 allegati tecnici. In particolare, il nuovo Regolamento introduce:

• regole armonizzate per l’immissione sul mercato, la messa in servizio e l’uso dei sistemi di IA nell’Unione;
• il divieto di determinate pratiche nell’uso dell’IA considerate inaccettabili;
• requisiti specifici per i sistemi di IA ad alto rischio e obblighi per gli operatori di tali sistemi;
• regole di trasparenza armonizzate per alcuni sistemi di IA;
• regole armonizzate specifiche per l’immissione sul mercato di modelli di IA di uso generale;
• regole sul monitoraggio del mercato, sulla governance e sull’applicazione della vigilanza del mercato stesso;
• misure a sostegno dell’innovazione, con particolare riguardo alle PMI (comprese le start up).

Il Regolamento rappresenta il primo testo normativo al mondo che disciplina il funzionamento dei sistemi di IA. Esso entrerà  in vigore 20 giorni dopo la sua pubblicazione nella Gazzetta Ufficiale dell’UE e inizierà  ad applicarsi 24 mesi dopo l’entrata in vigore, fatta eccezione per le previsioni relative: i) ai divieti per le pratiche a rischio inaccettabile, che si applicheranno a partire da 6 mesi dopo l’entrata in vigore; ii) ai codici di buone pratiche (9 mesi dopo); iii) ai sistemi di IA per finalità  generali (12 mesi dopo); iv) agli obblighi per i sistemi ad alto rischio (36 mesi dopo).

Cionondimeno, gli operatori europei ed extraeuropei potranno, su base volontaria, decidere di anticipare l’attuazione della disciplina rispetto alle scadenze sopra indicate, aderendo all’iniziativa denominata “Patto sull’AI”, promossa dalla Commissione.

 

2. Sintesi delle principali novità  contenute nell’AI Act.

Definizione e ambito di applicazione

La definizione di “sistema di IA” adottata è simile a quella proposta in ambito OCSE[4]. Essa include infatti quei sistemi progettati per funzionare con diversi livelli di autonomia e che possono mostrare capacità  di adattamento e possibilità , sulla base degli input che ricevono, di generare output (previsioni, contenuti, raccomandazioni o decisioni) che possono influenzare ambienti fisici o virtuali. Ciò significa macchine dotate di un certo grado di autonomia e capaci di agire e interagire con la realtà .

Il Regolamento trova applicazione nei confronti di tutti i soggetti pubblici e privati che producono strumenti tecnologici di intelligenza artificiale destinati al mercato dell’Unione, indipendentemente dal fatto che tali soggetti siano o meno europei. In concreto, la nuova disciplina si applica: i) al fornitore (provider) di sistemi di IA (persona fisica o giuridica, autorità  pubblica, agenzia o altro organismo) che immette sul mercato o mette in servizio sistemi di IA, indipendentemente dal fatto che sia stabilito o ubicato nell’UE o in un paese terzo; ii) al fornitore extra-europeo, laddove gli output prodotti dal sistema di IA siano utilizzati nell’Unione; iii) all’utilizzatore (deployer) dei sistemi di IA, che è stabilito o situato all’interno dell’UE; iv) dell’importatore e del distributore di sistemi di IA; v) al fabbricante di un prodotto che immette sul mercato o mette in servizio un sistema di IA insieme al prodotto con il suo nome o marchio; vi) al rappresentante autorizzato, che ogni fornitore di sistemi di IA ad alto rischio non stabilito nell’UE deve nominare prima di mettere a disposizione il sistema di IA sul mercato dell’Unione; vii) ai terzi che forniscono sistemi di IA, strumenti, servizi, componenti o processi utilizzati o integrati in un sistema di IA ad alto rischio.

Sono, per contro, esclusi dal perimetro di applicazione i sistemi di IA utilizzati per scopi militari, di difesa o di sicurezza nazionale, per attività  di ricerca e sviluppo scientifico e per motivi non professionali.

Classificazione dei sistemi di IA

In considerazione della definizione di rischio adottata dal Regolamento, inteso come la combinazione tra la probabilità  del verificarsi di un danno e la gravità  del danno stesso, il framework prevede tre categorie di rischio: rischio inaccettabile (unacceptable risk); alto rischio (high risk); rischio limitato o minimo (limited or minimal risk).

Rientrano nell’ambito della prima categoria di rischio tutte quelle pratiche che sono vietate nell’UE, a causa dei loro potenziali effetti dannosi sulla sicurezza e i diritti fondamentali delle persone, come l’assistenza sanitaria e l’istruzione ad esempio. Le pratiche proibite comprendono, a titolo esemplificativo: i) le tecniche subliminali e manipolative che distorcono il comportamento degli individui, compromettendone la capacità  di prendere decisioni consapevoli; ii) la valutazione o classificazione delle persone in base al loro comportamento sociale o alle loro caratteristiche personali (c.d. social scoring); iii) la categorizzazione biometrica per classificare le persone in base ai loro dati biometrici per trarre conclusioni o deduzioni riguardo a caratteristiche sensibili quali razza, opinioni politiche, convinzioni religiose, ecc.

La categoria dell’alto rischio comprende tutti quei sistemi di IA che possono potenzialmente avere ripercussioni negative sulla sicurezza delle persone fisiche o sui loro diritti[5]. Tra i sistemi ad alto rischio possono annoverarsi, in particolare, quelli volti: i) alla identificazione biometrica remota[6], alla categorizzazione biometrica[7] e al riconoscimento delle emozioni[8], al di fuori delle categorie vietate; ii) a determinare l’accesso, l’ammissione o l’assegnazione agli istituti di istruzione e formazione professionale; iii) alla valutazione dell’affidabilità  creditizia delle persone fisiche, alla valutazione dei rischi finanziari e alla determinazione dei prezzi in relazione ad assicurazioni sulla vita e assicurazioni sanitarie.

Per i sistemi di IA caratterizzati da un livello di rischio limitato o minimo, come i videogiochi o i filtri antispam, che non inficiano cioè i diritti fondamentali e i valori dell’Unione, sono previsti principalmente obblighi di trasparenza e di completa informazione. Più in dettaglio, i fornitori di sistemi di IA progettati per dialogare direttamente con persone fisiche devono assicurarsi che queste siano consapevoli di stare interagendo con un sistema di IA. Tale obbligo non si applica ai sistemi di IA autorizzati per legge ad accertare, prevenire o perseguire crimini. I fornitori di sistemi di IA, inclusi quelli progettati per scopi generali che producono contenuti sintetici audio, visivi, video o testuali, sono tenuti a garantire che questi output siano chiaramente identificabili come generati artificialmente e devono assicurarsi, altresì, che le soluzioni tecniche proposte per questa marcatura siano efficaci, interoperabili, robuste e affidabili.

Requisiti di conformità  e obblighi per i soggetti destinatari del Regolamento

Il Regolamento disciplina in modo dettagliato i requisiti di conformità  dei sistemi di IA ad alto rischio e prevede una serie di obblighi specifici in capo ai vari operatori coinvolti nella catena dei valori dell’IA (fornitori, importatori, deployers e distributori).

I requisiti di conformità  ai principi di sicurezza, trasparenza e gestione dei rischi riguardano:

• l’implementazione e il costante aggiornamento di un efficace sistema di gestione dei rischi lungo l’intero ciclo di vita di un sistema di IA, che comprenda, tra l’altro, l’identificazione e l’analisi dei rischi noti e prevedibili associati a ciascun sistema, la stima e la valutazione dei rischi che possono emergere quando il sistema è usato conformemente alla sua finalità  prevista e in condizioni di uso improprio ragionevolmente prevedibile, l’adozione di misure atte ad eliminare o attenuare i rischi;
• l’adozione di misure di governance e gestione dei dati adeguate alle finalità  del sistema di IA, per assicurare che i dataset di addestramento, convalida e prova siano di elevata qualità , pertinenti, sufficientemente rappresentativi e, per quanto possibile, esenti da errori e completi. Le misure richieste concernono, nello specifico, i processi di raccolta dei dati, le operazioni di trattamento dei dati (annotazione, etichettatura, pulizia, ecc.), la formulazione di ipotesi, la valutazione dell’adeguatezza dei dataset disponibili, un esame volto a individuare le possibili distorsioni in grado di incidere sulla salute e la sicurezza delle persone fisiche, di avere un impatto negativo sui diritti fondamentali o di comportare discriminazioni vietate dal diritto dell’Unione;
• la predisposizione di idonea documentazione tecnica, contenente le informazioni necessarie a dimostrare la conformità  del sistema, da mettere a disposizione delle autorità  nazionali competenti e degli organismi notificati. La documentazione tecnica – da redigere prima dell’immissione sul mercato o della messa in servizio del sistema – deve includere almeno la descrizione generale del sistema di IA e del processo di sviluppo (algoritmi, dati, convalida e prova, ecc.), le informazioni su monitoraggio e funzionamento e controllo, la descrizione del sistema di gestione dei rischi. Alle PMI, comprese le start up, è offerta la possibilità  di fornire in modo semplificato gli elementi della documentazione tecnica sopra specificati, avvalendosi a tal fine di un apposito modello messo a punto dalla Commissione;
• la registrazione automatica degli eventi (log) per consentire la tracciabilità  del funzionamento per la durata del ciclo di vita del sistema di IA;
• la trasparenza di funzionamento dei sistemi di IA e la fornitura di istruzioni d’uso chiare e complete al deployer (informazioni sull’identità  e sui dati di contatto del fornitore, sulle caratteristiche, le capacità  e i limiti delle prestazioni del sistema di IA, sulle misure di sorveglianza umana, sulle risorse computazionali e di hardware, sugli interventi manutentivi necessari per il corretto funzionamento del sistema e sui meccanismi per la raccolta e la conservazione dei log);
• la progettazione e lo sviluppo di sistemi di IA ad alto rischio, da effettuare in modo da conseguire un adeguato livello di accuratezza, robustezza e cibersicurezza. Il legislatore attribuisce alla Commissione il compito di promuovere lo sviluppo di parametri di riferimento e metodologie di misurazione, in cooperazione con gli stakeholders e le organizzazioni internazionali.

Oltre a garantire che i sistemi di IA ad alto rischio siano conformi ai requisiti previsti dal Regolamento, il fornitore deve assolvere i seguenti ulteriori obblighi:

• garantire che i sistemi siano conformi a specifici requisiti di conformità , riservatezza e tracciabilità ;
• indicare sul sistema nome, denominazione commerciale registrata o marchio registrato e indirizzo al quale può essere contattato;
• disporre di un sistema di gestione della qualità , proporzionato alle dimensioni della sua organizzazione e tale da garantire, mediante politiche, procedure e istruzioni scritte, la conformità  al Regolamento[9];
• conservare e mettere a disposizione delle autorità , per dieci anni dopo l’immissione sul mercato o la messa in servizio, la documentazione tecnica relativa alla conformità  del sistema di IA ai requisiti normativi, al sistema di gestione della qualità , alle eventuali decisioni o modifiche approvate dagli organismi notificati, nonché la dichiarazione di conformità  UE;
• conservare, per almeno sei mesi, i log generati automaticamente dal sistema di IA, nella misura in cui tali log siano sotto il suo controllo;
• garantire che il sistema di IA sia assoggettato alla pertinente procedura di valutazione della conformità , prima che sia immesso sul mercato o messo in servizio;
• redigere e aggiornare la dichiarazione di conformità  UE ai requisiti normativi, tenendola a disposizione delle autorità  nazionali competenti per dieci anni dalla data in cui il sistema di IA è stato immesso sul mercato o messo in servizio;
• apporre la marcatura CE[10] sul sistema oppure, ove ciò non sia possibile, sull’imballaggio o sui documenti di accompagnamento;
• registrarsi e registrare il sistema di IA nella banca dati dell’UE, prima di immetterlo sul mercato o metterlo in servizio (cfr. infra)
• adottare misure correttive nel caso in cui ritenga che il proprio sistema, già  immesso sul mercato o messo in servizio, non sia più in linea con i requisiti regolamentari, dandone notizia ai distributori, agli importatori e ai deployers.

L’importatore, dal canto suo, è tenuto ad assicurare che il sistema di IA ad alto rischio sia conforme alle disposizioni regolamentari prima dell’immissione sul mercato, verificando in particolare che: i) il fornitore di tale sistema abbia eseguito la pertinente procedura di valutazione della conformità , redatto la documentazione tecnica e nominato un rappresentante autorizzato; ii) il sistema sia munito della marcatura CE e sia corredato della dichiarazione di conformità  UE e delle istruzioni per l’uso.

Il Regolamento, nel richiedere al deployer di dotarsi di un livello adeguato di alfabetizzazione in materia di IA, gli impone, tra l’altro, di:

• adottare misure tecniche ed organizzative idonee a garantire un utilizzo dei sistemi ad alto rischio conforme alle istruzioni per l’uso ricevute dal fornitore;
• affidare la sorveglianza umana del sistema a persone fisiche competenti;
• monitorare il funzionamento del sistema sulla base delle istruzioni per l’uso. Se ritiene che l’uso del sistema possa generare un rischio per la salute e la sicurezza o i diritti fondamentali, il deployer deve informarne senza indebito ritardo il fornitore o il distributore e l’autorità  di vigilanza del mercato, sospendendo l’uso del sistema. Qualora individui un incidente grave, il deployer ha l’obbligo di informare in primo luogo il fornitore e successivamente l’importatore o il distributore e l’autorità  di vigilanza del mercato;
• cooperare con le autorità  competenti, ove necessario;
• effettuare, nei casi previsti dall’art. 27 del Regolamento, una valutazione d’impatto sul trattamento dei dati personali, avvalendosi a tal fine delle informazioni che i fornitori hanno l’obbligo di rendere disponibili.

Prima di immettere sul mercato un sistema di IA ad alto rischio, il distributore è chiamato a verificare che il sistema sia stato sottoposto alla procedura di valutazione della conformità , rechi la marcatura CE, sia accompagnato dalla dichiarazione di conformità  UE e dalle istruzioni per l’uso. Qualora tale soggetto abbia motivo di ritenere che il sistema non sia conforme al regolamento, devono astenersi dall’immissione sul mercato. Inoltre, se ritiene che sussista un rischio, deve informarne il fornitore e le autorità  di vigilanza del mercato.

Sistemi di IA soggetti a requisiti di trasparenza

Sono previsti obblighi di trasparenza per i fornitori e i deployers di determinati sistemi di IA che implicano un rischio di induzione in errore delle persone, indipendentemente dal fatto che tali sistemi siano o meno ad alto rischio. Più precisamente:

a) in caso di sistemi di IA che interagiscono direttamente con le persone fisiche: i fornitori devono garantire che i sistemi in oggetto siano progettati e sviluppati in modo tale che le persone interessate siano informate del fatto di stare interagendo con un sistema di IA, a meno che ciò non risulti evidente per una persona ragionevolmente informata, attenta e avveduta, tenendo conto delle circostanze e del contesto di utilizzo;

b) in caso di sistemi di IA, compresi i sistemi GPAI, che generano contenuti audio, immagini, video o testuali sintetici: i fornitori sono tenuti a garantire che gli output del sistema siano marcati in un formato leggibile meccanicamente o siano rilevabili come generati o manipolati artificialmente. I fornitori devono altresì garantire che le soluzioni tecniche approntate siano efficaci, interoperabili, solide e affidabili, tenendo conto del tipo di contenuti, dei costi di attuazione e dello stato dell’arte generalmente riconosciuto;

c) in caso di sistemi di riconoscimento delle emozioni o di categorizzazione biometrica: i deployers hanno l’obbligo di informare le persone fisiche esposte al sistema in merito al suo funzionamento e a rispettare la disciplina in materia di protezione dei dati personali;

d) in caso di sistemi che generano o manipolano immagini o contenuti audio o video che costituiscono “deep fake[11]”: i deployers sono chiamati a rendere noto che il contenuto è stato generato o manipolato artificialmente. Viene previsto che qualora il contenuto sia inserito in un’opera o un programma manifestamente artistico, creativo, satirico o fittizio, il deployer può limitarsi a rivelare in modo adeguato l’esistenza dei contenuti generati o manipolati, senza ostacolare l’esposizione o il godimento dell’opera;

e) in caso di sistemi che generano o manipolano testo che è stato pubblicato per informare il pubblico su questioni di interesse pubblico: i deployers hanno l’obbligo di rendere noto che il testo è stato generato o manipolato artificialmente. La prescrizione viene meno se il contenuto è stato sottoposto a un processo di revisione umana o di controllo editoriale e una persona fisica o giuridica detiene la responsabilità  editoriale della relativa pubblicazione.

Modelli di IA per finalità  generali

Il Regolamento prevede specifici obblighi per i fornitori di modelli di IA per finalità  generali (General Purpose AI Model, GPAI), che consistono tra l’altro:

• nel redigere e mantenere aggiornata la documentazione tecnica del modello, che dovrà  comprendere il processo di addestramento, la prova e i risultati della valutazione;
• nell’attuare una politica volta ad adempiere alla disciplina europea in materia di diritto d’autore;
• nel redigere e mettere a disposizione del pubblico una sintesi sufficientemente dettagliata dei contenuti utilizzati per l’addestramento del modello di IA, secondo un template definito dall’Ufficio per l’IA.

I fornitori di modelli di IA per finalità  generali stabiliti in paesi terzi, prima di immettere il modello sul mercato, hanno l’obbligo di designare un rappresentante autorizzato stabilito nell’Unione che avrà  il compito di: i) verificare che il fornitore del modello GPAI abbia redatto la documentazione tecnica correttamente e che abbia adempiuto agli altri imposti dal Regolamento; ii) conservare una copia della documentazione tecnica a disposizione dell’Ufficio per l’IA e delle autorità  competenti (cfr. infra) per dieci anni dall’immissione sul mercato; iii) fornire all’Ufficio per l’IA tutte le informazioni e i documenti pertinenti su richiesta; iv) cooperare con l’Ufficio per l’IA e le autorità  nazionali competenti su richiesta motivata.

Obblighi più stringenti sono stabiliti per i modelli GPAI che possono generare un rischio sistemico, ossia un rischio che incide significativamente sul mercato dell’Unione a causa della sua portata o di effetti negativi reali o ragionevolmente prevedibili sulla salute pubblica, la sicurezza, i diritti fondamentali o la società  mel suo complesso, che può propagarsi su larga scala lungo l’intera catena del valore[12].

Sono classificati come modelli GPAI sistemici quelli che: i) presentano capacità  di impatto elevato valutate sulla base di strumenti tecnici e metodologie adeguati, compresi indicatori e parametri di riferimento; ii) sono designati come tali da una decisione individuale della Commissione.

In aggiunta agli obblighi previsti in generale per i modelli GPAI, i fornitori di modelli GPAI con rischio sistemico sono chiamati ad adempiere ai seguenti ulteriori obblighi:

• effettuare una valutazione dei modelli utilizzando protocolli e strumenti standardizzati, inclusi test contraddittori, per identificare e mitigare i rischi sistemici;
• valutare e attenuare i possibili rischi sistemici a livello europeo, comprese le loro fonti, che possono derivare dallo sviluppo, dall’immissione sul mercato o dall’uso di questi modelli;
• documentare e segnalare senza indugio all’Ufficio per l’IA e alle autorità  nazionali competenti gli incidenti gravi e le relative misure correttive;
• garantire una protezione adeguata della cybersecurity per i modelli di IA e l’infrastruttura correlata.

Il Regolamento attribuisce all’Ufficio per l’IA il compito di incoraggiare e agevolare l’elaborazione di codici di buone pratiche, volti a supportare l’applicazione corretta delle prescrizioni regolamentari, tenendo conto degli approcci internazionali.

L’Ufficio per l’IA collabora con il Comitato europeo per l’IA al fine di assicurare che detti codici rispettino gli obblighi specifici, come la gestione dei rischi sistemici e l’aggiornamento delle informazioni. Oltre a ciò, l’Ufficio per l’IA invita i fornitori di modelli IA, le autorità  competenti e altri stakeholders a contribuire allo sviluppo dei codi, che devono definire obiettivi specifici, misure concrete e, se del caso, indicatori di prestazione.

Spetta infine all’Ufficio per l’IA, insieme al Comitato, una funzione di monitoraggio sull’attuazione degli impegni e di valutazione periodica circa il conseguimento degli obiettivi dei codici da parte dei partecipanti.

Secondo il Regolamento, tali codici debbono essere predisposti entro il 2 maggio 2025. Qualora il processo elaborativo non sia concluso ovvero l’Ufficio per l’IA ritenga che il codice non sia adeguato, la Commissione europea potrà  prevedere, mediante atti di esecuzione, norme comuni per l’attuazione degli obblighi da parte dei fornitori di modelli GPAI.

Sandboxes regolamentari

Il Regolamento contiene diverse misure a sostegno dell’innovazione tra cui, in particolare, la creazione di spazi di sperimentazione normativa (regulatory sandboxes), al fine di promuovere lo sviluppo di sistemi di IA in ambiente protetto prima della loro immissione sul mercato o messa in servizio, sotto la guida delle autorità  nazionali competenti e con il supporto delle autorità  garanti per la protezione dei dati.

I sandboxes potranno essere istituiti su base nazionale o tra più Stati membri in combinazione tra loro[13]. L’accesso e l’esercizio delle attività  nei regulatory sandboxes avvengono sulla base di un piano specifico concordato tra i fornitori o potenziali fornitori di sistemi di IA e l’autorità  competente.

Alle autorità  è demandato il compito di garantire il controllo e il sostegno per identificare i rischi e le relative misure di mitigazione, nonché di fornire agli operatori che fruiscono degli spazi di sperimentazione normativa orientamenti sulle modalità  per attuare i requisiti e gli obblighi regolamentari.

In caso di impossibilità  ad attenuare con la dovuta efficacia i rischi emersi, le autorità  hanno il potere di sospendere, in via temporanea o permanente, il processo di prova o la partecipazione allo spazio di sperimentazione, dandone notizia all’Ufficio per l’IA.

Governance

La governance delineata nel Regolamento si articola su due livelli: uno europeo e uno nazionale. A livello europeo è prevista l’istituzione di un Comitato europeo per l’IA (European Artificial Intelligence Board, EAIB), composto da un rappresentate per ciascuno Stato membro, dal Garante europeo della protezione dei dati, che partecipa alle riunioni in veste di osservatore, e dall’Ufficio per l’IA della Commissione privo diritto di voto, che avrà  il compito di fornire consulenza e assistenza alla Commissione e ai paesi membri.

Completa l’assetto l’istituzione di un Forum consultivo (Advisory Forum), composto da stakeholders, figure legate al mondo dell’IA e provenienti dal privato e dal mondo accademico, per fornire consulenza tecnica al Board e alla Commissione, nonché di un gruppo di esperti scientifici indipendenti, selezionati dalla Commissione, con il compito di supportare sia l’Ufficio per l’IA nell’implementazione del regolamento, ove richiesto, sia le autorità  di vigilanza del mercato degli Stati membri.

A livello nazionale, ogni Stato membro dovrà  istituire:

• un’autorità  di notifica responsabile di creare e attuare le procedure necessarie per la valutazione e notifica degli organismi di valutazione della conformità  dei sistemi di IA ad alto rischio e per il loro monitoraggio;
• una o più autorità  di sorveglianza del mercato, con poteri investigativi e correttivi. Le autorità  nazionali dovranno operare in modo indipendente, imparziale e senza pregiudizi, nonché essere dotate di risorse finanziarie, umane, tecniche e infrastrutturali adeguate a svolgere i compiti assegnati.

Banca dati dell’UE

Il Regolamento prevede la creazione di una banca dati europea per registrare e monitorare i sistemi di IA considerati ad alto rischio. La banca dati, gestita dalla Commissione e dagli Stati membri, raccoglierà  informazioni sui sistemi di IA ad alto rischio, con l’obiettivo di migliorare la trasparenza e facilitare il monitoraggio da parte delle autorità  competenti. Viene previsto che le informazioni siano fornite dai fornitori e dai deployers e che una parte di queste sia accessibile al pubblico.

Regime sanzionatorio

La violazione delle disposizioni regolamentari comporta sanzioni pecuniarie che potranno essere parametrate al fatturato annuo globale riferito all’esercizio finanziario precedente della società  responsabile dell’infrazione. Nello specifico, sono stabilite sanzioni fino a un importo massimo corrispondente a:

• 35 milioni di euro o al 7 per cento del fatturato (se superiore) per violazione delle norme in materia di pratiche vietate;
• 15 milioni di euro o al 3 per cento del fatturato (se superiore), per l’inosservanza di qualsiasi altro requisito o obbligo regolamentare, compresa la violazione delle regole relative ai modelli di IA per finalità  generali;
• 7,5 milioni di euro o all’1,5 per cento del fatturato (se superiore), per la violazione di obblighi informativi alle autorità  competenti.

Soglie più basse sono previste in caso di violazioni commesse da PMI o start-up.

 

Note:

[1] Alan Turing, matematico e scienziato britannico, è universalmente riconosciuto come uno dei padri fondatori dell’informatica e dell’intelligenza artificiale. Nel 1950, nell’articolo “Compunting machinery and intelligence”, Turing ha proposto un criterio (c.d. test di Turing) per stabilire se una macchina è in grado di esibire un comportamento intelligente. In altre parole, una macchina poteva considerarsi intelligente se il suo comportamento, osservato da un essere umano, fosse considerato indistinguibile da quello di una persona. Nel 1955 J. McCarthy utilizza per primo il termine intelligenza artificiale.

[2] COM (2018) 237 final.

[3] COM (2020) 65 final.

[4] Cfr. al riguardo Recommendation of the Council on Artificial Intelligence, 2019, e il relativo Explanatory memorandum n. 8/2024.

[5] Un sistema di IA è considerato ad alto rischio se: i) è destinato ad essere utilizzato come componente di sicurezza di un prodotto disciplinato dalla normativa di armonizzazione dell’UE o è esso stesso un prodotto soggetto a tali normative; ii) richiede una valutazione della conformità  da parte di terzi per l’immissione sul mercato o la messa in servizio.

[6] E’ un sistema di IA che identifica persone senza la loro partecipazione attiva, spesso da lontano confrontando i dati biometrici di un individuo con quelli presenti in un data base (art. 3, n. 41, del Regolamento).

[7] E’ un sistema di IA che classifica le persone in categorie specifiche utilizzando dati biometrici, a meno che la sua funzione non sia secondaria a un altro servizio commerciale e necessaria per ragioni tecniche (art. 3, n. 40, del Regolamento).

[8] E’ un sistema di IA che deduce le emozioni o le intenzioni delle persone analizzando i loro dati biometrici, come espressioni facciali o tono della voce (art. 3, n. 39, del Regolamento).

[9] Il sistema di gestione della qualità  si compone di un insieme di elementi, tra cui: la strategia per la conformità  normativa; le tecniche per la progettazione, lo sviluppo, il controllo e la garanzia della qualità  del sistema; i sistemi e le procedure di gestione dei dati; il sistema di gestione dei rischi; il sistema di monitoraggio del funzionamento del sistema di IA dopo l’immissione sul mercato; le procedure di segnalazione di incidenti gravi alle autorità  di vigilanza del mercato.

[10] La marcatura CE indica la conformità  del sistema alle prescrizioni regolamentari e consente la libera circolazione dello stesso nel mercato interno.

[11] Il deep fake è definito come “un’immagine o un contenuto audio o video generato o manipolato dall’IA che assomiglia a persone, oggetti, luoghi o altre entità  o eventi esistenti e che apparirebbe falsamente autentico o veritiero a una persona” (art. 3, n. 60, del Regolamento).

[12] Art. 3, n. 65, del Regolamento.

[13] Lo spazio di sperimentazione normativa dovrà  essere attivato entro il 2 agosto 2026.

---

Le informazioni contenute in questo sito web e nella rivista "Magistra Banca e Finanza" sono fornite solo a scopo informativo e non possono essere ritenute sostitutive di una consulenza legale. Nessun destinatario del contenuto di questo sito, cliente o visitatore, dovrebbe agire o astenersi dall'agire sulla base di qualsiasi contenuto incluso in questo sito senza richiedere una appropriata consulenza legale professionale, da un avvocato autorizzato, con studio dei fatti e delle circostanze del proprio specifico caso legale.