AI Act e uso dati biometrici: cosa succede con le nuove regole?

L'introduzione dell'AI Act (Artificial Intelligence Act) segna un punto di svolta nel panorama regolamentare dell'Unione Europea riguardante l'uso dell'intelligenza artificiale (AI). Questo regolamento, approvato definitivamente dal Parlamento Europeo dopo la prima lettura nel luglio del 2023, pone l'Europa all'avanguardia nella definizione di un quadro etico e sicuro per l'adozione delle tecnologie AI. Il focus su un utilizzo responsabile dell'intelligenza artificiale mira a bilanciare i benefici potenziali in settori come la medicina, la finanza, la sicurezza e il lavoro, con i rischi associati, inclusi la violazione della privacy, la discriminazione e la sorveglianza di massa.

Il cuore dell’AI Act: sicurezza, etica e innovazione responsabile

Il nucleo dell'AI Act è la sua architettura di rischio, che classifica le applicazioni AI in quattro categorie: da rischio minimo a inaccettabile. Il regolamento stabilisce restrizioni severe contro l'uso di tecnologie AI che presentano elevati rischi di violazione dei diritti umani, come il riconoscimento facciale in tempo reale e il social scoring. Il compromesso raggiunto prevede che tali tecnologie siano proibite, salvo eccezioni limitate e ben definite, garantendo che l'uso dell'AI per scopi di polizia e sicurezza rispetti i diritti fondamentali dei cittadini.

AI Act: dati biometrici sotto la lente

I dati biometrici, quali impronte digitali, scansione del viso, geometria della mano, riconoscimento vocale, e altri, sono al centro delle preoccupazioni legate alla privacy e alla sicurezza. Questi dati, per la loro capacità di identificare univocamente gli individui, portano con sé vantaggi significativi in termini di sicurezza e comodità.

Tuttavia, sollevano questioni critiche riguardanti la privacy, il rischio di discriminazione e i costi elevati per la loro implementazione. L'AI Act affronta queste preoccupazioni imponendo restrizioni all'uso dei dati biometrici, in particolare proibendo sistemi di sorveglianza di massa e pratiche di social scoring basate su tali dati.

La raccolta e l'utilizzo di tali dati devono essere trasparenti, sicuri e conformi alle normative sulla privacy. È fondamentale prevenire la discriminazione e garantire che i sistemi di riconoscimento biometrico non perpetuino pregiudizi o disuguaglianze.

Infine, l'AI Act enfatizza l'importanza del consenso informato nell'uso di sistemi di identificazione biometrica non in tempo reale, allineandosi con i principi del GDPR.

Quando l’uso dei dati biometrici è permesso

Nonostante il divieto generale, l'AI Act prevede eccezioni limitate all'uso dei dati biometrici in tempo reale, come la ricerca di persone scomparse o la prevenzione di reati gravi. Queste eccezioni sono soggette a condizioni rigorose per assicurare che l'uso di tecnologie biometriche sia proporzionato, tuteli i diritti fondamentali e sia sotto stretto controllo. La necessità di bilanciare sicurezza e libertà personale è evidente nell'approccio dell'UE, che richiede misure di salvaguardia robuste e il consenso informato degli individui.

Sanzioni AI Act

Con l'imminente ufficializzazione dell'AI Act prevista tra maggio e giugno, le disposizioni verranno attuate gradualmente. Questo approccio flessibile consente agli Stati membri di adeguarsi alle proibizioni entro sei mesi, applica le regole per l'AI generica dopo un anno e impone obblighi per i sistemi ad alto rischio entro tre anni. Le sanzioni per la non conformità sono severe, raggiungendo fino a 35 milioni di euro o il 7% del fatturato globale, sottolineando l'importanza di un'adesione rigorosa.

Proibizioni e limitazioni nell’uso dell’AI

L'AI Act stabilisce divieti chiari su pratiche considerate pericolose o eticamente discutibili. Questo include l'uso dell'AI per sfruttare vulnerabilità specifiche, pratiche manipolative, la categorizzazione biometrica per dedurre informazioni sensibili, il punteggio sociale, la creazione non mirata di database di riconoscimento facciale, l'inferenza delle emozioni nei luoghi di lavoro, e sistemi di valutazione del rischio di reati basati esclusivamente sulla profilazione. La legge limita anche l'identificazione biometrica in tempo reale in spazi pubblici a circostanze specifiche, richiedendo approvazione giudiziaria o da un'autorità indipendente, evidenziando un approccio cauto e considerato verso l'utilizzo di tecnologie invasive.

La normativa classifica certi usi dell'AI, come quelli legati all'educazione, alla gestione del lavoro, ai servizi essenziali, e alla migrazione, come ad alto rischio. Questi ambiti richiedono una valutazione pre-immissione sul mercato e sono soggetti a monitoraggio continuo. Inoltre, l'AI Act impone requisiti di trasparenza per i sistemi di AI generale, obbligando la divulgazione del coinvolgimento dell'AI nella generazione di contenuti e l'identificazione dei contenuti deepfake, tra gli altri.