Come il regolamento definisce e classifica i sistemi AI ad alto rischio?

L'AI Act classifica i sistemi AI come ad alto rischio in base a due criteri principali: se fungono da componenti di sicurezza per prodotti regolamentati, o se rientrano in specifici casi d'uso predefiniti noti per comportare rischi significativi per i diritti fondamentali, la salute o la sicurezza.

1. Componenti di sicurezza e prodotti regolamentati (Allegato I)

Un sistema AI è classificato ad alto rischio se soddisfa entrambe le seguenti condizioni:

• -È destinato ad essere utilizzato come componente di sicurezza di un prodotto, o è esso stesso un prodotto, già coperto da legislazione specifica di armonizzazione dell'Unione elencata nell'Allegato I dell'AI Act.
• -Il prodotto è tenuto a sottoporsi a una valutazione di conformità di terze parti ai sensi della legislazione esistente prima dell'immissione sul mercato o della messa in servizio.

Esempi di categorie di prodotti coperti dall'Allegato I includono macchinari, giocattoli, dispositivi medici, dispositivi medici diagnostici in vitro, ascensori, imbarcazioni da diporto, apparecchiature radio, dispositivi di protezione individuale e sistemi di sicurezza dell'aviazione civile.

2. Casi d'uso predefiniti specifici (Allegato III)

Indipendentemente dal fatto che siano collegati a un prodotto regolamentato, i sistemi AI sono classificati ad alto rischio se sono destinati all'uso in una delle seguenti otto aree critiche:

• -Biometria: sistemi di identificazione biometrica remota (esclusa la semplice verifica uno-a-uno), categorizzazione biometrica basata su attributi sensibili e sistemi di riconoscimento delle emozioni.
• -Infrastrutture critiche: componenti di sicurezza nella gestione e nel funzionamento di infrastrutture digitali critiche, traffico stradale e fornitura di acqua, gas, riscaldamento o elettricità.
• -Istruzione e formazione professionale: sistemi utilizzati per determinare le ammissioni, valutare i risultati di apprendimento, valutare il livello educativo appropriato di un individuo o monitorare comportamenti vietati durante i test.
• -Occupazione e gestione dei lavoratori: sistemi utilizzati per il reclutamento, il filtraggio delle candidature, l'assegnazione di compiti basata su comportamento/tratti, la valutazione delle prestazioni o le decisioni su promozioni o licenziamenti.
• -Servizi privati e pubblici essenziali: sistemi utilizzati per valutare l'idoneità all'assistenza/benefici pubblici, stabilire punteggi di credito (escluso il rilevamento di frodi finanziarie), valutare il rischio e i prezzi per le assicurazioni sulla vita e sulla salute, o classificare le chiamate di emergenza e inviare i primi soccorritori.
• -Forze dell'ordine: strumenti utilizzati come poligrafi, per valutare l'affidabilità delle prove, profilare persone fisiche per valutare il rischio di reato o valutare il rischio che una persona diventi vittima di un reato.
• -Migrazione, asilo e controllo delle frontiere: sistemi utilizzati come poligrafi, per valutare i rischi per la sicurezza o la salute di persone che entrano nel territorio, assistere nell'esame delle domande di asilo e visto, o identificare persone fisiche.
• -Amministrazione della giustizia e processi democratici: sistemi che assistono le autorità giudiziarie nella ricerca e interpretazione dei fatti e del diritto, o sistemi destinati a influenzare l'esito delle elezioni o il comportamento degli elettori.

Eccezioni alla classificazione ad alto rischio

Per deroga, un sistema AI elencato nei casi d'uso dell'Allegato III non è considerato ad alto rischio se non pone un rischio significativo di danno alla salute, alla sicurezza o ai diritti fondamentali, il che significa che non influenza materialmente l'esito del processo decisionale.

Questa esenzione si applica specificamente se il sistema AI soddisfa una delle seguenti condizioni:

• -Esegue un compito procedurale ristretto.
• -È destinato a migliorare il risultato di un'attività umana precedentemente completata.
• -È destinato a rilevare pattern decisionali o deviazioni senza sostituire o influenzare la valutazione umana precedentemente completata.
• -Esegue un compito preparatorio per una valutazione pertinente.

Regola assoluta sulla profilazione: nonostante queste eccezioni, se un sistema AI ai sensi dell'Allegato III effettua la profilazione di persone fisiche, è sempre classificato ad alto rischio.

I provider che classificano un sistema dell'Allegato III come non ad alto rischio sulla base di queste eccezioni devono documentare la loro valutazione prima dell'immissione sul mercato e registrare il sistema nella banca dati UE.