Quali pratiche AI sono severamente vietate dall'AI Act?

L'articolo 5 dell'AI Act delinea le pratiche AI specifiche che comportano rischi inaccettabili e sono severamente vietate. Queste includono:

Tecniche manipolative o ingannevoli

Sistemi AI che impiegano tecniche subliminali al di là della coscienza di una persona o utilizzano manipolazione intenzionale per distorcere materialmente il comportamento. Ciò è vietato se compromette la capacità di una persona di prendere una decisione informata e causa, o è probabile che causi, un danno significativo.

Sfruttamento delle vulnerabilità

Sistemi AI che sfruttano le vulnerabilità di una persona o di un gruppo dovute alla loro età, disabilità o specifica situazione sociale o economica per distorcere il loro comportamento in modo da causare un danno significativo.

Social scoring

La valutazione o classificazione di persone fisiche basata sul loro comportamento sociale o sulle caratteristiche di personalità previste nel tempo, se il "punteggio sociale" risultante porta a un trattamento dannoso o sfavorevole che è ingiustificato, sproporzionato o si verifica in contesti sociali non correlati.

Polizia predittiva basata esclusivamente sulla profilazione

Utilizzare sistemi AI per valutare o prevedere il rischio che un individuo commetta un reato basandosi esclusivamente sulla profilazione o sulla valutazione dei suoi tratti e caratteristiche di personalità. Tuttavia, l'AI può ancora essere utilizzata per supportare valutazioni umane basate su fatti oggettivi e verificabili direttamente collegati all'attività criminale.

Scraping non mirato per il riconoscimento facciale

Creare o espandere banche dati di riconoscimento facciale attraverso lo scraping non mirato di immagini facciali da internet o da riprese di telecamere a circuito chiuso (CCTV).

Riconoscimento delle emozioni in contesti specifici

Utilizzare sistemi AI per inferire le emozioni di persone fisiche nei luoghi di lavoro o negli istituti di istruzione, eccetto quando il sistema AI è destinato a finalità mediche o di sicurezza.

Categorizzazione biometrica basata su tratti sensibili

Sistemi che categorizzano individualmente persone fisiche sulla base dei loro dati biometrici per dedurre o inferire la loro razza, opinioni politiche, appartenenza sindacale, convinzioni religiose o filosofiche, vita sessuale o orientamento sessuale. Ciò non vieta l'etichettatura o il filtraggio lecito di dataset biometrici acquisiti nell'ambito delle forze dell'ordine.

Identificazione biometrica remota in tempo reale negli spazi pubblici per le forze dell'ordine

L'uso di questi sistemi è vietato a meno che non sia strettamente necessario per eccezioni specifiche ed esaustivamente elencate. Queste eccezioni ristrette includono:

• -La ricerca mirata di vittime specifiche (come persone scomparse o vittime di tratta)
• -La prevenzione di una minaccia specifica e imminente alla vita o di un attacco terroristico
• -L'identificazione di un sospettato per determinati reati gravi