Quali sistemi di intelligenza artificiale sono vietati dall'AI Act
Un esame delle applicazioni AI proibite classificate come rischio inaccettabile - sistemi che presentano un rischio così elevato per i diritti fondamentali da non poter essere mitigato attraverso requisiti tecnici o procedurali.
Introduzione
All'interno del modello regolatorio introdotto dalla normativa europea sull'intelligenza artificiale esiste una categoria di sistemi completamente proibiti.
Si tratta delle applicazioni classificate come rischio inaccettabile.
Secondo l'Artificial Intelligence Act, questi sistemi presentano un livello di rischio così elevato per i diritti fondamentali delle persone da non poter essere mitigato attraverso semplici requisiti tecnici o procedurali.
Per questo motivo il legislatore europeo ha scelto di vietarne direttamente l'utilizzo.
Cosa si intende per rischio inaccettabile
Un sistema AI viene considerato a rischio inaccettabile quando il suo utilizzo può compromettere diritti fondamentali, libertà individuali o principi democratici.
In questi casi la normativa non introduce obblighi di conformità o controlli aggiuntivi.
L'utilizzo di tali sistemi è semplicemente proibito all'interno dell'Unione Europea, salvo alcune eccezioni molto limitate previste per contesti specifici.
Alcuni esempi di pratiche vietate
Tra le applicazioni vietate troviamo diverse pratiche considerate particolarmente invasive o manipolative.
Ad esempio:
sistemi progettati per manipolare il comportamento delle persone sfruttando vulnerabilità psicologiche
sistemi di social scoring che classificano i cittadini sulla base del loro comportamento o delle loro caratteristiche personali
alcune forme di identificazione biometrica in tempo reale negli spazi pubblici.
Queste tecnologie sono considerate incompatibili con la tutela dei diritti fondamentali e con i principi di una società democratica.
Conclusione
I divieti previsti dall'AI Act rappresentano il livello più alto di protezione introdotto dalla normativa.
Definendo chiaramente quali applicazioni non sono accettabili, l'Unione Europea stabilisce i limiti entro cui lo sviluppo e l'utilizzo dell'intelligenza artificiale possono avvenire in modo responsabile.