Cosa sono i sistemi di intelligenza artificiale ad alto rischio
Tra le diverse categorie introdotte dalla normativa europea sull'intelligenza artificiale, quella dei sistemi ad alto rischio è probabilmente la più rilevante per le aziende. A differenza delle applicazioni vietate, questi sistemi possono essere sviluppati e utilizzati, ma devono rispettare requisiti specifici.
Introduzione
Tra le diverse categorie introdotte dalla normativa europea sull'intelligenza artificiale, quella dei sistemi ad alto rischio è probabilmente la più rilevante per le aziende.
A differenza delle applicazioni vietate, questi sistemi possono essere sviluppati e utilizzati, ma devono rispettare una serie di requisiti specifici progettati per ridurre i rischi associati al loro utilizzo.
La definizione e la regolamentazione di questi sistemi sono uno degli elementi centrali dell'Artificial Intelligence Act.
Quando un sistema AI è considerato ad alto rischio
Un sistema di intelligenza artificiale viene classificato come ad alto rischio quando il suo utilizzo può avere un impatto significativo sulla sicurezza delle persone o sui loro diritti fondamentali.
Questo può accadere, ad esempio, quando l'AI viene utilizzata per supportare o automatizzare decisioni che influenzano opportunità economiche, accesso a servizi o condizioni lavorative.
In questi casi è necessario garantire che il sistema sia sviluppato e utilizzato in modo affidabile e controllabile.
Perché questa categoria è così importante
Molte delle applicazioni più diffuse dell'intelligenza artificiale nelle organizzazioni possono rientrare in questa categoria.
Pensiamo, ad esempio, a sistemi utilizzati per la selezione dei candidati, per la valutazione del credito o per l'analisi di dati in ambito sanitario.
In questi contesti un errore o una distorsione algoritmica può avere conseguenze rilevanti per le persone coinvolte.
Conclusione
Per questo motivo la normativa europea introduce requisiti specifici per i sistemi AI ad alto rischio.
Comprendere se una determinata applicazione rientra in questa categoria rappresenta uno dei passaggi più importanti per le aziende che utilizzano l'intelligenza artificiale.