Alcuni sistemi di intelligenza artificiale sono considerati particolarmente critici per la società. Vediamo quali sono e come l’UE vuole renderli più sicuri.
Quali AI sono considerate “ad alto rischio”?
- Sanità: Algoritmi utilizzati per diagnosi, trattamenti o assistenza sanitaria, che devono garantire elevati standard di sicurezza e precisione.
- Lavoro: Sistemi impiegati nella selezione del personale e nella valutazione delle performance lavorative, per evitare discriminazioni o decisioni arbitrarie.
- Giustizia e ordine pubblico: AI utilizzata per supportare decisioni legali o investigazioni, dove la trasparenza e il controllo umano sono fondamentali.
Cosa impone la normativa?
Per questi settori, l’AI Act stabilisce obblighi precisi:
- Trasparenza: Le aziende devono spiegare chiaramente come funzionano i loro algoritmi.
- Supervisione umana: Le decisioni cruciali non possono essere lasciate solo all’AI.
- Sicurezza dei dati: Garanzie per proteggere la privacy e prevenire discriminazioni.
Esempi concreti
- Negli ospedali: Un sistema AI che aiuta a diagnosticare malattie dovrà essere testato rigorosamente per evitare errori che possano mettere a rischio i pazienti.
- Nelle aziende: Gli strumenti AI per selezionare il personale dovranno essere progettati per non penalizzare gruppi specifici di candidati.
- Nei tribunali: Qualsiasi AI utilizzata per supportare decisioni giudiziarie dovrà essere soggetta a un controllo umano attento.
L’obiettivo dell’UE è garantire che l’AI venga utilizzata per migliorare la vita dei cittadini, senza creare nuove disuguaglianze o rischi per i diritti fondamentali.
Questo testo è stato prodotto con l’ausilio di ChatGPT
Vai agli altri articoli sull’AI Act europeo
- L’Europa stabilisce le prime regole per l’AI: cosa cambia per i cittadini
- Ecco le tecnologie AI che non vedremo mai in Europa
- AI sicura: cosa impone l’Europa per le tecnologie a rischio
- L’AI che scrive, disegna e crea: l’Europa detta le regole
- AI e lavoro: più opportunità o più rischi?
- AI e democrazia: tutela o minaccia?
- Possiamo fidarci dell’intelligenza artificiale?
- Chi controlla l’AI? Il ruolo delle istituzioni e delle aziende