L'Intelligenza Artificiale può prevedere un omicidio?

Nel Regno Unito, il Ministero della Giustizia sta testando un algoritmo predittivo che analizza dati sensibili — come precedenti penali, disturbi mentali, dipendenze e persino atti di autolesionismo — per stimare chi potrebbe uccidere in futuro. Sembra l’inizio di una serie TV, invece è una tecnologia reale, già in fase avanzata, e potrebbe essere usata per orientare decisioni giudiziarie, misure di sorveglianza o interventi preventivi su individui "a rischio".

E il problema è che non riguarda solo chi ha commesso reati. Secondo l’ong Statewatch, nei dataset finiscono anche vittime di violenza domestica, persone che non hanno mai infranto la legge. Solo perché i loro dati sembrano “compatibili” con un rischio statistico.

Ma un algoritmo non è neutrale. È allenato su dati distorti, carichi di pregiudizi razziali, di genere e di classe. Se un gruppo sociale è più sorvegliato, finirà più spesso nei database. E sarà considerato più pericoloso.

È un meccanismo che amplifica le discriminazioni, trasformandole in “previsione oggettiva”. E dietro la promessa di sicurezza si nasconde il rischio di una società dove la colpa si attribuisce prima dei fatti, e la sorveglianza diventa una norma accettata.

Così, la giustizia preventiva si trasforma in una scorciatoia pericolosa: sposta la responsabilità morale dalle istituzioni alla macchina, e svuota il dibattito pubblico sul confine tra sicurezza e libertà.

E quando un sistema del genere sbaglierà — perché accadrà — chi ne risponderà?

Era successo nella serie TV Person of Interest, dove una macchina sorvegliava ogni cittadino per prevenire i crimini. Oggi quella macchina è realtà. E sarà applicata alla giustizia penale inglese, portando con sé domande etiche, sociali e politiche che non possiamo più rimandare.