MARCO GUERRIERI
Misurare tramite algoritmi il livello di pericolosità di una persona, così da intervenire subito per prevenire il crimine: non è solo la trama di un serie animata distopica, potrebbe già essere realtà
La serie animata Psycho-Pass, uscita nel 2012 in Giappone e giunta in Europa l’anno successivo, è ambientata a Tokyo nell’anno 2112. In questa distopica società futuristica, è stata sviluppata una tecnologia biomeccatronica in grado di misurare la condizione interiore e le tendenze caratteriali delle persone, in maniera tale che ogni disposizione psicologica venga registrata e controllata per fornire un giudizio sulla pericolosità di ciascun individuo. Tale valutazione, conosciuta come «Psycho-Pass», viene espressa numericamente, e ogni fascia numerica è poi associata a un colore.
Il sistema funziona in modo tale che se il valore del Pass supera una soglia standard (nella serie, un punteggio pari a 100), questo assume una colorazione nera e il cittadino in questione viene immediatamente raggiunto, arrestato e talvolta ucciso dalla polizia locale.
La società in questione ha un privilegio evidente: la paura del crimine è stata ridotta praticamente a zero. Tuttavia, se lo stress dei cittadini ha raggiunto livelli minimi è anche perché si viene allontanati dagli altri non appena il punteggio dello Psycho-Pass sale: questo, però, non corrisponde sempre a un reale pericolo per l’incolumità delle persone.
Facciamo un esempio: nella serie, una donna viene rapita da alcuni criminali che vengono subito rintracciati e annientati. Tuttavia, nel momento in cui la polizia si occupa dei rapitori, viene fuori un dato sconcertante: lo Psycho-Pass della vittima risulta inscurito a causa della tensione provata dalla donna durante tutta la vicenda, e per questo motivo gli investigatori ricevono l’autorizzazione ad eliminarla.
In altre parole, chiunque si ritrovi – per colpa tanto sua quanto di altri – con un alto livello di stress può essere indiscriminatamente messo a tacere: la posta in gioco è la pace della città, e questa potrebbe essere messa in pericolo anche da un qualsiasi innocente che, subìto un danno, si ritrovasse in una condizione di scompenso emotivo.
Di fronte a questa prospettiva sorgono due reazioni principali: da una parte, infatti, viene naturale nutrire dei dubbi verso un meccanismo così automatico e potenzialmente atroce. Dall’altra, però, i sostenitori di un simile sistema si rifanno alla società ideale che è nata grazie a questa forma di controllo di massa.
La pace di tutt* richiede dei sacrifici individuali: un’idea molto vicina alla posizione di Platone nel suo dialogo Politèia[1]. Per il filosofo ateniese, infatti, le necessità o le problematiche del singolo non contano, dal momento che l’unica vera felicità coincide con il benessere della città[2].
Comunque, sin qui si potrebbe avere l’impressione di star parlando di questioni futuristiche, quasi fantascientifiche. Ma non è così. Nel 2013, il cittadino americano Eric Loomis fu condannato dal suo stato per diversi capi d’accusa, tra cui quello di guidare un’automobile che era stata precedentemente utilizzata durante una sparatoria. Il motivo, però, per cui il caso «Wisconsin vs. Loomis[3]» è passato alla storia è ben altro: in occasione di questo processo, infatti, si è fatto ricorso al software COMPAS, sviluppato già nel 1998. L’acronimo sta per Correctional offender management profiling for alternative sanctions: si tratta di uno strumento di valutazione del rischio che affianca i giudici nella decisione delle pene da assegnare a cittadin* colpevoli di un reato, determinando il loro fattore di recidività. Alla base di questo sistema, quindi, si trova un calcolo delle probabilità che una persona possa commettere nuovamente un reato, eseguito tramite un questionario di 137 domande poi processate secondo un algoritmo segreto; nel caso Loomis, il risultato di questo test è stato determinante per la maggiorazione della pena dell’imputato.
Nonostante un invito da parte dei più alti ranghi giurisdizionali degli USA a non abusare di questo strumento[4], e nonostante uno studio pubblicato nel 2016 su Science Advances abbia dimostrato che l’algoritmo è particolarmente sfavorevole nei confronti delle persone di etnia afroamericana[5], COMPAS è ancora utilizzabile da parte delle corti e più di uno stato se ne è servito nei suoi tribunali[6].
I sostenitori ritengono che con l’aiuto di questo strumento sia più facile rendersi conto di chi è che siede al banco degli imputati: una situazione, a ben guardare, simile alla serie animata distopica di cui si è parlato poco fa.
A questo punto, sorge spontanea una osservazione: noi esseri umani non siamo solo i pensieri che ci vengono in mente. Giudicare il futuro di una persona in base a ciò che ha fatto finora vuol dire negare l’importanza che hanno l’esperienza e l’educazione nella vita di tutt*, colpevoli e non. Inoltre, il nostro sistema giuridico prevede da secoli la necessità dell’effettività di un reato perché si arrivi in tribunale: in altre parole, non si possono fare processi alle intenzioni. Forse tutto questo potrebbe portare a non fermare in anticipo degli individui che in futuro commetteranno dei crimini, anche efferati? Sì, ma non bisogna tralasciare il fatto che questi crimini non ci sono ancora, e questi individui non se ne sono ancora macchiati. Una soluzione più razionale, invece, sarebbe quella di realizzare una diversa prevenzione del crimine, puntando su fattori di cura del disagio sociale come l’arte, la scuola o una migliore gestione del welfare.
Per concludere, vorrei riproporre una domanda tratta da un contesto ben più antico della società odierna. Nelle tragedie di Sofocle – come l’Antigone, dove una donna va incontro alla morte poiché minaccia l’ordine sociale pur di seguire i dettami della sua morale – emerge proprio questo tremendo e attuale interrogativo: che prezzo paghiamo alle nostre città?[7]La sicurezza, la tranquillità e altre condizioni ideali per le nostre vite hanno un costo: anche oggi, tutt* noi subiamo costanti controlli in nome del bene comune. Ma l’andare a investigare le nostre vite quotidiane e i nostri passati pur di capire dove potrebbe nascondersi il prossimo mostro pare, almeno a chi scrive, niente più che una chimera: il mostro è nascosto dietro ad ogni essere umano, la differenza sta nelle azioni che facciamo. E nessuna di queste azioni, così come nessun destino individuale, è già stata scritta.
[1] La «costituzione della città ideale», edita in italiano con il titolo Repubblica.[2] Cfr., ad es., il memorabile incipit del IV libro.[3] https://harvardlawreview.org/2017/03/state-v-loomis/
[4] Cfr. gli atti al link nella nota precedente.[5] https://www.science.org/doi/10.1126/sciadv.aao5580
[6] Cfr. il recente paper di Keith Kirkpatrick: https://doi.org/10.1145%2F3022181
[7] Cfr. ad es. l’introduzione di F. Condello alle letture tratte dal Filottete in Patria, patrie, volume del 2019 a cura del Centro studi bolognese «La permanenza del Classico».
SEGNALIAMO ANCHE
