La Metropolitan Police nei giorni scorsi ha comunicato che sta per procedere all’installazione del primo sistema di riconoscimento facciale intelligente in tempo reale su una strada inglese. La località fortunata – o sfortunata a seconda dei punti di vista – sarà il sobborgo di Croydon, a sud di Londra, uno dei luoghi più pericolosi e a più alto tasso di criminalità della capitale.
Ed è questa caratteristica, naturalmente, ad averne determinato l’identificazione come teatro della sperimentazione. L’obiettivo dichiarato dalle forze di polizia è mettere la tecnologia e l’Intelligenza artificiale a servizio della giustizia, consentendo una più celere e efficace identificazione dei ricercati che potrebbero frequentare il sobborgo di Croydon. Ma non è tutto ora quello che luccica e, soprattutto, il fine, non sempre, giustifica i mezzi.
Guai a lasciarsi distrarre dall’obiettivo perseguito o a confondere la sua bontà con quella dell’iniziativa e dei mezzi fatti scendere in campo. Il ricorso all’intelligenza artificiale nel riconoscimento facciale biometrico, infatti, è una soluzione onerosissima in termini di diritti e libertà e della cui effettiva affidabilità, allo stato, è tanto lecito dubitare che l’AI Act, con poche eccezioni, la mette nell’elenco delle soluzioni a rischio inaccettabile e, quindi vietate e, anche quando apre al suo utilizzo, la fa tra mille cautele.
E sono cautele rafforzate dalla disciplina europea che si occupa proprio di protezione dei dati personali per finalità di sicurezza e giustizia, ovvero la Direttiva 680 del 2016 che declina, nel contesto delle cose della giustizia appunto, i principi del più celebre GDPR. Per non dire che in Italia allo stat, il ricorso a questo genere di soluzioni real time è – anche in questo caso con limitatissime eccezioni – oggetto di una moratoria sino al 31 dicembre di quest’anno.
Leggi anche: Giù le mani da quelle voci: sono frammenti della nostra identità personale
Insomma per quanto l’iniziativa londinese appaia naturale, logica, di buon senso e dalla parte giusta, vale la pena grattare un istante sotto la crosta e scavalcare la linea dell’apparenza.
Riconoscimento facciale e questioni da risolvere
La circostanza che l’intera popolazione di un quartiere debba essere scrutata ventiquattro ore su ventiquattro, espropriata dei propri dati biometrici – i più personali tra i dati personali – e sottoposta a un processo di riconoscimento facciale sistematico come se si trattasse di centinaia di migliaia di sospettati di ogni più atroce delitto rappresenta – ed è bene non dimenticarsene – un costo sociale significativo non necessariamente qualificabile come proporzionato rispetto all’obiettivo perseguito e non necessariamente, di conseguenza, considerabile sostenibile.
Personalmente, ad esempio, non credo sia né l’uno, né l’altro. E questo a prescindere dalla circostanza – pure non irrilevante – che benché la tecnologia, inclusa quella di riconoscimento facciale intelligente stia facendo passi da gigante, ancora non ci siamo, ancora il tasso di errore nei riconoscimenti è elevato, ancora, soprattutto, è discriminatorio, ovvero più elevato per le persone che appartengono a certe etnie che per quelle che appartengono a altre. Tanto, inesorabilmente, contribuisce, almeno a mio avviso, a un giudizio di sproporizionalità e insostebilità democratica della misura.
Perché, certo, l’ultima parola tocca sempre a un uomo, a un agente di polizia nel nostro caso ma, non mancano, in giro per il mondo, diverse esperienze che già suggeriscono come, per tante ragioni diverse, le persone tendono a uniformarsi e a aderire alle proposte di decisione algoritmica considerandole affidabili anche oltre l’apparenza e il buon senso. Insomma, dopo che un sistema di riconoscimento facciale cosiddetto intelligente usato dalle forze dell’ordine ti ha bollato come un criminale, se la notizia circolasse, faresti una gran fatica a convincere prima le stesse forze dell’ordine e, poi, la tua comunità di appartenenza che non lo sei.
Leggi anche: Quelle telecamere “intelligenti” di San Pietroburgo in grado di distinguere i passanti per etnia
Ma anche senza arrivare a pensare a patologie di questo genere, forse, la stessa idea di come sapere di essere osservati così in profondità e in maniera tanto indiscriminata – a prescindere cioè da chi si è e da cosa si fa – è incompatibile con il rispetto della dignità delle persone e l’esigenza di garantire loro una vita libera in una società democratica.
Sin qui senza dire che, almeno nel caso dell’esperimento che sta per prendere il via nel sobborgo di Londra, manca qualsivoglia norma di legge che ne detti le regole di funzionamento e che effettui quell’imprescindibile bilanciamento tra l’esigenza di garantire giustizia e sicurezza alle persone e quella di garantire loro la privacy. E l’assenza di una disposizione di legge del genere non è un capriccio formale. Significa, infatti, assenza della conclusione di una discussione e di un dibattito politico – nel senso più alto del termine – che abbia condotto il popolo, rappresentato dal Parlamento, a considerare l’iniziativa sostenibile e utile a garantire l’interesse pubblico. Troppo alto, in un contesto del genere, il rischio di abusi, non importa quanto in buona fede.
Troppo elevato il rischio che le forze dell’ordine si lascino prendere la mano e inizino a considerare giuridicamente legittimo e democraticamente sostenibile tutto quello che risultasse tecnicamente possibile. È indubbio che la tecnologia possa offrire strumenti utili per la prevenzione e il contrasto della criminalità. Ma è altrettanto evidente che, senza regole chiare e tutele efficaci, il rischio è quello di scivolare in una forma di sorveglianza generalizzata che mina le fondamenta stesse di uno Stato di diritto. Sicurezza e libertà non devono essere scelte alternative, ma valori da equilibrare con equilibrio e buon senso, ricordando sempre che, a una persona, non si può chiedere di scegliere tra diritti fondamentali ma, al contrario, bisogna garantire il diritto a non dover scegliere, non dover scegliere tra vivere in una città più sicura o disporre di un’adeguata misura di privacy. Una città sicura, in fondo, non è solo quella in cui si prevengono i reati, ma anche quella in cui ogni cittadino si sente libero e protetto nei propri diritti fondamentali.
Come sempre se volete saperne di più su quello che è accaduto in settimana in giro per il mondo su dati, privacy e dintorni potete leggere qui le notizie quotidiane di PrivacyDaily o iscrivervi alla newsletter di #cosedagarante.
