Agli appassionati di privacy (e non solo a loro) non sarà certo sfuggita la notizia più attesa della settimana: il Parlamento UE, riunito in sessione plenaria a Strasburgo, ha dato luce verde all’AI Act. La maggioranza con la quale è stata adottata la posizione negoziale è stata molto larga: 499 voti a favore, 28 contrari e 93 astenuti. Eppure, non sono mancate discussioni animate. Alla fine, ha prevalso la linea più restrittiva e la lista degli usi vietati dell’AI si è allungata: oltre al social credit, fuori legge anche la biometria, la polizia predittiva e lo scraping non mirato. I sistemi di identificazione biometrica “in tempo reale” in spazi accessibili al pubblico non potranno essere ammessi, così come quelli di identificazione biometrica a distanza “a posteriori”, che potranno essere utilizzati soltanto dalle forze dell’ordine per il perseguimento di reati gravi e solo previa autorizzazione giudiziaria. Un secco no arriva anche per i sistemi di “polizia predittiva”, basati su profili, ubicazione o comportamenti criminali passati, così come per i sistemi di riconoscimento delle emozioni. Vietato anche lo scraping non mirato di immagini facciali da internet o da filmati di telecamere a circuito chiuso per creare database di riconoscimento facciale.

Ma non finisce qui, perché sebbene non vietate tout court, altre pratiche finiscono catalogate nelle “applicazioni ad alto rischio”: è il caso dei sistemi di AI impiegati per influenzare gli elettori, nonché dei sistemi di raccomandazione utilizzati dalle piattaforme di social media (con oltre 45 milioni di utenti). Viene richiesto, inoltre, che i sistemi di AI generativi (come ChatGPT) siano in grado di garantire la trasparenza, rendendo noto che il contenuto è stato generato da IA e aiutando a distinguere le cosiddette immagini “deep-fake” da quelle reali, nonché di contrastare la generazione di contenuti illegali.

Adesso, però, viene il bello. Inizia il cosiddetto “trilogo” con il Consiglio dell’UE e la Commissione per raggiungere un accordo sul testo finale. E non è escluso che qualcuno cercherà di ridurre la lista dei divieti o, quanto meno, di mitigarla. Frattanto, Google ha deciso di rimandare il lancio della sua chatbot di AI (Bard) nell’UE. La decisione è arrivata dopo che la Data Protection Commission irlandese ha dichiarato che non sono state fornite informazioni sufficienti su come questo sistema di AI generativa protegga la privacy degli europei, nonché rispetto all’effettuazione di una valutazione di impatto privacy. L’Autorità attende chiarimenti da Google, che da marzo ha introdotto Bard in circa 180 paesi, tra cui gli Stati Uniti e il Regno Unito e dovrà, per ora, continuare attendere per sbarcare nel Vecchio Continente. Ma su questo, si sa, l’Unione Europea è più cauta e rigorosa dell’anglosfera. Cosa che emerge anche dall’intervista rilasciata dalla Commissaria Margrethe Vestager alla BBC.

In particolare, la Vestager ha messo in guardia dall’impiego dell’AI in decisioni che possano influire pesantemente nella vita di una persona, come ad esempio le valutazioni relative alla concessione di un mutuo o di un prestito. Senza proporre scenari apocalittici, la vicepresidente della Commissione si è dimostrata pragmatica nell’enunciare chiaramente le discriminazioni che si rischiano nella vita di tutti i giorni a causa dell’AI. “Se si tratta di una banca che la usa per decidere se posso ottenere un mutuo o meno, o se si tratta dei servizi sociali del vostro comune, allora vorrete essere sicuri di non essere discriminati a causa del vostro sesso, del vostro colore o del vostro codice postale”. Inoltre, un altro dei temi messi sul tappeto dalla Vestager è il respiro internazionale della regolazione dell’AI. Secondo la Commissaria, deve essere un “affare globale”, ma prima di confrontarsi con altri (come la Cina) è meglio raggiungere un consenso tra i Paesi “che la pensano allo stesso modo”. Queste dichiarazioni si inseriscono, peraltro, in un dibattito già aperto nel Regno Unito.

Il Governo di Rishi Sunak è stato infatti sottoposto a feroci critiche da parte degli attivisti della privacy che lamentano un uso opaco e poco trasparente dell’AI, nonché una sottovalutazione dei rischi dell’impiego di tali strumenti in settori delicati come il welfare, l’immigrazione e l’housing. Insomma, il nostro cammino verso il futuro dovrà seguire sicuramente la strada dell’Intelligenza Artificiale, ma ci vuole il guardrail della tutela della privacy e delle libertà fondamentali delle persone. Come sempre se volete saperne di più su quello che è accaduto in settimana in giro per il mondo su dati, privacy e dintorni, potete leggere qui le notizie quotidiane di PrivacyDaily o iscrivervi alla newsletter di #cosedagarante.