L’Intelligenza artificiale rende le macchine razziste. L’analisi

Dai pregiudizi di chi scrive gli algoritmi agli scherzi ai Chatbot che viaggiano via Twitter, ecco come le intelligenze artificiali diventano razziste.

Una macchina può essere razzista? Da quando si parla di Intelligenza artificiale e di machine learning, questo interrogativo, a volte in modo più sottile, altre volte in modo più evidente, sembra essere una costante.

Ebbene probabilmente la macchina non ha la capacità di essere razzista, ma possiamo dire lo stesso di chi l’ha programmata?

L’intelligenza artificiale, dietro il nome che in qualche modo ne sottende la capacità di autodeterminarsi, in realtà  non è  altro che unaì insieme di risposte a degli stimoli e in questo senso, anche se la macchina non pensa, certamente impara, in primo luogo da chi l’ha programmata, che, a differenza della macchina, essendo un essere umano, è soggetto a tutta una serie di pregiudizi e abiti mentali.

Detto in altre parole, le macchine non sono razziste, ma gli algoritmi che nutrono la sua intelligenza, sono scritti da esseri umani, che possono, consapevolmente o meno, deviare l’obiettività della macchina stessa.

I pregiudizi delle macchine

I neri tendono al crimine più dei bianchi. Falso! Ma invece è vero che, come riportato dal Guardian, i casi di arresti di neri sono maggiormente pubblicizzati rispetto a quelli dei bianchi. Allo stesso modo sembra che gli annunci per le posizioni di management più elevate, abbiano una maggiore possibilità di venir visualizzate da utenti uomini.

Facendo riferimento ai dati puri, le macchine di per sé sono neutrali, nel momento in cui entra una interpretazione del dataset, entrano anche le distorsioni.

Un chatbot per dominarli tutti

Oltre al pregiudizio, talvolta ci si mette anche l’hacking. Caso esemplare in questo senso è stata Tay, l’esperimento social made in Redmond, che in meno di 24 ore  si è trasformato in un bot razzista, misogino e con simpatie per Adolf Hitler. Merito della community degli utenti Twitter, che si è divertita, non senza un pizzico di goliardia, a insegnare e a far ripetere alla ignara intelligenza artificiale una serie di concetti e frasi, decisamente discutibili.

I nostri pregiudizi, i nostri privilegi

C’è di buono, nel caso di Tay, che ci fosse la consapevolezza di quanto si stesse facendo, ma a ben guardare, il problema, quando si parla cognitive computing, è fare proprio i conti con questi bias, che, per la maggior parte, non sono neppure percepiti dal programmatore e che invece hanno una stretta correlazione con quelli che sono i nostri privilegi e quelli della nostra società di riferimento.

Quanto siamo abituati a pagare in Euro, a considerare il maschile come neutro, ad avere una carta d’identità, un documento che sia universalmente riconoscibile?

Il villaggio globale richiede uno sguardo globale

Entrare in contatto con il villaggio globale, programmare per il villaggio globale che è internet, ma, mi verrebbe da aggiungere, pianificare user interfaces che possano tener conto di una esperienza utente ampia, implica avere la responsabilità di dover ragionare in termini globali, diversi e inclusivi.

Rendersi conto dei propri pregiudizi cognitivi è il primo passo per abbatterli e costruire design e prodotti che possano essere apprezzati da tutti, in ogni angolo del mondo.

Le 35 startup scelte dal Network Incubatori e Parchi Scientifici e Tecnologici per la settima edizione del Premio Gaetano Marzotto

Tutti i vincitori della selezione milanese della settima edizione del Premio Marzotto. Trentacinque nomi che appartengono a diversi settori industriali, e che concorreranno alla vittoria finale del premio. Prossimi appuntamenti: Trissino 27 ottobre, e poi la finale di Roma il 23 novembre 2017

L’economia in classe. Come raccontare bene l’economia ai ragazzi | Il libro

Non solo un manuale, molto di più di un libro di economia, piuttosto una bussola per educatori ed insegnanti, un format per fare lezione in classe. Ne parliamo con Pietro Raitano, direttore della rivista mensile Altreconomia e coautore del volume (insieme a Duccio Facchini e Luca Martinelli)

La piattaforma pensata per i professionisti arriva sullo smartphone con l’app ProntoPro

Il sito che mette in comunicazione artigiani, imprese e professionisti con i clienti è disponibile anche tramite applicazione che permette a chi offre un servizio di gestire il suo lavoro anche fuori dall’ufficio, in ogni momento