Lo scorso gennaio il consulente politico Steve Kramer aveva trasmesso un falso messaggio del presidente Joe Biden rivolto agli elettori del New Hampshire con l’invito a disertare le primarie presidenziali per il partito democratico.
Leggi anche: Voci clonate con l’AI: Biden chiede il ban (dopo esserne stato vittima)
Migliaia di persone si erano viste recapitare il messaggio: «È importante che tu riservi il tuo voto per le elezioni di novembre. Votare questo martedì consente solo ai repubblicani di eleggere di nuovo Donald Trump. Il tuo voto fa la differenza a novembre, non questo martedì.»
La Federal Communications Commission aveva portato in tribunale la compagnia telefonica Lingo Telecom con l’accusa di aver trasmesso una telefonata in cui si utilizzava la tecnologia di clonazione vocale tramite AI generativa ai danni non solo di Joe Biden ma dell’intera intelaiatura democratica statunitense. Una mossa inattesa che ha destato non poche preoccupazioni tra i gestori delle compagnie dato che, con l’avvicinarsi delle presidenziali americane di novembre, i deepfake a sfondo politico sono destinati ad aumentare.
I’ve signed over 400 bipartisan bills. But there’s more to do to pass my Unity Agenda.
— President Biden (@POTUS) March 8, 2024
We must strengthen penalties on fentanyl trafficking.
Pass privacy legislation to protect our kids online.
Keep our sacred obligation to our troops.
And end cancer as we know it.
Nel frattempo, la telco ha patteggiato il pagamento di un milione di dollari per porre fine alla vicenda. Lingo Telecom dovrà ora rispettare le regole di autenticazione dell’ID chiamante. Non solo: la FCC ha imposto alla telco di verificare più approfonditamente l’accuratezza delle informazioni fornite dai suoi clienti (Know Your Customer, KYC) e dai provider upstream (Know Your Upstream Provider, KYUP).
Leggi anche: Quanto sarà utilizzata l’AI in vista delle elezioni USA? Lo spot repubblicano con immagini finte fa da battesimo
«Ognuno di noi merita di sapere che la voce in linea è esattamente chi afferma di essere. Se viene utilizzata l’AI, questo dovrebbe essere reso chiaro a qualsiasi consumatore, cittadino ed elettore. La FCC agirà quando la fiducia nelle nostre reti di comunicazione è in gioco», il commento di Jessica Rosenworcel, presidente della FCC.
