Dopo il successo di ChatGPT, ecco un’altra innovazione che sta creando dibattito
Fondata da ex membri di Palantir e Google (i founder si chiamano Mati e Piotr), ElevenLabs è specializzata in un settore specifico dell’intelligenza artificiale. Con la sua tecnologia, infatti, è in grado di clonare e sintetizzare la voce di chiunque attraverso un software gratuito appena rilasciato. Basta fargli ascoltare poco più di un minuto di audio pulito di un individuo per poter far pronunciare a quest’ultimo qualsiasi discorso.
La piattaforma si chiama Prime Voice AI ed è al centro delle polemiche dopo che diverse testate, Vice in testa, hanno riferito di non pochi problemi. Anche The Verge se ne è occupata, spiegando che diversi utenti di 4chan avrebbero clonato voci di celebrità come l’attrice Emma Stone e il podcaster Joe Rogan per diffondere clip audio deepfake.
In alcuni esempi citati da Vice, la voce clonata di Emma Watson legge una pagina del Mein Kampf, il principale testo del nazismo; in un altro caso la voce clonata di Ben Sharpio esprime commenti razzisti sulla deputata Alexandria Ocasio-Cortez. ElevenLabs è al corrente delle segnalazioni e degli abusi che si stanno compiendo. In questo periodo il dibattito sull’intelligenza artificiale è di grande attualità. Dopo il lancio di ChatGPT, il software di AI che genera testi come un chatbot, milioni di utenti si stanno appoggiando a questa tecnologia, in parte giocandoci in parte lavorandoci.
We’re deploying our own generative model that lets you design entirely new synthetic voices!🎇 Read all about it on our blog: https://t.co/exQtXRt6EP pic.twitter.com/ufCWtmPuFX
— ElevenLabs (@elevenlabsio) January 11, 2023
Ecco come si presenta la startup ElevenLabs sul proprio sito: “Siamo una società di ricerca sulla tecnologia vocale che sviluppa il software vocale AI più convincente per editori e creatori. Il nostro obiettivo è convertire istantaneamente l’audio parlato”. Fondata nel 2022 la società è sostenuta da fondi come Credo Ventures, Concept Ventures e altri investitori privati.
La clonazione della voce, così come quella dei video, non è una innovazione recente. In passato hanno fatto notizia i filmati deepfake come questo di un finto Barack Obama ricreato dall’intelligenza artificiale. Se questi contenuti possono dimostrare fino a che punto la tecnologia è arrivata, d’altra parte casi come quelli di ElevenLabs pongono di fronte a questioni di sicurezza.
Con la possibilità di diffondere contenuti audio molto facilmente via social, chiunque potrebbe infatti sintetizzare una voce finta di un personaggio famoso, facendogli pronunciare qualsiasi cosa. Con effetti e conseguenze non sempre prevedibili. Nel frattempo OpenAI con ChatGPT e ElevenLabs con le sue voci clonate stanno esplorando una nuova frontiera, mettendola a disposizione di qualsiasi utente.
