Emma Watson legge il Mein Kampf, Robin Williams lancia sparate razziste. La deriva del simulatore vocale deepfake

Emma Watson legge il manifesto politico di Adolf Hitler. Rick di Rick & Morty, licenziato di recente per le accuse di violenza domestica, pronuncia frasi misogine e violente contro la moglie. Ben Shapiro fa commenti razzisti contro la deputata democratica statunitense Alexandria Ocasio-Cortez. E poi ancora Robin Williams e Joe Rogan pronunciano frasi razziste. È l’ultima deriva del deepfake, nella parte più oscura del web: voci di personaggi famosi vengono usate per trasmettere messaggi razzisti e violenti, attraverso una tecnica di “clonazione professionale”, in grado di riprodurre qualsiasi tono, accento e cadenza. Tutto è cominciato dall’annuncio diffuso pochi giorni fa dalla start-up di intelligenza artificiale vocale EvenLabs, fondata da alcuni ex membri dello staff di Google e Palantir, che ha dato il via alla piattaforma Prime Voice Ai: un software aperto capace di replicare la voce di chiunque, ascoltando pochi secondi di un audio campione. Una novità che anche il web ha subito cominciato ad utilizzare, e in alcuni casi nella maniera peggiore. I vocali razzisti e transfobici pubblicati su 4Chan poche ore fa sono sembrati spaventosamente simili alle voci dei famosi, tanto da far intervenire la stessa società inglese: «Mentre vediamo che la nostra tecnologia viene applicata nella maggior parte dei casi per un uso positivo, osserviamo anche un numero crescente di casi di uso improprio della clonazione vocale», ha scritto l’azienda su Twitter, senza specificare a cosa si riferisse in particolare.

A chiarire meglio cosa stava accadendo è stato Vice, che monitorando la piattaforma 4Chan ha scovato i terribili audio: oltre a Emma Watson che recita il Mein Keimpf e a Ben Shapiro che fa commenti razzisti su Alexandria Ocasio-Cortez, «anche un terzo vocale dove qualcuno che dice “i diritti trans sono diritti umani” viene poi strangolato», racconta la rivista, «o un altro in cui Rick Sanchez della serie animata Rick & Morty dice: “Picchierò mia moglie Morty. Picchierò la mia fottuta moglie Morty. La picchierò a morte, Morty”». Le clip spaziano dal violento al transfobico, dall’omofobo al razzista. «Un post di 4Chan che promuoveva l’ampia diffusione delle clip conteneva anche un collegamento proprio alla versione beta di ElevenLabs», spiega ancora Motherboard. Al momento la startup britannica non ha diffuso nessun altro commento. L’azienda ha appena ricevuto 2 milioni di dollari in finanziamenti da Credo Ventures. Un capitale che ha annunciato di voler investire sull’ampliamento del servizio, «sostituendo i narratori degli audio libri con le voci prodotte dall’intelligenza artificiale», o ancora «automatizzando le voci per leggere gli articoli e creando audio per i videogiochi».

Leggi anche:

• Ai confini della realtà (del Mondiale). L’incredibile manipolazione video che cambia il finale di Argentina-Francia – Il video
• Miracoli del deepfake: Meloni, Berlusconi, Salvini, Letta, Conte, Renzi e La Russa in coro per gli auguri a Striscia – Il video
• Guerra in Ucraina, si allarga il caso deepfake: dopo la sindaca di Berlino, anche quello di Madrid è stato ingannato dal finto sindaco di Kiev