AnyDream, il distopico servizio di AI usato per creare immagini pedopornografiche a pagamento
Pedopornografia e intelligenza artificiale. Mentre istituzioni, governi e compagnie del settore cercano di regolare le applicazioni basate sulla tecnologia, la rapida evoluzione dell’AI continua a porre sfide sempre più difficili. Se i deepfake costituiscono un pericolo e una pratica ormai affermati, c’è un fenomeno legato ad essi che si sta diffondendo: la creazione di immagini pedopornografiche. E c’è chi sfrutta la cosa per guadagnare. È il caso di Junyu Yang, fino a pochi giorni fa amministratore di un server su Discord utilizzato per condividere le immagini create tramite il sito AnyDream, tra i più affermati nel settore. Ufficialmente AnyDream dovrebbe servire alle modelle di OnlyFans per creare contenuti più o meno espliciti in maniera più veloce ed economica rispetto a dei veri servizi fotografici.
Gli abbonamenti per le immagini pedopornografiche
In pratica, però, la piattaforma – rivela Bellingcat – viene utilizzata da chiunque voglia iscriversi, spesso per creare deepfake espliciti non consensuali di conoscenti, personaggi famosi (quasi sempre donne) o partner, ma sono numerosi i casi in cui il servizio è stato usato per creare contenuti pedopornografici che vengono poi condivisi sul server Discord dedicato alla piattaforma, corredati dalle istruzioni usate per generarli. AnyDream permette anche di creare le immagini a partire da una foto caricata dall’utente. La piattaforma offre piani di abbonamento che vanno dagli 11 ai 60 dollari al mese. Arrivati alla fase di pagamento, spiega ancora Bellingcat, l’account di PayPal a cui si viene reindirizzati è quello di Junyu Yang. AnyDream nega ogni coinvolgimento con l’uomo, che però si era identificato come l’admin del server Discord.
I trucchi per ingannare l’AI
Ciò avviene nonostante il servizio di pagamento cofondato da Elon Musk vieti di essere utilizzato per transazioni riguardanti «beni di genere sessuale o contenuti sessuali forniti per mezzo digitale». Violazione simile a quella prevista da Stripe, altro metodo di pagamento offerto da AnyDream. Quest’ultima utilizza un dominio di Squarespace, servizio che a sua volta vieta la diffusione di materiale esplicito. AnyDream, inoltre, è basata su Stable Diffusion, piattaforma di creazione di immagini generate dall’intelligenza artificiale inizialmente offerta in maniera open source prima che fossero posti i necessari filtri ad evitare che venga utilizzato per la creazione di immagini pedopornografiche. Alcune limitazioni sono state imposte da AnyDream, ma non sembrano funzionare bene. Tanto che alcune volte, denunciano gli utenti su Discord, è sufficiente dire al bot di inserire dei giocattoli sullo sfondo per ottenere immagini esplicite che ritraggono soggetti minorenni.
Leggi anche:
