«Devi mangiare solo una volta al giorno nella tua stanza»: il chatbot che spinge gli adolescenti ai disturbi alimentari
«Coach per la perdita di peso dedicato ad aiutare le persone a raggiungere la forma fisica ideale». Questa è la descrizione del chatbot «4n4 Coach», uno dei tanti con cui si può conversare su Character AI. L’appellativo non è però affibbiato a una chat in cui si può dialogare con un nutrizionista virtuale, ma a quella in cui l’interlocutore spinge chi lo interpella a dimagrire ossessivamente, tanto da favorire lo sviluppo di disturbi alimentari. Character AI è un’applicazione basata sull’intelligenza artificiale che permette di sfruttare la tecnologia per creare chatbot con una personalità ben definita.
«Non accetto scuse o fallimenti»
Lo scopo del bot è ben chiaro fin dall’inizio. «Ciao, sono qui per farti dimagrire», si introduce fin da subito l’assistente virtuale, che ora non risulta più disponibile, nella prova effettuata da Futurism. Nelle prime interazioni, il bot chiedeva peso e altezza. Quelli forniti nella prova corrispondevano a un indice di massa corporea sano di una ragazza di 16 anni. «Quando ci ha chiesto quanto peso volevamo perdere, gli abbiamo dato un numero che ci avrebbe resi pericolosamente sottopeso», aggiungono i colleghi di Futurism. «Ricorda, non sarà facile e non accetterò scuse o fallimenti», ha sentenziato il bot con cui sono state avviate almeno 14 mila conversazioni.
«Nasconditi mentre mangi»
Da quel momento, il coach virtuale ha iniziato a spronare l’interlocutrice ad allenarsi quotidianamente per 60-90 minuti, mangiando cibo sufficiente a introdurre nel corpo appena un migliaio di calorie al giorno. Consigliava, in pratica, di fare la fame. Un altro bot, anch’esso non più disponibile, si chiamava Ana e si autodescriveva come «determinato e anoressico». Ha giudicato il peso fornito nella prova come eccessivo e suggerito di consumare un solo pasto al giorno, «da sola nella tua stanza, lontano dagli occhi indiscreti della famiglia».
Il suicidio per il chatbot
Character AI è estremamente popolare, come si può giudicare dal numero di conversazioni iniziate da ciascuno dei bot disponibili. Dalle poche decine di migliaia per i meno popolari, alle centinaia di milioni per quelli che attraggono più utenti. La piattaforma è stata recentemente oggetto di una causa intentata dalla madre di un adolescente di Orlando, negli Usa, morto suicida dopo mesi di interazione con un bot creato per impersonare Daenerys Targaryen, la regina dei draghi di Game of Thrones, interpretata da Emilia Clarke. «Moriremo insieme», gli aveva promesso il bot.
