L’assistente virtuale di New York ha invitato i cittadini a infrangere la legge: «È pericoloso»

«Sì, il datore di lavoro può detrarre parte della mancia dei propri dipendenti». È questa una delle risposte date dal chatbot basato sull’intelligenza artificiale che la città di New York ha reso disponibile per tutti coloro vogliano aprire un’attività commerciale nella Grande Mela. Ma si tratta di una risposta sbagliata, che invita a infrangere la legge. Infatti, le legge dello Stato di New York, vieta esplicitamente ai datori di lavoro di trattenere le mance dei dipendenti, anche se queste possono essere conteggiate e considerate ai fini del raggiungimento del salario minimo che in città non può scendere sotto i 16 dollari l’ora. L’obiettivo dell’assistente basato sull’AI è dare una mano a chi fa fatica a districarsi tra le tante norme da rispettare per aprire un’attività commerciale, ma sono molte le risposte che se seguite possono portare a a infrangere le norme che il chatbot dovrebbe rendere più chiare.

Il pregiudizio e le discriminazioni dell’AI

Lanciato a ottobre, dopo cinque mesi sembra chiaro che, il bot appare sicuro di quanto scrive, nonostante le informazioni fornite riguardo politiche abitative, diritti dei lavoratori e regole per gli imprenditori sono spesso incomplete e talvolta, per dirla con le parole di uno degli esperti di Diritto alla Casa consultati da The Markup, «pericolosamente imprecise». Il bot sostiene inoltre che i datori di lavoro possano cambiare gli orari dei dipendenti senza avvisarli, ma anche questa pratica è vietata. Un altro esempio di risposte di questo tipo sono quelle date riguardo le regole sugli affitti. Secondo l’assistente, un proprietario di casa può decidere di non affittare a chi riceve sussidi per l’affitto. Tuttavia, la legge dello Stato di New York vieta ai locatori di discriminare i potenziali inquilini per la loro fonte di reddito.

La mano di Microsoft

Così come vieta loro di cacciare i locatari se hanno vissuto in un’abitazione per almeno 30 giorni. E ancora, secondo l’assistente non c’è nessun obbligo di accettare contanti. Ma in realtà dal 2020 gli esercizi commerciali di New York sono tenuti ad accettare anche pagamenti cash per evitare discriminazioni contro coloro che per vari motivi, come l’assenza di una fissa dimora non possono aprire un conto in banca. Tutto ciò avviene nonostante la reputazione dei provider scelti per il servizio. Il MyCity Chatbot è basato sull’intelligenza artificiale di Microsoft Azure, che a sua volta beneficia di quella di OpenAI, azienda sviluppatrice di ChatGPT di cui Microsoft è ricca investitrice. Il bot consente agli imprenditori di «accedere a informazioni attendibili da più di 2.000 pagine web aziendali di New York».

Violazioni e multe

E afferma esplicitamente che la pagina dovrebbe fungere da risorsa «su argomenti quali la conformità a codici e regolamenti, incentivi aziendali disponibili e migliori pratiche per evitare violazioni e multe». Quel che c’è da capire ora, è se qualcuno abbia infranto la legge seguendo i suoi consigli che, per stessa ammissione dello strumento, possono essere scorretti o prevenuti.

Leggi anche:

• L’articolo dei ricercatori cinesi scritto con ChatGPT. Beffata la rivista scientifica: «Dobbiamo capire cos’è successo»
• Anima gemella cercasi (con l’AI). Come funziona il Tinder di Stato del Giappone contro la crisi demografica
• Svezia, 82 studenti sospesi per aver usato l’Intelligenza Artificiale durante gli esami: «Proibirla è assurdo, servono regole»