Pechino (AsiaNews) - La Cina ha introdotto una serie di norme per regolamentare i servizi di intelligenza artificiale progettati per instaurare legami emotivi con gli utenti. Dal 15 luglio sono entrate in vigore le nuove disposizioni emanate dall’Amministrazione per il cyberspazio cinese insieme ad altri quattro ministeri, che impongono limiti ai chatbot capaci di simulare emozioni, personalità e relazioni umane, vietando in particolare ai minori di interagire con “partner virtuali” o “parenti digitali”.
Le misure rientrano nella strategia di Pechino per esercitare un controllo sempre più stretto sullo sviluppo dell'intelligenza artificiale generativa, in rapida espansione nel Paese. Negli ultimi anni milioni di utenti cinesi hanno utilizzato applicazioni che offrono la possibilità di creare fidanzati virtuali ispirati a personaggi di film e serie televisive, ridare digitalmente vita a familiari defunti o trasformare i chatbot in confidenti e amici del cuore permanenti.
Secondo le nuove regole, le piattaforme non potranno generare contenuti per i minori che incoraggino comportamenti pericolosi, provochino emozioni estreme o favoriscano abitudini dannose per la salute fisica e mentale. I sistemi di AI dovranno inoltre evitare di generare dipendenza emotiva, compromettere le relazioni nella vita reale o manipolare gli utenti inducendoli a prendere decisioni irragionevoli. Agli utenti che presentano comportamenti di dipendenza, le piattaforme saranno obbligate a inviare un promemoria di uso eccessivo ogni due ore.
Queste restrizioni si applicano solo ai servizi progettati per favorire un coinvolgimento affettivo tra utente e chatbot. Gli strumenti di assistenza clienti, gli assistenti per il lavoro o i sistemi di consultazione e ricerca delle informazioni restano quindi esclusi.
Come ha spiegato a China News Weekly Zhang Linghan, direttrice dell’Istituto di diritto dell’intelligenza artificiale dell’Università della Cina di Scienze politiche e diritto a Pechino, la componente emotiva offerta da questi servizi antropomorfi può facilmente trasformarsi in dipendenza psicologica, riducendo la capacità degli utenti di costruire relazioni profonde e di gestire i conflitti nella vita reale.
Le autorità cinesi da tempo denunciano questi rischi e le nuove disposizioni, oltre ad avere come obiettivo la tutela dei minori, confermano la visione di Pechino di voler governare lo sviluppo dell’intelligenza artificiale ispirandosi a criteri di stabilità sociale e sicurezza nazionale.
Le principali aziende tecnologiche cinesi hanno iniziato ad adeguarsi già prima dell’entrata in vigore delle nuove norme. Lo stesso 15 luglio ByteDance, proprietaria di TikTok, e il colosso dell’e-commerce Alibaba hanno disattivato le funzioni dedicate ai compagni virtuali integrate nei loro chatbot di intelligenza artificiale, rispettivamente Doubao e Qianwen, tra i servizi di AI più utilizzati nel Paese. Alibaba ha interrotto immediatamente il servizio, mentre ByteDance consentirà agli utenti di trasferire i propri dati entro il 15 ottobre.
Anche Tencent, proprietaria della piattaforma di messaggistica WeChat e uno dei maggiori gruppi tecnologici cinesi, ha eliminato una funzione analoga dal proprio chatbot Yuanbao alla fine di giugno. Negli ultimi due anni diverse aziende erano già intervenute sui propri servizi dopo le segnalazioni delle autorità riguardo a conversazioni sessualmente esplicite. Nel 2023 MiniMax, una delle principali startup cinesi specializzate in intelligenza artificiale, aveva ritirato dagli app store il chatbot Glow. Un responsabile dell’azienda aveva rivelato ai media cinesi che “l’80% degli utenti finisce per intrattenere conversazioni allusive o sessualmente esplicite con i compagni virtuali che vengono creati”. A giugno dello scorso anno anche l’app Zhumengdao, un servizio specializzato in chatbot per fare conversazione, era stata richiamata dalle autorità di Shanghai per aver prodotto contenuti volgari e inappropriati per i minori.
Le nuove regole potrebbero però arrivare a ridisegnare il mercato. Dopo la chiusura dei servizi di Doubao e Qianwen, numerosi utenti si sono spostati verso piattaforme concorrenti, molte delle quali hanno iniziato a richiedere la verifica dell’identità prima di consentire l’accesso ai propri assistenti virtuali.
"LANTERNE ROSSE" È LA NEWSLETTER DI ASIANEWS DEDICATA ALLA CINA
VUOI RICEVERLA OGNI GIOVEDI’ SULLA TUA MAIL? ISCRIVITI ALLA NEWSLETTER A QUESTO LINK
