Beijing (AsiaNews) - China ha introducido una serie de normas para regular los servicios de inteligencia artificial diseñados para entablar vínculos emocionales con los usuarios. El 15 de julio entraron en vigor las nuevas disposiciones promulgadas por la Administración del Ciberespacio de China junto con otros cuatro ministerios, que imponen límites a los chatbots capaces de simular emociones, personalidad y relaciones humanas. Prohíben específicamente que los menores interactúen con “parejas virtuales” o “familiares digitales”.
Las medidas forman parte de la estrategia de Beijing para ejercer un control cada vez más estricto sobre el desarrollo de la inteligencia artificial generativa, un sector que se está expandiendo rápidamente en el país. En los últimos años, millones de usuarios chinos han utilizado aplicaciones que permiten crear novios virtuales inspirados en personajes de películas y series de televisión, revivir digitalmente a familiares fallecidos o convertir los chatbots en confidentes y mejores amigos permanentes.
Según las nuevas normas, las plataformas no podrán generar contenidos para menores que fomenten conductas peligrosas, provoquen emociones extremas o favorezcan hábitos dañinos para la salud física y mental. Los sistemas de IA también deberán evitar generar dependencia emocional, perjudicar las relaciones en la vida real o manipular a los usuarios induciéndolos a tomar decisiones irracionales. En el caso de los usuarios que presenten comportamientos de dependencia, las plataformas estarán obligadas a enviar un aviso por uso excesivo cada dos horas.
Estas restricciones se aplican únicamente a los servicios diseñados para favorecer una interacción afectiva entre el usuario y el chatbot. Por lo tanto, quedan excluidas las herramientas de atención al cliente, los asistentes para el trabajo o los sistemas de consulta y búsqueda de información.
Como explicó Zhang Linghan, directora del Instituto de Derecho de la Inteligencia Artificial de la Universidad de Ciencias Políticas y Derecho de China, en Beijing, a China News Weekly, el componente emocional que ofrecen estos servicios antropomórficos puede convertirse fácilmente en una dependencia psicológica, reduciendo la capacidad de los usuarios para construir relaciones profundas y gestionar los conflictos en la vida real.
Las autoridades chinas vienen advirtiendo desde hace tiempo sobre estos riesgos y las nuevas disposiciones, además de tener como objetivo la protección de los menores, confirman la intención de Beijing de regular el desarrollo de la inteligencia artificial según criterios de estabilidad social y seguridad nacional.
Las principales empresas tecnológicas chinas han comenzado a adaptarse incluso antes de que entraran en vigor las nuevas regulaciones. El mismo 15 de julio, ByteDance, propietaria de TikTok, y el gigante del comercio electrónico Alibaba desactivaron las funciones dedicadas a los compañeros virtuales integradas en sus respectivos chatbots de inteligencia artificial, Doubao y Qianwen, dos de los servicios de IA más utilizados en el país. Alibaba suspendió el servicio de forma inmediata, mientras que ByteDance permitirá a los usuarios transferir sus datos hasta el 15 de octubre.
Tencent, propietaria de la plataforma de mensajería WeChat y uno de los mayores grupos tecnológicos chinos, también eliminó una función similar de su chatbot Yuanbao a finales de junio. En los últimos dos años, varias empresas ya habían tomado medidas con respecto a sus servicios tras las advertencias de las autoridades sobre conversaciones sexualmente explícitas. En 2023, MiniMax, una de las principales empresas emergentes chinas especializadas en inteligencia artificial, retiró de las tiendas de aplicaciones el chatbot Glow. Un directivo de la compañía declaró a los medios chinos que “el 80% de los usuarios termina entablando conversaciones insinuantes o sexualmente explícitas con los compañeros virtuales que crean”. En junio del año pasado, la aplicación Zhumengdao, un servicio especializado en chatbots para conversar, también recibió una advertencia de las autoridades de Shanghái por haber producido contenidos vulgares e inapropiados para menores.
Sin embargo, las nuevas normas podrían llegar a reconfigurar el mercado. Después que Doubao y Qianwen cerraron sus servicios, numerosos usuarios migraron a plataformas de la competencia, muchas de las cuales han comenzado a exigir la verificación de la identidad antes de permitir el acceso a sus asistentes virtuales.
"LINTERNAS ROJAS" ES EL BOLETÍN DE ASIANEWS DEDICADO A CHINA. ¿QUIERES RECIBIRLO TODOS LOS JUEVES EN TU CORREO ELECTRÓNICO? SUSCRÍBETE AL BOLETÍN EN ESTE ENLACE
