北京（亚洲新闻） - 中国出台了一系列监管规定，旨在规范旨在与用户建立情感联系的人工智能服务。由国家互联网信息办公室联合其他四个部委发布的新规于7月15日生效。这些规定对能够模拟情感、个性和人际关系的聊天机器人施加了限制，尤其禁止未成年人与“虚拟伴侣”或“数字亲属”互动。
这些措施是北京为加强对国内迅速发展的生成式人工智能的管控而采取的战略举措。近年来，数百万中国用户使用了能够创建以电影和电视剧角色为原型的虚拟男友、让已故亲人以数字形式“复活”，或将聊天机器人转变为永久的知心朋友和密友的应用程序。
根据新规，平台不得生成鼓励未成年人危险行为、煽动极端情绪或宣扬有害身心健康习惯的内容。人工智能系统也必须避免产生情感依赖、损害现实生活中的人际关系或操纵用户做出不合理的决定。平台将被要求每两小时向出现成瘾行为的用户发送过度使用提醒。
这些限制仅适用于旨在促进用户与聊天机器人之间情感互动的服务。因此，客户服务工具、工作助手或信息查询与检索系统不在此列。
正如北京的中国政法大学人工智能法研究所所长张凌寒向《中国新闻周刊》解释的那样，这些拟人化服务提供的情感元素很容易演变成心理依赖，降低用户在现实生活中建立深厚人际关系和处理冲突的能力。
中国当局长期以来一直谴责这些风险，而新规除了保护未成年人外，也印证了北京基于社会稳定和国家安全标准来规范人工智能发展的愿景。
中国主要科技公司早在新规生效前就已开始调整。就在7月15日当天，TikTok的所有者字节跳动和电商巨头阿里巴巴分别停用了其人工智能聊天机器人“豆包”和“千问”中内置的虚拟伴侣功能——这两款服务是国内使用最广泛的AI服务之一。阿里巴巴已立即停止该服务，而字节跳动将允许用户在10月15日前转移其数据。
腾讯是微信的母公司，也是中国最大的科技集团之一，该公司也在6月底从其元宝聊天机器人中移除了类似功能。过去两年，在有关部门举报其服务存在露骨性对话后，多家公司已对其服务采取了行动。2023年，中国领先的人工智能初创公司之一MiniMax将其聊天机器人Glow从应用商店下架。该公司一位负责人向中国媒体透露，“80%的用户最终会与他们创建的虚拟伴侣进行暗示性或露骨的对话。”去年6月，专注于聊天机器人的“筑梦岛”应用也因发布低俗和不适宜未成年人的内容而受到上海当局的警告。
然而，这些新规可能会重塑市场格局。豆宝和千文关闭后，许多用户转移到了其他平台，其中许多平台开始要求用户在获得虚拟助手访问权限之前进行身份验证。
《红灯笼》是亚洲新闻的中国的专讯。您想每周四收到电子通讯吗？请点击此链接订阅
