面对即将生效的AI虚拟恋人、情感陪伴产品治理新规,多款头部的AI聊天应用近期相继宣布下架相关智能体功能。
字节跳动旗下豆包App发布的《豆包智能体功能下线通知》提到,由于产品功能调整,智能体功能将于2026年7月15日下线。功能下线后,用户仍可在一段时间内查看并自行保存智能体信息及历史对话数据,10月15日后,豆包将根据《隐私政策》对智能体相关数据进行处理,后续将无法在豆包内查看或恢复。
无独有偶,阿里巴巴旗下千问App亦在《千问智能体服务下线提醒》中称,千问智能体功能与服务将于2026年7月15日正式下线,下线后,用户将无法继续访问相关智能体配置及历史对话记录,平台将依据法律法规对相关数据进行删除。
豆包和千问分别发布的智能体服务下架通知。
这两家公司提及的功能下线时间点——2026年7月15日,恰好与《人工智能拟人化互动服务管理暂行办法》(下称《AI拟人化互动管理办法》)生效施行之日吻合。这部部门规章层级的法规,已于今年4月10日由国家网信办等五部门联合公布。
据“网信中国”公众号发布的《答记者问》解释,拟人化互动服务已成为AI的重要应用方向,通过模拟人类情感和沟通方式,带来了新的发展机遇和人机交互体验,在文化传播、适幼照护、适老陪伴等领域展现出巨大潜力,但也带来了危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等风险。
为此,《AI拟人化互动管理办法》为提供拟人化互动服务的应用划定多条“红线”,其中包括:不得生成鼓励、美化、暗示自残自杀等损害用户身体健康,或者语言暴力等损害用户人格尊严与心理健康的内容;不得向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容;不得过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系等。
此外,《AI拟人化互动管理办法》还明确,提供拟人化互动服务过程中,应当在保护用户隐私权和个人信息的前提下,及时识别用户面临的安全风险,并采取相应的应急处置措施。如果发现用户出现极端情绪的,应当及时生成情绪安抚和鼓励寻求帮助等相关内容;发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的,应当采取提供相应援助等必要措施予以干预,并及时联络用户监护人或者紧急联系人。
相比于豆包、千问卡着新规生效的时间点,腾讯元宝的调整行动更为提前。许多元宝的用户近期在社交平台上反映,元宝App已在6月下架了《长相思》角色IP“相柳”等受欢迎的对话类智能体。
腾讯元宝于6月中旬发布的智能体功能服务下线通知。
一位从事AI产品内容安全业务的人士向南都记者分析,新规落地需要重新做安全评估,几家互联网大厂在没有完成评估之前,集体选择对相关智能体功能予以下线。
随着指控AI诱发自杀的极端案件频发,以及AI涉黄擦边现象屡次被点名,AI情感陪伴赛道已从早期的热门风口,日渐成为部分AI公司的“烫手山芋”。
在海外,Character.AI、OpenAI接连因情感陪伴服务损害用户身心健康而遭到起诉。受此影响,美国加州于2025年10月颁布一项监管AI聊天机器人的法律,并于2026年1月1日正式生效,要求相关企业实施包括年龄验证机制、风险警示在内的多项安全功能。
在国内,知名AI陪伴产品筑梦岛App因生成涉未成年人不良内容,曾被上海市网信办约谈。而侵害未成年人权益内容、制作发布暴力低俗等不良信息,也被中央网信办今年4月启动的“清朗·整治AI应用乱象”专项行动列为重点整治对象。《AI拟人化互动管理办法》正是在此背景下应运而生。
一家AI陪伴赛道的企业告诉南都记者,尽管互联网大厂因为新规而调整AI产品的功能设计,但其公司暂无大的业务调整计划,会按照新规要求进一步加强业务的合规性。
值得注意的是,豆包App在公告下架智能体功能的同时,亦提示称:字节跳动旗下的猫箱App可创建新的智能体、开启对话服务,用户后续可在猫箱App体验智能体功能。
猫箱App是一款角色扮演类的AI陪伴互动产品。这意味着,字节跳动并非放弃AI情感陪伴业务,而是将相关功能从豆包App中剥离。对此,一位互联网领域的AI合规研究人员向南都记者分析,豆包此举或许是在功能上进行风险隔离。
采写:南都N视频记者 杨柳