7月15日,《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)正式施行。当日,字节跳动旗下豆包、阿里巴巴旗下通义千问同步下线用户自建智能体功能,腾讯元宝已提前完成相关调整。一时间,“AI智能体告别野蛮生长”的讨论不断升温。拨开表象,这场合规调整恰是我国人工智能治理从“包容探索”迈向“规范提质”的生动注脚,体现的正是发展与安全并重的治理智慧。
此次调整指向明确,聚焦具备长期记忆、角色设定功能的自定义拟人化智能体,而非全部AI应用。普通大模型更像是信息工具,而智能体如同被赋予角色、工具与权限的“数字员工”。应当看到,情感陪伴、角色扮演类产品以高沉浸感迅速聚拢用户的同时,也带来了情感依赖诱导、未成年人保护缺位、数据安全隐患等现实风险。此前上海市开展“清朗·整治AI应用乱象”专项行动,累计下架违规智能体1.4万余个,监管趋严的信号早已释放。各平台在新规落地同日调整,是对标监管红线的主动合规动作,而绝非对智能体技术价值的否定。
回顾AI智能体的发展历程,低门槛的自定义探索让大模型从技术概念走向大众应用,积累了宝贵的用户基础与场景经验。这是AI产业普及过程中不可回避的探索阶段。而今天的行业调整,本质上是从“跑马圈地”的粗放增长转向“精耕细作”的高质量发展。监管的意义从来不是束缚创新,而是为技术行稳致远装上“安全护栏”——引导产业从追求规模转向注重质量,避免“先乱后治”带来的高昂社会成本。
值得关注的是,此次监管秉承分类分级、包容审慎的原则,彰显了我国AI治理的精准性与前瞻性。《办法》明确“辅助人类、服务人类”的定位,搭建身份识别、风险评估、数据安全保护等制度框架,将智能客服、工作助手、科研工具等任务型智能体排除在规制范围之外,仅针对持续性情感互动的拟人化服务划定边界。这种精细化的制度设计,既守住了未成年人保护、情感伦理、数据安全的刚性底线,又为技术创新保留了充足空间。从大模型生成式内容监管,到拟人化互动服务的专项规范,我国AI治理始终紧跟技术迭代同步升级,以主动引导替代被动补救,以事前规范替代事后整治,这正是治理现代化的应有之义。
智能体的合规调整,也为城市数字经济布局带来了深刻启示。其一,价值锚点应从流量逻辑转向实体逻辑。单纯依靠情感陪伴吸引用户的模式难以为继,面向政务服务、智能制造、现代服务业的任务型智能体,赋能城市治理、助力企业降本增效,才是产业落地的“主航道”。其二,产业培育应从追求用户规模转向提升应用质量。地方政府发展AI产业,不能只盯着用户规模,更需同步建立合规审核与安全评估机制,引导资源向具备真实社会价值的场景集中。其三,技术创新的终极坐标始终是“服务于人”。无论技术如何迭代,人工智能的定位始终是辅助人类、服务人类,不能以技术之名消解真实的人际连接,更不能以流量为目标诱导用户沉迷。
智能体功能的此番调整,不是产业发展的终点,而是AI合规化、高质量发展的新起点。一边是清晰的监管红线,一边是广阔的应用蓝海——在规范中创新、在边界内突破,人工智能才能真正成为赋能城市发展、服务民生需求的核心驱动力,走出一条兼具技术速度与治理温度的中国特色AI发展之路。这既是对技术创新的负责任态度,更是对人民群众利益的最有力守护。
