给未成年人使用生成式人工智能装上“法治护栏”
胡小文
2025年11月12日 01:56
王磊
光明日报【资政场】
近年来，人工智能技术快速发展，正深刻改变着人类生产生活方式，也影响着青少年儿童的学习与生活，在创造发展机遇的同时，也催生出一些风险和挑战。比如随着情感陪伴类应用软件的大量出现，未成年人深度依赖人工智能，在道德标准和价值判断方面容易被不良导向侵蚀，不利于其价值观的培养和形成。这些问题引发了大量关注。在安全可控前提下实现人工智能技术的高质量使用，亟须从法律层面定边界、压责任、强约束。
完善一体化治理路径
当前，我国已构建较为完整的法律制度框架：以未成年人保护法、个人信息保护法、网络安全法为基础，衔接《未成年人网络保护条例》《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》，对面向未成年人的使用时间、权限、消费管理，以及防沉迷措施等作出明确要求。
但是，与生成式人工智能在未成年人生活场景中的快速渗透相比，上述规范性文件仍存在短板。一是对象与场景细化不足，未明确列举“未成年人专用模式”最低功能，监护同意与学校授权的边界不够明晰；二是平台义务的工程化与可验证性不足，准入分级、显著标识、风险提示等口径不一，执行差异较大；三是救济的及时性与可及性不足、证据规则有待完善，电子数据采信与行为保全缺乏统一、可复制、可推广的适用指引。
为此，有必要在现行法律制度框架下，统筹制度规则，完善可执行、可核验、可追责、可救济的一体化治理路径，给未成年人使用生成式人工智能装上“法治护栏”。
从法律层面定边界、压责任、强约束
平台技术规范应在法律制度框架下明确权利义务关系、责任承担与程序规则等内容，使平台义务、家校共治与司法救济形成闭环，让技术回归“助学不代学、赋能不绑架”。
明确权与责的法律边界。对于未成年人使用的场景，应实行“可用—试用—禁用”分类，配套“清单管理+分级授权”，细化监护人同意与学校授权边界；平台对“明知或应知”是未成年用户而未尽审慎义务的，应依据未成年人保护法的网络保护专章、未成年人网络保护条例相关条款等依法追责，形成可预期的责任边界。
建立健全准入分级与显著标识制度。实行“白名单—负面清单—分级标识”的准入与展示：安全、教育价值明确的纳入白名单；长程联网、持久记忆、群体画像等高风险能力列入负面清单或以“特别许可”限场景、时段使用；其余产品按风险等级醒目标注，便于家长和师生快速识别。
进一步明确平台义务与安全默认。将“安全即默认”写入平台法定义务与产品基线，比如应将前置风险评估、显著标识、留痕可审计、快速处置与申诉复核等纳入凭条技术规范。对于一些存在严重风险的情形，依法采取功能降级、限期整改、暂停或下架等阶梯式惩戒，提升违法成本。推动将平台技术规范与《互联网信息服务算法推荐管理规定》等关于安全评估、监督检查、日志留存与（算法）备案等规定衔接执行。
完善电子证据规则与司法救济制度。完善电子证据保全与行为保全衔接，打通“发现—认定—举证—裁判”快速通道；对诱导沉迷、仿声仿脸、人格权受侵害等情形，建立“先行禁令+即时止损”机制，支持在线申请、跨域协作保全与结果互认，提升救济可及性与时效。
建设长效协同机制
面对生成式人工智能，对未成年人最有力的保护不是“禁绝”应用，而是通过修改配套规章及完善国家标准，对生成式人工智能应用予以规范化管理。督促平台认真履行责任，规范发展，并督促家校切实履行对未成年人的监管职责，将生成式人工智能的发展对未成年人的负面影响降到最低。
为此，应建设长效化协同机制，推动家校签署生成式人工智能正当使用合约，明确可用场景、禁止清单与处置办法。
同时，平台还需要强化两项支撑能力。
一是加强对生成式人工智能应用的科学管理。教育主场景优先使用本地模型；开展校园域外链安全体检，命中高风险即联动撤回并全程留痕；建立执法协查接口；允许开发者在发现新版本有问题时，快速恢复到之前稳定的工作版本，实现“制度能落地、能力可调用”。
二是在使用过程中，平台应强化设定边界、保留证据、自主校验的基础能力。配套可量化的治理工具，比如将依赖度指数、融合时长、对话深度等形成分位指标，越线可触发家校联动干预与个别化干预。再比如，对于高强度情感交流，平台可默认关闭回应，长时间对话将触发情感强度降级，进而降低未成年人对其的依赖性。
王磊 黑龙江大学计算机与大数据学院〔网络安全学院〕教授