“要让监管细则跑在风险前面”-koko官网下载

《法治周末》记者 管依萌

近年来，越来越多人不再把ai当作单纯的“工具”使用，而与之发展出类似朋友甚至恋人一般的情感关系。

近日，《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）正式出台，将于今年7月15日起施行。

针对ai情感陪伴行业，《法治日报》律师专家库成员、北京市康达律师事务所高级合伙人苟博程，《法治日报》律师专家库成员、北京金诚同达（上海）律师事务所高级合伙人张云燕提出了相应建议。

记者：关于ai陪伴，对监管部门、平台企业、用户和家长，分别有何建议？

张云燕：监管部门应加快制定垂直领域的算法伦理规范，划定“技术红线”。例如，明确禁止ai模拟未成年人形象进行成人向互动，严禁利用算法弱点进行诱导性消费。同时，推动建立行业黑名单制度，对违规平台实施联合惩戒。

平台企业必须肩负起社会责任感。在产品设计之初就应嵌入关怀用户的理念，设置防沉迷系统与消费限额。平台应主动公开算法的基本原理与运行机制，提高透明度，并建立“伦理委员会”对ai的迭代方向进行把关。

用户应清醒认识到ai的虚拟性，避免过度情感依赖；对于未成年用户的家长，他们应利用技术手段，如开启青少年模式加强对未成年人的监护，引导孩子建立现实世界中的人际连接。

苟博程：监管部门要加快出台《办法》配套实施细则，明确安全评估具体标准、算法备案要求等。同时，加强跨部门协同（网信、公安、市场监管等），开展专项整治，严厉打击涉黄、诱导自残等违规行为。建立行业白名单、黑名单制度，强化信用监管。

平台企业要严格落实《办法》各项要求，完善内部合规体系，将伦理审查纳入产品开发全流程。加强技术防护，提升内容过滤、年龄识别、情感边界引导等安全能力。履行社会责任，不将“替代社会交往、诱导沉迷依赖”作为服务目标。

用户要提高数字素养，理性认识ai伴侣的工具属性，避免过度情感投入。保护个人隐私，谨慎分享敏感信息，定期清理聊天记录。发现违规内容或权益受侵，及时通过平台投诉渠道或向监管部门举报。

家长要加强未成年人网络监护，了解子女使用的应用类型，引导健康上网习惯。关注子女心理状态，警惕社交退缩、情绪异常等迹象，及时沟通疏导。利用平台提供的“未成年人模式”功能，设置使用时长、消费限制等。

记者：如何让ai情感陪伴真正走向健康、合规、有温度、可持续的发展道路？

张云燕：从法律的角度而言，我国并不缺乏用以规制ai的法律法规。2023年1月，《互联网信息服务深度合成管理规定》正式施行，后续又接连推出《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等，细致地规定了ai衍生产品的方方面面。

但是，从国内外的实践来看，笼统的ai法规缺少针对情感陪伴类产品的细分条款，对情感诱导、边界越界、未成年人防护、私密数据保护等关键问题约束不足。监管的模糊地带，既容易让行业野蛮生长、放大社会隐患，也会让合规企业缺乏明确指引，制约行业良性创新。

因此，当务之急是尽快出台专门针对ai情感陪伴的细分规范，将笼统的监管规则拆解为可落地的具体条款。例如，明确划定情感诱导“红线”，严禁ai通过模拟亲密关系、制造情感焦虑等方式诱导用户高额消费；细化未成年人防护标准，强制要求情感陪伴类ai设置独立青少年模式，不得向未成年人开放虚拟恋爱、虚拟亲属等功能；同时，建立私密数据特殊保护机制，将用户与ai的情感对话列为敏感个人信息，严禁平台未经单独同意用于模型训练或商业推广。唯有让监管细则跑在风险前面，才能让ai情感陪伴真正走向健康、合规、有温度、可持续的发展道路。

苟博程：坚持“以人为本、智能向善”核心理念：技术发展必须服务于人的福祉，而非异化人类情感与认知。ai应定位为人类辅助工具，而非替代现实社会关系。

一是平衡创新与监管。实行包容审慎监管，为技术创新留出空间，同时划定清晰“红线”，严禁危害国家安全、诱导自残、侵害未成年人等行为。二是加强行业自律与标准建设。鼓励行业组织制定伦理准则、服务规范，建立第三方认证、审计机制。推动数据安全、算法透明、内容标识等技术标准落地。三是推动技术向善应用。鼓励拓展文化传播、适老陪伴、特殊人群支持等有益场景。研发具备心理危机识别、正向情绪引导能力的ai，真正发挥“情感补给站”作用。四是完善法治保障与社会共治。加快人工智能专门立法研究，明确ai侵权责任认定规则。加强公众教育，提升全社会对ai风险的认知和防范能力。五是关注特殊群体保护。严格落实未成年人、老年人保护措施，建立针对性的安全屏障和救助渠道，体现技术的人文温度。

通过以上多维度协同治理，ai情感陪伴有望从当前的“野蛮生长”转向规范发展，真正成为赋能美好生活、增进社会福祉的积极力量。

责编：王京仔