｜用户侧智慧能源管理领航者 - AIoT驱动数字能源升级
本文转自：光明日报
邹学庚
【资政场】
人工智能技术的蓬勃发展，正带来生产力的巨大跃升。从大语言模型的自然语言处理、即时问答，到智能体的资料整理、协助决策，人工智能应用已经深度融入生产生活，广大人民群众切实感受到了效率提升带来的便利。但人工智能应用在带来便利的同时，也催生了不少新问题。例如，AI换脸、AI拟声等技术被不法分子用于电信网络诈骗，动摇了“眼见为实”这一自古以来的社会信任基础。
技术是一把双刃剑，如何既让人工智能的发展红利充分释放，又防范其带来的风险，成为摆在治理者面前的现实课题。新修改的网络安全法今年1月1日起施行，其中新增人工智能安全与发展专门条款，为相关治理提供了进一步的法律支撑。9月7日，最高人民法院公开发布《关于依法审理涉人工智能纠纷案件的意见》（以下简称《意见》），就AI换脸、AI拟声等社会广泛关注的问题明确了裁判规则。日益完善的网络安全法治，正在成为护航人工智能应用健康发展的重要保障。
价值立场：
统筹发展和安全
新修改的网络安全法第二十条第一款规定：国家支持人工智能基础理论研究和算法等关键技术研发，推进训练数据资源、算力等基础设施建设，完善人工智能伦理规范，加强风险监测评估和安全监管，促进人工智能应用和健康发展。法律没有把人工智能简单地当作需要围堵的风险源，也没有把人工智能理解为可以豁免监管的优待区，而是将安全贯穿于创新发展全过程，以有效治理支撑人工智能应用和健康发展。此前，《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关规章已经确立发展和安全并重的治理原则，此次修法则进一步把此前散落在不同规章中的治理经验，以法律的形式确认和固定下来。与此同时，此次修法还提高了违法行为的处罚力度，对不履行法定网络安全保护义务、造成特别严重危害网络安全后果的网络运营者，最高可处一千万元罚款，对相关直接责任人员最高可处一百万元罚款。提高事后处罚力度的举措也是发展和安全并重的表现之一。这一理念同样延伸到了司法领域。最高人民法院9月7日发布的《意见》，也将“坚持发展和安全并重、促进创新和依法治理相结合”确立为审理涉人工智能纠纷案件应当秉持的理念。倘若只强调发展，AI换脸拟声乱象便会失去约束；倘若只强调安全，智能客服、办公助手等应用创新也会举步维艰。从立法原则到司法政策，统筹发展和安全正在成为人工智能治理不同层面的共同价值理念。
立规明矩：
厘清义务与责任
统筹发展和安全的原则要真正落地生根，需要厘清人工智能服务参与各方的义务和责任。按照最高人民法院9月7日发布的《意见》，除法律另有规定外，认定人工智能侵权一般适用过错责任原则，综合考量应用场景、自主化程度、技术透明度等因素判断责任归属。这为技术原理复杂、责任边界模糊的人工智能纠纷，提供了一把可操作的司法标尺。例如，对AI换脸拟声乱象，《意见》明确，未经自然人同意生成可识别该自然人的虚拟数字形象并使用、公开的，构成对该自然人姓名权、肖像权等人格权益的侵害。再例如，对生成式人工智能服务提供者，《意见》明确，生成式人工智能自动生成的内容侵害他人名誉权、隐私权等人格权益，经权利人通知，生成式人工智能服务提供者未及时采取停止生成侵权内容等必要措施的，应当对造成的损害依法承担侵权责任。而关于责任追溯问题，施行一年多的《人工智能生成合成内容标识办法》已经明确显式标识、隐式标识及传播环节的相关要求，为识别生成合成内容、追溯来源提供制度和技术支撑。如今司法规则与技术标识彼此衔接，为人工智能侵权责任认定提供了更加系统、明确的司法指引，也让困扰公众已久的“眼见不一定为实”的难题，有了科学的应对之策。
动态调整：
持续校准和完善
“法与时转则治，治与世宜则有功。”以网络安全法治护航人工智能应用健康发展，从来不是一次修法、出台一份意见就能一劳永逸，而需要根据人工智能发展的进程持续性地修改和完善相关规则。例如，隐式标识能为音视频溯源提供技术支撑，但恶意工具也在同步迭代，标识与反标识的较量仍在继续。再例如，司法规则虽然明确了过错责任等基本原则，但人工智能应用场景日新月异，具体案件中如何认定“自主化程度”“技术透明度”，还有待案例逐步积累。这意味着，统筹发展和安全不是严了就安全、松了就危险的简单线性关系，而是一个没有终点的持续性的动态调整过程。从国际上看，这一课题也绝非只有我国在独自求解。欧盟《人工智能法案》第五十条规定的相关透明度义务自今年8月起生效，通过对人工智能服务提供者设置内容标记、交互告知、深度伪造披露等义务，降低公众受到误导的风险。美国已有30多个州出台专门法律规制选举及政治传播中的深度伪造风险，其采取的是各州分散立法应对的路径。我国则以现行法律为基础，通过部门规章、司法规范性文件和审判实践不断细化治理规则，并结合实践经验推进法律修改完善。
从AI换脸拟声的乱象，到智能问答、办公助手的日常应用，人工智能的两面性，需要网络安全法治的不断与时俱进来回应。唯有如此，公众才能既享受技术带来的便利，又不必时刻提防技术带来的风险。从立法、行政到司法，方向已经逐渐清晰：发展不是安全的对立面，安全也不是发展的绊脚石。只有统筹发展和安全，为人工智能应用立规明矩，并根据形势变化持续性地完善规则，才能让人工智能这匹千里马，既跑得快又跑得稳。
（作者：邹学庚，系中国政法大学民商经济法学院副教授）
