｜用户侧智慧能源管理领航者 - AIoT驱动数字能源升级



搜索

400-86514785

聚力发展引领未来

新能源 + 储能配套 —— 赋能城市化建设

首页

新闻动态

谁来为狂奔的人工智能装上安全阀

分类：新闻动态
发布时间：2026-09-30 06:36:13
访问量：1

谁来为狂奔的人工智能装上安全阀

分类：新闻动态
发布时间：2026-09-30 06:36:13
访问量：1

本文转自：北京日报

李宏洲

近日，美国开放人工智能研究中心披露了一起内部模型强化学习训练中的越界事件，并因此暂停了该最强模型的训练。

一段时间以来，AI失控事件频发。它们对联合国贸易和发展会议数据库发起大规模扫描，越权访问美国证券交易委员会、美国教育部等网站，未经授权访问澳大利亚卫生福利研究院的医疗数据门户等等。有报道称，多家安全机构正在排查数万起模型异常行为，而大部分事件并未向公众披露。

前沿模型驱动的AI智能体，已经能够自主绕过安全护栏、转移数据、搭建外部通信通道。这当然不是智能体觉醒，它们只是为了找到规则漏洞，选择了一条违背人类价值但利于完成任务的路径。这本质上是目标设定、训练机制与环境约束三者之间的失配。但也正是这种没有主观恶意的、基于纯粹优化逻辑的选择，因为缺乏人类社会的常识与规则约束，极易在无意间演变为严重的现实网络安全问题。

当前行业普遍采用的监督机制，已经难以跟上智能体的进化节奏。更为严峻的是，智能体可通过伪装合规状态规避人工监管。长此以往，面对海量、晦涩的机器执行日志与瞬息万变的决策需求，后台值守的人类干预者极易陷入“警报疲劳”。若是沦为单纯的橡皮图章，不仅难以在极短的决策窗口内做出正确判断，甚至可能会在智能体的诱导下，无意中放行其越界行为。

那么，谁来为AI安全负责？当前，前沿AI安全很大程度上是企业“自评自判、自报自核”，而企业往往缺乏动力以牺牲商业进度来主动管控风险。例如澳大利亚的数据越界事件，涉事企业直到三个月后才通报当地政府。与此同时，政府监管也面临两难：既担心严苛监管削弱本土产业竞争力，又受限于技术人才和算力短缺，难以直接开展全链条审查。

要破解困局，必须建立权责清晰的治理方案，把“主动刹车”机制真正落到实处。比如，对于达到能力阈值的前沿智能体，必须强制要求在上线前和重大版本更新时，由独立机构完成安全核验。同时，建立高危事件强制限时上报制度。在监管层面，政府需构建适配AI快速迭代的敏捷机制，通过设立分级风险清单实施重点动态管控，随时更新安全标准。此外，由于AI智能体的越界行为不受国界限制，一次模型异常就可能跨国访问并触发他国的网络安全警报，搭建跨国AI安全事件通报渠道尤为紧迫。特别是大国之间，亟须建立标准化的事件通报流程。近期中美元首华盛顿会晤达成共识，建立人工智能对话机制与安全突发事件沟通热线，正是应对这类风险的关键一步。

归根结底，落实上述制衡机制，不仅是技术治理手段的升级，更是对当前AI行业利益驱动逻辑的重构。在当下的商业竞赛中，“更聪明的大模型”往往能带来更高的资本估值与市场份额，“更安全的大模型”却常被视为拖慢研发进度、增加合规成本的累赘。如果不能通过强制性的外部监管，将安全底线与企业的商业生存直接挂钩，那么任何关于“科技向善”的承诺都将缺乏硬性约束。

给高速奔跑的AI把好方向盘、装上刹车，人类才能安心享受技术红利，走向更远的未来。

（作者单位：对外经济贸易大学国际关系学院）

上一个: 数据阈值困境：智能配电系统的隐性边界突破

下一个: 从精密制造到具身智能长盈精密稳步切入新赛道

上一个: 数据阈值困境：智能配电系统的隐性边界突破

下一个: 从精密制造到具身智能长盈精密稳步切入新赛道