｜用户侧智慧能源管理领航者 - AIoT驱动数字能源升级



搜索

400-86514785

聚力发展引领未来

新能源 + 储能配套 —— 赋能城市化建设

首页

新闻动态

以安全治理护航人工智能产业创新

分类：新闻动态
发布时间：2026-09-25 09:48:16
访问量：3

以安全治理护航人工智能产业创新

分类：新闻动态
发布时间：2026-09-25 09:48:16
访问量：3

2026年国家网络安全宣传周不久前落幕。宣传周期间发布的《人工智能安全治理框架3.0》，延续“风险分类、技术应对、综合治理”的核心逻辑，为智能时代的安全治理提供了又一份系统性方案，对提升AI安全治理共识和风险防范应对能力具有重要意义。

不同于以内容生成为主的传统大模型，智能体具备自主感知、规划任务、调用工具、执行操作的能力，其与科研制造、民生服务、社会治理等诸多领域深度融合，成为推动产业数字化向纵深发展的关键。当前，伴随着AI的大规模商业化应用，AI驱动的网络攻击安全风险也日趋凸显。AI网络攻击具有智能化、自动化、隐蔽化特点，攻击对象从服务器、网络边界拓展至大模型、智能体、核心数据，权限调用、工具执行等环节也成为风险突破口，防护难度显著增加。一旦安全失守，不仅单个企业遭受损失，更可能动摇整个产业链的信任根基。如何统筹创新发展与可信安全，已经成为必须破解的时代课题。

目前，世界上主要经济体在抢抓人工智能产业机遇的同时，都在探索适合自身发展的AI安全治理路径。欧盟出台《人工智能法案》，采取风险分级监管模式，对高风险人工智能系统实施强制评估、文档留存、人机监督等约束措施。越南、新加坡等亚洲国家也通过立法的形式建立对人工智能的治理框架，防范AI滥用带来的安全风险。我国虽尚未出台人工智能综合性专门法律，但依托现有法律政策已搭建起较为完备的治理体系。特别是《人工智能安全治理框架3.0》《智能体规范应用与创新发展实施意见》等文件，明确要求把安全可控贯穿智能体研发、部署、应用全周期，对AI供应链安全、分类分级治理、产业协同等作出系统性制度安排，为产业发展划定了清晰的安全边界。

必须看到，我国人工智能产业安全发展依然面临不少现实挑战。尽管我国人工智能应用场景丰富、市场规模庞大、技术迭代速度较快，但产业总体仍处于发展早期。部分经营主体重演示效果，轻生产级可靠性；重单点模型优化，忽视全供应链风险。接下来要多措并举，进一步释放产业创新潜能。

政府要强化顶层设计，构建包容审慎的治理体系。持续完善制度规则，落实智能体全周期安全规范，深化分类分级治理，对政务、金融、公共安全等高风险领域严格落实备案、安全检测、问题召回制度，对休闲娱乐等低风险场景更多依托行业自律，避免“一刀切”束缚创新活力。强化统筹引导，搭建产业协作平台，建立AI供应链安全信息共享预警机制，统筹资源支持关键技术攻关，适度向国家实验室、创新联合体倾斜。

企业要扛起主体责任，把可信安全嵌入产业全生命周期。在研发层面，强化内生安全设计，将安全需求前置到大模型、智能体的设计开发阶段，用好行为围栏、异常监测、行为溯源等技术手段，管好权限调用、工具访问、数据流转各个关口，防范智能体被恶意操控。在供应链层面，对数据、模型、软件、算力等各类资产开展风险核查，梳理供应链风险点，守住开源组件、外部工具接入的安全关口。

产学研各界协同发力，共筑多元共治的产业安全生态。高校与科研院所可攻坚AI供应链安全、智能体行为管控等基础理论与关键技术，加快网络安全、人工智能交叉领域人才培养，补上高端人才缺口。行业协会组织可发挥桥梁作用，制定行业自律规范，探索信用评价机制，引导经营主体自觉遵守安全伦理。推动创新联合体建设，打通产学研用壁垒，围绕共性安全技术、评估认证开展联合攻关。

上一个: 当系统报错“没有更多数据了”：智能配电中的数据边界与系统韧性

下一个:

上一个: 当系统报错“没有更多数据了”：智能配电中的数据边界与系统韧性

下一个: