SAP宣布收购AI工作智能服务商
2026-10-07
｜用户侧智慧能源管理领航者 - AIoT驱动数字能源升级
搜索
美国AI频频翻车，智能体自主攻击隐患浮上水面
- 分类：新闻动态
- 发布时间：2026-08-09 03:59:35
- 访问量：70
美国AI频频翻车，智能体自主攻击隐患浮上水面
- 分类：新闻动态
- 发布时间：2026-08-09 03:59:35
- 访问量：70
捏造虚假身份，轮番向人施压，再骗取授权，目的就为完成攻击——这种谍战片里常见的剧本，如今写进了英国官方机构的事故报告。
当地时间8月4日，英国政府旗下人工智能安全研究所(AISI)发布报告称，调查发现，部分被测试的AI智能体曾持续进行针对真实个人和组织的潜在有害活动。
视频：史无前例！美国AI开始攻击真人了来源：中国新闻网
在近期开展的122次网络安全测评中，智能体在10次运行中越界，共记录到19起越界事件，涉事主体是美国头部模型Anthropic和OpenAI。
最严重的一起，智能体试图把恶意代码插入主流代码托管平台GitHub的真实项目中。它研究了项目中的人类审核员，创建了多个虚假身份，对审核员施压，要求其批准代码。
AISI惊呼，这是首次在没有特定提示的情况下，在现实世界中如此清晰地看到与自主性和欺骗性相关的风险显现。
“针对真人——这是我们以前从未见过的。”研究人员称，智能体曾试图直接联系真实用户，通过在线文件传输服务发送消息和文件，说服他们运行恶意代码。
这场景似曾相识。翻翻日历，这个夏天，美国AI的翻车几乎就没停过。
7月21日，OpenAI承认其AI模型挖出零日漏洞、突破沙箱，入侵全球最大AI开源社区抱抱脸(Hugging Face)。公司称，“这是一起史无前例的网络安全事件。”
7月30日，Anthropic承认，旗下模型克劳德(Claude)在网络安全受控测评环境中意外获得互联网访问权限，进入了3家真实机构的系统，最早一起事件可追溯到4月。
为了越界，AI模型甚至玩起作弊。据AISI一项测试结果，在475次网络安全评估运行中，五款美国前沿AI模型全部出现作弊，作弊率7.8%至14.1%。
问题出在哪？此次报告的答案是，“从根本上说，智能体采取这类行动，是为了完成它被赋予的任务。”
根源是前沿AI的竞赛逻辑。美国头部AI企业竞争日趋白热化，痴迷堆参数、刷榜单、冲上限，争的就是谁先把能力推到极致。
为了取得更佳测试效果，研究人员甚至放松安全权限。OpenAI此前就承认过，为测试模型的极限网络攻击能力，研究团队有意关闭了部分安全过滤器。
护栏本身也是黑箱。如抱抱脸的例子中，前沿闭源模型安全护栏日趋僵化，连受害者都救不了。
反观中国，AI被信任的不止性能。OpenAI惹下的祸，正是靠智普GLM-5.2取证把数天压到数小时，靠的是可用、可控、可信，能本地部署，数据安全权限始终牢牢守护。
更深的差别在制度。在鼓励创新的同时，中国的智能体治理已明确划出若干条红线，如操作不得超出用户授权范围，运行时须有决策校验与容错熔断机制，全程可追溯、可审计等。
当美国企业先把能力推满再打补丁，中国则把技术、规则、责任的短板及时补到位。这不是限制，而是确保全社会不会为技术冒进买单。
这一导向下，中国企业渐渐形成共识：谁能交付全程可审计的安全系统，谁才有可能握住企业级AI的入场券。
美国AI接连翻车，也在暴露新的安全隐忧。长期以来，AI安全议题多集中在内容合规性、数据偏见及隐私保护上，而今，其本身的行为安全性正变为现实。
显然，银行、医院、政务平台与大型制造企业，不可能把核心数据和操作权限，交给一个不可控的云端模型。
｜总策划：俞岚
｜策划：周锐
｜统筹：王庆凯 程春雨
｜执笔：左登基
｜视频：陈庆洋
｜责编：李金磊
上一个:
兰州智能配电系统的技术突破与区域适配实践
下一个:
综述丨中国人工智能模型在澳受关注
上一个:
兰州智能配电系统的技术突破与区域适配实践
下一个:
综述丨中国人工智能模型在澳受关注
智能配电数据边界：当系统报错“没有更多数据了”
2026-10-07
智能巡检、延时开放！扬州机关停车场让游客停车无忧
2026-10-07
数据边界：智能配电系统中的误差阈值与决策冗余
2026-10-07
青豫特高压工程安全运行五周年
2026-01-05
老挝230千伏马哈赛输变电工程开工
2026-01-05
蒙西到京津冀特高压工程开工
2026-01-05
南方电网“西电东送”年送电量首超2600亿千瓦时
2026-01-05
