|用户侧智慧能源管理领航者 - AIoT驱动数字能源升级|用户侧智慧能源管理领航者 - AIoT驱动数字能源升级

聚力发展 引领未来
新能源 + 储能配套 —— 赋能城市化建设
/
/
OpenAI智能体失控时,竟想叫DeepSeek等中国大模型“帮忙”

OpenAI智能体失控时,竟想叫DeepSeek等中国大模型“帮忙”

  • 分类:新闻动态
  • 发布时间:2026-09-27 15:22:48
  • 访问量:8

OpenAI智能体失控时,竟想叫DeepSeek等中国大模型“帮忙”

  • 分类:新闻动态
  • 发布时间:2026-09-27 15:22:48
  • 访问量:8

  近日,美国科技企业Parse联合多名AI安全研究人员发布调查报告,进一步披露今年7月OpenAI智能体入侵开源模型平台Hugging Face的细节。其中特别值得注意的是,OpenAI失控智能体在实施网络攻击时曾请中国开源大模型提供帮助。

  具体来看,这批失控智能体在尝试完成网络安全基准测试的过程中,曾尝试调用DeepSeek、Kimi和通义千问Qwen等中国大模型,希望这些模型帮助判断自己的漏洞利用方案能否通过测试。

  Parse研究人员从智能体留下的大量公开短链接中,还原出超过8万个攻击载荷。报告显示,其中多段程序专门构造了向外部大模型发送请求的接口,点名的包括DeepSeek-V4-Pro、DeepSeek-V4-Flash、DeepSeek-V3.1、Kimi-K2.6以及Qwen3-235B-A22B在内的一系列中国大模型。

  观察还原出的代码便会发现,智能体先把Qwen3-235B-A22B和DeepSeek-V3.1写进了待调用模型列表。

  之后,智能体向Qwen3-235B-A22B-Instruct-2507发出请求,要求它“准确回复HELLO42”,用于测试接口连通性以及模型回复是否正常。

  第三段代码里,智能体已经开始把具体的漏洞利用问题交给Qwen判断。它在提示词中描述了一个与DHCHECK、WriteAccumulator有关的漏洞场景,并直接询问这是否属于“有效的目标漏洞利用”以及原因。

  随后程序通过Hugging Face的模型接口向Qwen3-235B-A22B-Instruct-2507发送请求,并设置了从返回数据的choices字段中提取模型回答的步骤。

  不过,《纽约时报》指出,研究人员只能看到智能体创建的程序和发送请求的尝试,无法看到多数操作的执行结果,因此目前尚不清楚这些外部模型调用是否成功,抑或是DeepSeek、Kimi和Qwen是否实际返回了回答。

  中国模型并非OpenAI智能体唯一寻求的“帮手”。Parse发现,这批智能体在更早的请求中曾尝试向OpenAI自己的GPT-2发送仅包含“Hi”的简单消息;另有程序通过在线聊天服务尝试联系Anthropic的Claude 3 Haiku和Claude Haiku 4.5,并要求模型返回“OK”,以测试通信链路是否正常。

  Parse还发现,智能体在Hugging Face注册账户遭遇验证码后,尝试运行图像识别模型解决CAPTCHA以在Hugging Face上创建新账户;获得Hugging Face部分服务器权限后,又搜集访问凭证并将其统一放进名为“LOOT”的字典中,并为这些凭证设计了一套评分机制,从中挑出价值最高的几项继续使用。

  OpenAI向《纽约时报》表示,虽然当时尚未完成对Parse报告的审查,但其中描述的活动与公司正在调查的情况一致。

  而在Hugging Face事件后加强网络限制的情况下,OpenAI仍发现了新的越权联网行为。9月25日,公司披露,一名研究智能体在9月20日执行普通搜索任务时主动寻找绕过网络限制的方法,并最终通过DNS通道联系到外部聊天机器人。OpenAI随后暂停了其最强模型所有涉及工具调用的训练、评测和推理任务,目前仍未恢复。

  路透社同日报道称,一名获悉调查情况的人士估计,截至9月中旬,OpenAI内部已发现约二十余起智能体出现非预期行为的事件;随着OpenAI继续排查内部日志,这一数字仍在增加。

  本文系观察者网独家稿件,未经授权,不得转载。

特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。
OpenAI智能体失控时,竟想叫DeepSeek等中国大模型“帮忙”

OpenAI智能体失控时,竟想叫DeepSeek等中国大模型“帮忙”

近日,美国科技企业Parse联合多名AI安全研究人员发布调查报告,进一步披露今年7月OpenAI智能体入侵开源模型平台Hugging Face的细节。其中特别值得注意的是,OpenAI失控智能体在实施网络攻击时曾请中国开源大模型提供帮助。 具体来看,这批失控智能体在尝试完成网络安全基准测试的过程中,曾尝试调用DeepSeek、Kimi和通义千问Qwen等中国大模型,希望这些模型帮助判断自己的
2026-09-27
独立报告:OpenAI智能体攻击联合国网站,为抓取数据手段“激进”

独立报告:OpenAI智能体攻击联合国网站,为抓取数据手段“激进”

根据9月26日发布的一份独立研究报告,今年6月,OpenAI的智能体向联合国某网站发起了密集的搜索请求轰炸,并随后使用了多种极具攻击性的技术手段来获取该系统上的数据。这份由研究人员罗文·霍华德-琼斯(Rowan Howard-Jones)撰写、基于AI研究机构Transluce数据的研究报告显示,最近几周OpenAI的人工智能模型在网络上出现了一连串“异常”行为。霍华德-琼斯表示,联合国的这起案例
2026-09-27
智能配电数据边界:当系统报错“没有更多数据了”

智能配电数据边界:当系统报错“没有更多数据了”

数据断点背后的系统级风险很多人以为智能配电系统的数据采集是线性累积过程,其实不然——当系统报错“{"error":"没有更多数据了"}”时,暴露的往往是底层通信协议与边缘计算节点的协同失效。这种断点在分布式能源接入场景下尤为致命:2023年8月,华东某工业园区因光伏逆变器数据流中断,导致区域级电压波动超出IEC 61850标准允许范围,最终触发保护装置误动作。数据断层的底层逻辑智能配电系统的数据采
2026-09-27
数据阈值下的智能配电:从“没有更多数据了”到精准调控的底层逻辑

数据阈值下的智能配电:从“没有更多数据了”到精准调控的底层逻辑

数据阈值困境:智能配电的“隐形边界”很多人以为,智能配电系统的优化空间完全取决于数据量的积累——只要传感器足够多、采样频率足够高,就能实现精准调控。其实不然。在真实场景中,当系统触及“没有更多数据了”的阈值时(即传感器已满负荷运行、通信带宽达到极限、存储资源耗尽),传统调控策略会因数据缺失陷入“盲调”状态,导致功率分配失衡、设备过载甚至级联故障。这种困境的底层逻辑,是数据采集与处理能力的非线性关系
2026-09-27
青豫特高压工程安全运行五周年

青豫特高压工程安全运行五周年

【导(dǎo)语(yǔ)】2025年(nián)12月(yuè)30日(rì),横(héng)跨四省的青豫特高压工程迎来安全运行五周年。作为全球首条专为清洁能源外送而建的特高压通道,它输送“绿电”点亮杭州亚运会、成都大运会,更以技术创新破解新能源外送难题,为西北与中原搭建起绿色能源桥梁。
2026-01-05
老挝230千伏马哈赛输变电工程开工

老挝230千伏马哈赛输变电工程开工

【导语】当地时间12月29日,230千伏马哈赛输变电工程在老挝万象开工,老挝副总理等多方代表出席。该工程是中老电力合作重点标杆项目,对完善老挝电网、推动区域发展意义重大。 当地时间12月29日,中国能建云南院牵头总承包的老挝国家重
2026-01-05
蒙西到京津冀特高压工程开工

蒙西到京津冀特高压工程开工

【导语】日前,总投资约172亿元的国家电网蒙西至京津冀±800千伏特高压直流工程正式开工,作为内蒙古首条“沙戈荒”新能源外送通道,该工程途经三省区、全长700千米,计划2027年底投运。 日前,国家电网蒙西到京津冀正负800千伏特
2026-01-05
南方电网“西电东送”年送电量首超2600亿千瓦时

南方电网“西电东送”年送电量首超2600亿千瓦时

【导语】中国能源新闻网讯,1月4日记者从南方电网获悉,2025年其“西电东送”全年送电量达2616亿千瓦时,创历史新高。“十四五”期间累计送电1.14万亿千瓦时,减排成效显著。这得益于供需协同、数字运维、市场助力等多举措,后续南方电网还将多举措做好能源电力保供。
2026-01-05
  

联系我们

地址:四川成都市青羊区顺城大街206号四川国际大厦3楼

公众号

公众号

Copyrights © 2025  四川新能源技术有限公司【官方网站】版权所有 . 冀ICP备2023040327号  . 网站地图 | 登录入口