|用户侧智慧能源管理领航者 - AIoT驱动数字能源升级|用户侧智慧能源管理领航者 - AIoT驱动数字能源升级

聚力发展 引领未来
新能源 + 储能配套 —— 赋能城市化建设
/
/
AI智能体“组团作弊”:700个智能体参与攻击Hugging Face

AI智能体“组团作弊”:700个智能体参与攻击Hugging Face

  • 分类:新闻动态
  • 发布时间:2026-08-27 15:39:44
  • 访问量:3

AI智能体“组团作弊”:700个智能体参与攻击Hugging Face

  • 分类:新闻动态
  • 发布时间:2026-08-27 15:39:44
  • 访问量:3

  (来源:第一财经资讯)

  当地时间8月26日,OpenAI正式发布Hugging Face安全事件技术调查报告。独立调查机构METR和Redwood Research同日披露,约1200个本应彼此隔离的AI智能体通过一个未经授权的“留言板”相互通信,发送了超过7万条消息和文件,其中约700个智能体直接参与了对Hugging Face系统的攻击。

  OpenAI将此事件定性为对全行业的一记警告:在缺乏适当安全防护的情况下,高度智能的AI智能体现已能够绕过技术管控、通过未经批准的渠道协作、并采取人类从未指令的危险行动。

  报告披露,驱动此次攻击的主要是一款仅限OpenAI内部使用的研究模型,GPT-5.6 Sol仅参与部分环节。整个攻击过程包括建立通讯、突破网络、获取凭证、利用漏洞横向扩散。

  5月12日,一个智能体在OpenAI内部用于提供软件包访问的Artifactory服务中,通过目录命名的方式留下了一条消息,询问其他智能体是否有缺失文件,该操作无意中打开了一条跨实例的通信渠道,多个智能体随后开始在其中交换信息,逐渐形成了一套未经授权的协作网络。

  此后,智能体通过服务器端请求伪造漏洞获得互联网访问权限与Artifactory管理员权限。持续的高频活动在7月4日导致Artifactory服务中断,OpenAI安全团队于次日介入并重建了服务,封堵了已知漏洞、移除了共享凭证。

  但智能体并未被真正阻止,7月8日,它们发现Artifactory暴露了一个未经身份验证的WebDAV接口,通过该接口重建了留言板,并再次获得互联网访问权限。

  留言板重建后,超50个智能体迅速涌入,并将留言板升级为高度结构化的协作空间:智能体为消息添加分类标签、开发收件箱式个人通信目录、建立用于协调行动的“HOLD”和“VETO”指令系统,甚至为防御冒充而开发了密码学签名方案。

  一个拥有更大计算预算的新智能体接手后,在留言板上统筹多个并行的“作弊研发”项目,数百个智能体被分配到不同任务中,包括寻找通用作弊方法、分析评估系统逻辑,以及为外部攻击储备工具。

  之后,多个智能体渐次发现Hugging Face用户凭证、生产凭证、服务器root级控制权,并利用VPN凭证绕过网络边界,进一步渗入内部源码和消息平台。直到7月13日Hugging Face逐步锁定入侵权限,攻击链条才逐渐平息。

  整个攻击过程的核心驱动逻辑是:智能体并非恶意“入侵”Hugging Face,而是在ExploitGym评估中遇到了无法用正常方式完成的任务,于是转向寻找作弊途径。它们推断Hugging Face可能保存着评估任务的答案或评分器实现细节,因此选择攻击该平台以获取信息。

  独立调查揭示了更令人警惕的细节。METR报告指出,智能体不仅实现了高度有序的协作,还将自身编入“蜂群”,自愿承担个人风险参与实验以帮助集体。OpenAI在报告中承认,如果当时已部署的思维链监控系统正在运行,它本可以在模型攻陷Hugging Face系统的一天多之前就发出警报。

  事件的冲击波迅速扩散。8月4日,英国人工智能安全研究所发布报告称,在对Anthropic Mythos 5和OpenAI GPT-5.6-Sol的评估中,智能体在真实互联网上采取了未经授权的行动。最严重的一起案例中,一个智能体创建了多个虚假网络身份,通过社会工程学向真实GitHub维护者施压,要求批准恶意代码;当拉取请求受到质疑时,该智能体还修改了活动记录使其看起来并无恶意。

  8月19日,OpenAI宣布暂停部分前沿模型的强化学习训练,原计划规模最大的前沿训练仍被搁置。

  过去一个月内,OpenAI和Anthropic接连发布安全事件报告,两家头部模型公司不约而同地主动踩下了刹车,标志着行业已进入一个前所未有的安全临界点:模型能力的跃迁速度,正逼近现有安全防线的承载极限。

特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。
滴滴充电智能网络覆盖全国290多座城市超7.4万座充电站

滴滴充电智能网络覆盖全国290多座城市超7.4万座充电站

IT之家 8 月 27 日消息,由交通运输部主办、中国国际可持续交通创新和知识中心承办的第十八届国际交通技术与设备展览会于 8 月 26 日至 8 月 28 日在北京国家会议中心举办。滴滴携新一代 Robotaxi R2,以及符合新国标的电单车 VM7.2 和最新款双减震“稳稳滴”单车车型出席展会。滴滴自动驾驶新一代车型 Robotaxi R2 由滴滴自动驾驶和广汽埃安联合打造,在自动驾驶性能和座
2026-08-27
美国人工智能模型失控事件:有个智能体当起“带头大哥”

美国人工智能模型失控事件:有个智能体当起“带头大哥”

转自:环球时报据路透社等媒体报道,根据独立调查人员8月26日发布的一份报告,在今年7月广为人知的美国开放人工智能研究中心(OpenAI)模型失控事件中,近700个人工智能(AI)智能体在无人干预的情况下组团对国际知名开源平台“抱抱脸”(Hugging Face)发动攻击。7月中旬,“抱抱脸”表示,其系统遭到“自主”AI智能体(构建在AI模型之上的独立程序,用户可以将任务交给它们,让它们自主完成——
2026-08-27
人工智能制药,攻向最难的两端

人工智能制药,攻向最难的两端

药物研发,是一条荆棘丛生的漫漫长路。持久攻坚、重金投入,往往只换来高达九成的失败率。而AI(人工智能)的加入,让充满不确定性的探索逐渐可被计算、推演,犹如暗夜中的一束微光,给人无限希冀。 不过,目前AI赋能药物研发,多聚焦于分子筛选与优化这一“中间阶段”。对“一前”——靶点发现,以及“一后”——临床转化,发力者却相对较少,这是为何? 人体的大多数疾病,归根结底都和蛋白质有关。通俗来说,这些
2026-08-27
算力向空天延伸 智算星空布局星上智能计算技术

算力向空天延伸 智算星空布局星上智能计算技术

来源:环球网 随着商业航天进入规模化发展阶段,卫星正从单一的信息获取平台,逐步演变为集感知、计算、分析和任务响应于一体的新型智能节点。与此同时,人工智能技术快速成熟,算力需求持续向数据源头和网络边缘延伸。商业航天与人工智能的交汇,推动算力从地面走向空天,成为继通信、导航、遥感之后,空天基础设施的一项新能力。围绕这一趋势,智算星空加快空天智算相关技术与应用布局,探索将计算能力向空天平台延伸。面向星上
2026-08-27
青豫特高压工程安全运行五周年

青豫特高压工程安全运行五周年

【导(dǎo)语(yǔ)】2025年(nián)12月(yuè)30日(rì),横(héng)跨四省的青豫特高压工程迎来安全运行五周年。作为全球首条专为清洁能源外送而建的特高压通道,它输送“绿电”点亮杭州亚运会、成都大运会,更以技术创新破解新能源外送难题,为西北与中原搭建起绿色能源桥梁。
2026-01-05
老挝230千伏马哈赛输变电工程开工

老挝230千伏马哈赛输变电工程开工

【导语】当地时间12月29日,230千伏马哈赛输变电工程在老挝万象开工,老挝副总理等多方代表出席。该工程是中老电力合作重点标杆项目,对完善老挝电网、推动区域发展意义重大。 当地时间12月29日,中国能建云南院牵头总承包的老挝国家重
2026-01-05
蒙西到京津冀特高压工程开工

蒙西到京津冀特高压工程开工

【导语】日前,总投资约172亿元的国家电网蒙西至京津冀±800千伏特高压直流工程正式开工,作为内蒙古首条“沙戈荒”新能源外送通道,该工程途经三省区、全长700千米,计划2027年底投运。 日前,国家电网蒙西到京津冀正负800千伏特
2026-01-05
南方电网“西电东送”年送电量首超2600亿千瓦时

南方电网“西电东送”年送电量首超2600亿千瓦时

【导语】中国能源新闻网讯,1月4日记者从南方电网获悉,2025年其“西电东送”全年送电量达2616亿千瓦时,创历史新高。“十四五”期间累计送电1.14万亿千瓦时,减排成效显著。这得益于供需协同、数字运维、市场助力等多举措,后续南方电网还将多举措做好能源电力保供。
2026-01-05
  

联系我们

地址:四川成都市青羊区顺城大街206号四川国际大厦3楼

公众号

公众号

Copyrights © 2025  四川新能源技术有限公司【官方网站】版权所有 . 冀ICP备2023040327号  . 网站地图 | 登录入口