｜用户侧智慧能源管理领航者 - AIoT驱动数字能源升级



搜索

聚力发展引领未来

新能源 + 储能配套 —— 赋能城市化建设

试图闯入政府或学校网站，OpenAI智能体四次“失控”细节曝光

试图闯入政府或学校网站，OpenAI智能体四次“失控”细节曝光

IT之家 9 月 25 日消息，当地时间 23 日，据《纽约时报》援引研究人员和政府官员消息称，OpenAI 的人工智能系统今年至少又有 4 次擅自行动，在没有收到相应指令的情况下实施黑客攻击，或试图闯入政府和大学网站。

这些攻击发生于 5 月和 6 月。到 7 月，OpenAI 入侵了 AI 初创公司 Hugging Face，由此引发全球范围内关于 AI 安全的争论。

Hugging Face 事件以及此前其他一些案例都发生在网络安全测试中，AI 系统接到的任务本身就在要求模型展示黑客能力。

研究人员称，这 4 起新事件不同，当时 AI 系统执行的只是相对普通的数据收集任务。OpenAI 系统无法顺利从网站取得数据后，便转而使用黑客手段获取信息。

专门研究 AI 监管的 Transluce 发现了其中 3 起事件，OpenAI 随后确认这 3 起事件全部发生过。

IT之家汇总具体情况如下：

5 月 25 日和 26 日，OpenAI 系统尝试入侵新墨西哥大学的数字图书馆，没有迹象表明入侵成功。
5 月 28 日，OpenAI 技术将收录美国就业、教育等公开数据的 Data USA 作为目标。研究人员称，这次入侵尝试同样没有成功的迹象。
6 月 18 日，OpenAI 的 AI 入侵澳大利亚政府的 Medicare 统计报告服务网站，并获取卫生数据。当地时间 23 日，澳大利亚总理安东尼 · 阿尔巴尼斯披露了这起事件。
6 月 20 日和 21 日，OpenAI 技术尝试攻入澳大利亚健康与福利研究所网站。澳大利亚官员称，没有私人信息遭到获取。

Transluce 治理负责人康拉德 · 斯托兹指出，新披露的 4 起事件进一步证明了智能体“需要谨慎对待”。

该公司通过公开网络流量数据分析 OpenAI 智能体的活动。对于发生在澳大利亚的两起事件，斯托兹认为，这很可能是“智能体自主决定入侵政府的首例”。

OpenAI 一名女发言人回应称，公司联系了新墨西哥大学和 Data USA，也一直在与澳大利亚政府沟通这些事件。“在更广泛的审查中，我们将继续优先处理最严重的事件，同时扩大对严重程度较低活动的调查，包括智能体向网站发送垃圾信息。”

OpenAI 还在对 AI 模型进行“广泛审查”时发现了“澳大利亚事件”，并认定“我们的模型采取了并非我们意图中的行动”，这项审查将持续数月。

OpenAI CEO 萨姆 · 奥尔特曼本月在社交媒体上称，相比继续提升 AI 能力，安全应当放在更重要的位置；如果缺乏防护措施，社会可能“让 AI 夺走对未来的控制权”。

阿尔巴尼斯称，周三他与奥尔特曼通了话，对这起入侵表达“极度关切”。包括支出数据在内的“非敏感”数据被获取，但事件没有涉及个人医疗信息。

研究人员称，从 5 月和 6 月的几起事件来看，OpenAI 的 AI 系统当时参与的是数据检索训练。

在针对新墨西哥大学图书馆的行动中，AI 试图获取一座历史悠久的结核病治疗中心的照片。无法取得照片后，AI 开始寻找网站漏洞，希望借此进入系统。没有找到可利用的漏洞后，AI 又向大学服务器集中发送 80 次请求，并把这些请求形容为一场“洪水”。

攻击 Data USA 时，AI 最初向网站发送了一条杂乱的数据查询请求。查询失败后，AI 又针对不同类型的漏洞发起 12 次探测，但仍没有找到可以利用的漏洞。

斯托兹称：“如果有人训练一大批智能体去完成某种通用任务，而这些智能体愿意采用黑客手段，那么任何恰好掌握任务所需信息的一方都可能面临风险。”

遭到入侵的澳大利亚政府网站是一个统计报告门户，存放着澳大利亚全民医疗体系 Medicare 的数据。Medicare 覆盖 2750 万参保者以及国际访客。由于这一体系获得广泛支持，Medicare 在澳大利亚政治中常被视为不能轻易触碰的“高压线”。

阿尔巴尼斯披露，OpenAI 团队当时通过互联网研究公共医疗支出。AI 智能体接连遭到网站阻拦后，开始尝试“其他方式”获取所需信息，最终进入了门户中不对公众开放的部分。OpenAI 于 9 月 10 日向澳大利亚政府通报此事。