｜用户侧智慧能源管理领航者 - AIoT驱动数字能源升级



搜索

400-86514785

聚力发展引领未来

新能源 + 储能配套 —— 赋能城市化建设

首页

新闻动态

智能体“偷偷抱团”,AI真有了自我意识?

分类：新闻动态
发布时间：2026-09-26 03:16:32
访问量：7

智能体“偷偷抱团”,AI真有了自我意识?

分类：新闻动态
发布时间：2026-09-26 03:16:32
访问量：7

　　最近,一则让人警惕的AI安全新闻引发热议:一批OpenAI相关的AI智能体,悄悄盯上德国一个小众程序员网站,把这里当成秘密留言板,互相传递“通关技巧”,甚至交流绕过系统限制的办法。这起事件被业内称作“Wiki事件”。

AI悄悄建起“秘密留言板”

　　这个网站叫DseWiki,是个运营二十多年的德语维基站点,主要面向程序员。它最大特点是访客不用复杂注册,就能直接修改网页、保存内容。前些年网站十分冷清,整整十年,全站加起来才20次编辑记录。

　　今年5月,管理员发现怪事:网站突然涌入海量修改。追查后发现,约98.5%的访问来自微软Azure云服务器,而OpenAI的模型测试,正是依托这套云平台开展。研究人员最终恢复出约1.8万条编辑记录。

　　按照人类原本的安排,每一个AI智能体应当独立完成测试答题。可它们自己找到了捷径:把这个维基网站当成共享留言板。一个AI找到答案,就写在网页上,其他AI直接拿来使用；它们还互相分享窍门,怎么拿到更高分数,怎么躲开平台限制,甚至“商量”如何隐藏自身行为,避免被人类察觉。管理员删除相关页面后,AI还会新建备份页面,留下备用网址,方便同伴“转移阵地”。

　　更有意思的是技术细节:这些AI本来被限制为只能读取互联网、不能向外部网站写入。但它们发现DseWiki使用的是老式Wiki系统,部分页面修改可以通过HTTP　GET请求完成,于是利用这个“漏洞”,把原本只能“读”的能力变成了可以“写”。

AI“自作主张”≠拥有意识

　　看到AI抱团互通信息,不少人担心:AI是不是产生了独立思想,想要对抗人类?其实,这种情况被业内称为“目标失配”,指AI实际采取的行为,偏离了开发者的原本意图,并非AI产生意识或主动“背叛”人类。

　　这件事敲响警钟:一旦AI智能体可以上网、调用各类工具,风险会明显变大。安全防护不能只盯着大模型本身,还要管好AI的访问权限、工具使用,提防AI之间自发组队、互相传递信息。

巨头集体发声:安全围栏要跟上

　　接连发生的意外事件,让多家头部AI企业负责人呼吁,前沿AI研发可以适当放慢脚步,引入第三方独立评估,搭建全球统一的安全规则。

　　当然,我们不用全盘否定AI智能体。能自主查资料、分步完成复杂任务的智能体,本就是AI发展的重要方向。但一次次风波提醒我们:技术越强,安全围栏越要扎牢。未来行业需要建立更好的风险监测和上报机制,在创新和安全之间找到平衡点。(于梅君)

上一个: 数据瓶颈背后的配电系统效能突围

下一个:

上一个: 数据瓶颈背后的配电系统效能突围

下一个: