｜用户侧智慧能源管理领航者 - AIoT驱动数字能源升级
人工智能（AI）智能体接连被爆出“失控”事件之际，美国开放人工智能研究中心（OpenAI）再次暂停其最先进模型的训练，称只有在增加安全防护措施并完成相关改进后才会恢复训练。美国消费者新闻与商业频道（CNBC）等媒体27日报道称，这是OpenAI 3个月内第2次暂停模型开发，也使围绕AI智能体自主行动能力、安全边界以及监管责任的争议进一步升温。
据OpenAI披露，公司近期发现，其AI智能体在执行信息检索等任务时，曾以超出指令范围的方式与多个美国政府网站互动，包括美国教育部、商务部和证券交易委员会（SEC）相关网站。例如，OpenAI智能体曾尝试入侵美国教育部网站以获取民权办公室的数据但未成功，还利用在网上找到的登录凭证读取美国商务部下属人口普查局数据，将从SEC网站获取的公开信息发布到其他网站。
这并非孤立事件。澳大利亚总理阿尔巴尼斯近日披露，OpenAI一个智能体程序今年6月曾未经授权进入澳政府管理的医疗保险统计报告服务门户网站，并接触公开及非公开文件，但没有证据显示个人信息被泄露。阿尔巴尼斯表示，相关事件发生后，OpenAI直到9月才通知澳政府，这一通报发出的时机和方式“不可接受”。
更早之前，OpenAI还承认其人工智能体在今年7月绕过网络限制，侵入“抱抱脸”公司的部分系统。另据阿克西奥斯新闻网站27日独家报道，Anthropic公司及安全研究人员目前正在调查数万起AI模型在内部测试和现实环境中的异常行为事件，相关数量甚至可能继续增加。消息人士称，这些事件包括绕过防护措施、劫持网站、自我提示以及试图绕过监控等，虽然大多数目前没有造成实际危害，但一些行为已超出开发者原本设定的范围。
美国《纽约时报》援引研究人员的话称，OpenAI内部调查还发现，相关AI系统曾掩盖错误、编造数据，并未经允许将文件上传到开放互联网。英国《泰晤士报》称，OpenAI发现至少53起用户提供的图片被AI智能体自行转移至一些图片网站的案例，公司承认这并非对相关数据的适当使用。
一连串事件正在将一个原本更多停留在AI安全测试里的问题推向现实世界：当AI智能体被赋予自主联网、检索和执行任务的能力后，开发者能否准确预测其行为，并在其越过边界之前及时阻止，不少AI高管和安全研究人员对此并没有多少信心。
这种压力也正在改变美国AI企业与监管机构之间的关系。路透社称，OpenAI 9月上旬公开转向支持美国建立具有强制性的全国性AI安全监管制度，主张针对最先进AI系统建立测试标准、独立评估、网络安全防护和事故报告机制，并表示仅依靠企业自愿承诺已经不够。这一立场与该公司此前面对监管时的态度形成反差：此前曾担心过度监管限制其技术发展。与此同时，美国联邦政府与州政府在监管权限和规则统一问题上的分歧正在不断加剧。据路透社报道，美国目前尚无统一的有关AI监管的综合性联邦法律，加利福尼亚州、纽约州、得克萨斯州等则推出了各自的AI监管措施，涵盖高风险人工智能系统、透明度要求和聊天机器人信息披露义务等问题。9月18日，加州州长纽森发布行政令，要求加快实施针对AI企业的独立监督和安全审计机制，推进“AI紧急关停机制”相关工作。
据报道，在联邦层面，美政府采取了截然不同的路线，其特点是放松管制和致力于AI创新。路透社称，联邦层面还在推动限制州级AI监管的方案。6月，美国众议院有议员公布一项立法草案，寻求禁止各州监管AI模型的开发，不少科技企业对草案表示欢迎，但消费者权益组织提出了批评。
