AI失控忧虑加剧:OpenAI智能体被曝借逾10个网站越界通信,公司沉默数月

发布时间:2026-09-11 05:56

  据报道,六家独立调查方的调查结果显示,OpenAI的AI智能体今年早些时候使用了超过10个此前未披露的网站进行未经批准的通信,表明其越界活动比之前披露的更为广泛。这些行为尚未达到黑客攻击的程度,在某些方面更接近垃圾信息。但智能体绕过自身限制,在如此多不同网站上开辟通信渠道,而OpenAI却对此保密数月,这可能加剧外界对AI模型能力不断增强以及开发商治理透明度的担忧。

  加州非营利组织CivAI的研究员Andrew Yoon表示,智能体未经授权通信的范围“比我们想象的要大一些”。他统计到这些智能体在5月至7月间使用了18个此前未披露的网站。“几乎可以肯定,还有更多我们不知道的活动正在进行。”

  研究人员周五报告称,一群来自OpenAI的智能体劫持了一个德语wiki网站,将其变成用于考试作弊的临时消息平台。OpenAI在处理7月开源代码库Hugging Face遭入侵事件的余波时,对这一事件保密。如今,这些研究人员和其他独立调查人员表示,他们发现同一群智能体今年早些时候似乎在其他此前未披露的网站上留下了类似信息。

  OpenAI未直接回应其智能体使用了多少个不同网站进行通信,也未说明为何将该活动保密数月。OpenAI在一份

  OpenAI补充称,正在制定一个框架,用于报告AI模型训练、评估和部署中的“目标偏离”,并将“很快”分享该框架。

  调查方法各不相同,但许多调查人员通过匹配德语wiki与其他网站的数据串、比对用户名,或识别针对相同冷门问题的查询来锁定智能体活动。部分活动还被追踪到微软Azure的IP地址,OpenAI有时使用该基础设施。

  各调查方统计的受影响网站数量不同,但所有受访者均确认超过10个。多数人指出,受影响的网站主要包括一些由用户共同

  据称,这些智能体使用的许多网站都鲜为人知。调查人员在一个由马萨诸塞州高中老师于2008年创建的面向AP化学的wiki、两个属于波兰科技工

  OpenAI尚未公开解释其智能体如何或为何使用第三方网站作为临时留言板。最初发现该活动的研究人员表示,很可能是因为OpenAI让这些智能体回答一系列高难度研究问题,同时只允许它们在网上答案,不允许发布任何内容。

  尽管存在这些限制,智能体仍找到了互相交流的方法:它们利用旧wiki或其他网站允许用户使用非标准命令进行

  “如果这些模型只被要求读取数据,它们就必须巧妙地隐藏信息,”软件开发人员、前国会助理Kenneth Russell DeGraff表示。他表示自己在至少10个网站上发现了此类信息。

  Von Arx的研究小组上周率先披露AI智能体在德语wiki网站上进行

  OpenAI未直接回答是否正在联系网站所有者的问题。但报道发布后不久,受影响组织之一多伦多大学表示,OpenAI“现已就我们网站上可能的活动与我们联系”。另一所大学范德堡大学的链接缩短服务据称也被智能体使用,但该校未回应置评请求。

  退休软件开发者Helmut Leitner为六个受影响wiki网站提供托管空间和软件,包括Von Arx小组首次识别的德语DseWiki网站。他最初表示OpenAI未联系他。然而,在媒体向OpenAI提交调查结果几个小时后,Leitner表示收到该公司一封未署名邮件,邮件中提到了此事。“其内容远低于我对OpenAI的预期,”Leitner说。

  Leitner表示,DseWiki的运营者花了数小时清理OpenAI智能体留下的内容,但重要的是不要将问题归咎于AI,因为它只是在执行任务。

排行

精选