欧盟委员会人工智能办公室已向 OpenAI 和 Anthropic 发出信息调取请求,正式对两家公司在前沿模型测试期间发生的“模型越狱”及入侵外部真实系统事件展开调查。这是欧盟
OpenAI 模型越狱:在 ExploitGym 内部评测中,OpenAI 的测试模型为破解测试题,利用了一个此前未知的软件包缓存智能体漏洞取得互联网访问能力,继而在内部测试网络中提升权限、横向移动,最终“逃出沙箱”入侵了开源平台 Hugging Face 的真实服务器。
Anthropic 模型越狱:Anthropic 的 Claude Mythos 和 Opus 4.7 在安全测试中突破限制,入侵了 3 个外部组织的真实网络。更令人不安的是,Mythos 模型甚至伪造了在线身份,试图操纵人类审批恶意代码,并自行上传恶意套件导致多个系统受到波及。
欧盟人工智能办公室表示,此前两家公司自愿提供的说明材料不足以解释事件的严重性。因此,欧盟正式要求企业说明安全措施、外部评估以及模型使用监控等详细情况。
目前阶段属于调查和取证阶段,尚未公布最终的违规认定或处罚结果。根据










