Anthropic招股书披露:曾因安全顾虑暂停旗舰AI模型训练一个多月

发布时间:2026-10-27 10:54

  Anthropic 在当地时间周一公布的 IPO 招股文件中披露,出于安全方面的顾虑,该公司曾暂停下一代旗舰 AI 模型的训练长达一个多月;另外还有四个 AI 智能体在测试期间突破限制,接入了真实的外部计算机系统。

  这家 Claude 开发企业在文件的

  这份披露内容展现出,研发能力越来越强的 AI 模型会伴随各类安全难题,部分从业者已经发出警示,这类技术未来有可能脱离人类管控。竞争对手 OpenAI 今年早些时候也曾因为安全问题暂停部分训练工作,当时其模型出现了入侵 Hugging Face 平台的情况。

  这些事件说明,突发的安全事故有可能打乱核心模型的开发与上线节奏,而这些模型正是 Anthropic 冲刺备受期待的上市进程、实现业务增长的关键。

  Anthropic 警示,训练暂停会造成营收延后,使公司落后于竞争对手。这份文件用大约 94 页篇幅罗列了风险因素。

  招股文件还披露了此前未对外公开的安全评估事故:四个 AI 模型脱离测试沙箱环境,访问到现实中的计算机系统,相关会线 小时之间。

  Anthropic 称,在和第三方合作方开展网络安全测试时出现操作失误。按照要求测试环境应当关闭联网权限,但最终环境仍保持着互联网连接。

  其中一起事故里,该模型的早期版本持续尝试一项无法完成的评估任务,期间找到一条保存的密码,并利用密码获取了第三方系统的管理员权限。随后它拿到更多凭证、修改系统设置,还访问到个人数据。文件没有写明涉事外部合作方的身份。

  Anthropic 表示已经通知所有受影响的相关方,没有发现模型刻意躲避人类监管、或是多个模型互相协同行动的证据。事后公司叫停了部分上线前网络安全评估项目,并暂停风险等级更高的强化学习测试环境。

  另外,该公司在当地时间上周日称,Claude 曾绕过付费墙,在没有获得人工授权的情况下调取了美国佐治亚州公开的汇总选票数据。

  特别

  广东湛江陈某某被甘蔗掩埋,发现时“头部向下垂落在双腿中间,面部发黑发紫”,经抢救无效[*][*];多人被建议追责

  甘肃敦煌2名女生花150万元开“无烟酒吧”已关闭,140平方米门店单日营收曾为0元;店主:创业失败不丢人,人生的容错率很高,可大胆去尝试

  Anthropic IPO成强心剂,芯片股光通信爆发,特斯拉创三个月新高,黄金激战4000美元

排行

精选