AI公司Anthropic PBC即将进行里程碑式的首次公开募股。上市前夕,该公司在招股书中向投资者发出警示:由于公司此前在AI安全问题上直言不讳,可能成为政府报复的对象。这凸显出,在与特朗普政府发生摩擦一年之后,该公司未来业务正面临不同寻常的政府相关风险。
今年早些时候,包括副总统万斯在内的一些官员曾提出,动用冷战时期的
Anthropic还列出了政府干预可能影响其AI开发工作的其他风险,包括贸易管制可能切断其与外国客户的联系,以及其模型出现不当行为时可能带来的法律后果。公司表示,它可能无法“完全理解或解释”其正在开发的系统的行为,并将继续推动可能阻碍自身业务的监管。
公司称:“我们所倡导的监管或其他措施如果获得通过,将适用于我们自身,可能增加我们的合规负担,限制我们的产品开发或部署灵活性,影响我们开发和发布新模型的方式与时机,或以其他方式拖慢我们的增长。”
Anthropic还警告,其正在开发的技术最终可能对人类构成威胁,这与许多硅谷AI研究人员对“AI末日”的担忧一致,而特朗普及其盟友则将此斥为“骗局”。Anthropic表示:“先进AI系统如果不在开发、部署和运行中采取适当的保障、监督和安全措施,可能带来灾难性或生存性风险。”
Anthropic称,近期将AI模型与科学研究连接起来的举措,可能触发旨在防止制造致命生物武器的限制。公司还补充说,其模型被滥用于网络攻击,可能使公司面临法律责任和声誉损害。
正如五角大楼争端所凸显的,政府不仅是监管者,也是该公司产品的重要客户,这使其进一步受制于政府的意志。公司表示,在文件所涵盖的各个时期,来自政府机构的直接合同约占其收入的1%。
前美国工业与安全局负责出口管制的副部长威廉·莱因施表示:“Anthropic有点特殊,因为在特朗普政府中,很多行动是凭一时兴起做出的,而Anthropic并没有得到与其他公司相同的对待。”
这场五角大楼之争由Anthropic坚持对其技术施加额外保障措施引发,最终导致美国国防部长赫格塞思在今年3月宣布该公司构成供应链风险,并禁止其参与军事工作。尽管Anthropic已提起诉讼,要求推翻这一认定,但华盛顿一家上诉法院维持了五角大楼将Claude从其系统中移除、并要求国防承包商照做的计划。政府其他文职机构不受赫格塞思决定约束。
Anthropic在文件中表示:“我们无法确定,这些诉讼的结果是否会影响我们向政府机构销售产品的能力,以及向那些为美国政府提供产品与服务的客户销售产品的能力,进而对我们的业务、财务状况和经营业绩造成不利影响。”
Anthropic还因其前沿模型Mythos受到特朗普政府额外审查。公司今年4月警告称,该模型极其擅长发现计算机漏洞,因此只能与少数值得信赖的合作伙伴共享。这一突破促使美国财政部长贝森特向华尔街公司通报潜在黑客风险,并最终促使特朗普签署6月2日行政令,规定对新型前沿模型实行自愿评估体系。
由于在保障新系统安全方面与政府产生分歧,美国商务部曾短暂对Mythos 5及一款面向消费者的相关产品Fable 5实施出口管制,迫使公司暂时关闭所有访问权限。两周后,在Anthropic解决了一项可能让Fable用户访问Mythos能力的越狱担忧后,出口限制被解除。但Anthropic在招股书中警告,未来的出口管制未必会以类似时间表解除,而其未来增长将“需要”国际扩张。
此后,美国政府加大了对AI安全的关注。特朗普上月召集20多位硅谷领袖到白宫,敦促包括阿莫代伊在内的AI开发者签署自愿协议,呼吁企业修改董事会结构、增设专门安全团队并对模型进行独立审计。几天后,特朗普政府官员通过联邦贸易委员会发出法律威胁,暗示被视为违反协议的公司可能面临后果。此举引发了政府干预的担忧。
美国官员、尤其是特朗普政府官员日益倾向于采取更多措施约束AI公司,这本身已属前所未有。而对于一家处于多数相关辩论中心、又在美国试图监管一个仍处襁褓中的行业之际上市的公司来说,这种情况更加不寻常。
前白宫国家安全委员会主任、现领导战略与国际研究中心战略技术项目的马特·珀尔表示:“我们不知道Anthropic和其他领先AI公司最终会成为什么样的机构。我从未见过这样一种情况:一家大型公司未来会变成什么样,以及它和政府之间会形成怎样的关系,竟如此没有定论。”
特别
“集赞200个就帮你设计婚礼”!从凑热闹到总策划的美术老师自嘲:是“小小徐”婚礼“最大受害者”
斯洛伐克总理:全世界已意识到,想结束乌战争,就必须与普京对线,WTT蒙彼利埃冠军赛女单8强已诞生3席:3名国乒悍将在列
风浪越大鱼越贵!张雪现身重庆大学校招:应届生年薪10万起,公司一专科生10年干到年薪五六十万
iPhone Air 2最新爆料:升级双4800万像素摄像头2nm A20芯片 电池容量明显提升










