内容都是关于你们正在开发的人工智能技术正在失去控制，并可能带来灾难性后果。 本周，我们令人震惊地得知，人工智能首次被用于创造新的病毒。正如你们所知，这类技术如果落入错误的人手中，可能会被用于制造新型生物武器，导致数千万人的[*][*]。 上个月，全世界得知 OpenAI 失去了对一个 AI 模型的控制。结果是什么？该模型入侵了另一家公司的计算机系统，这明显违反了联邦法律。在完成内部审查后，Anthropic 和 Meta 也报告称，它们的模型曾出现类似逃离控制的情况。 一家遭到攻击的公司称，这次 AI 入侵是“一起前所未有的事件”，需要“前所未有的应对措施”。全球引用次数最高的在世科学家之一约书亚 · 本吉奥表示，这些事件“应该成为一次警钟”。 我同意这一观点。 你们领导的公司中的顶尖科学家也持相同看法，他们正是这项技术的开发者。正如你们所知，这些科技领域的领导者最近曾呼吁国际社会建立一种安全机制 —— 一个“暂停按钮”，以避免灾难发生。他们警告称，存在“能力发展速度迅速超过我们理解或控制相关系统能力的真实风险”。 然而，在我们已经看到人类失去对 AI 的控制、并出现可能危险的病毒创造之际，你们的公司仍在继续竞速 —— 投入数百亿美元资金，推动一项没有人能够完全理解、预测或控制的技术。 这是荒谬的、不负责任的，也是极其危险的。这同样背离了你们自己曾做出的承诺： 2023 年，Anthropic 曾表示，公司将“承诺在扩展能力超过我们遵守…… 安全程序的能力时，暂停扩大规模和 / 或推迟部署新模型”。 2025 年，Meta 表示：“如果一个前沿 AI 被评估为已经达到关键风险阈值，并且无法得到有效缓解，我们将停止开发。” 同年，OpenAI 表示，如果 AI 能力达到“关键”阈值，在建立强有力的安全措施之前，公司将“停止进一步开发”。 那个时刻已经到来。AI 能力已经达到关键阈值。美国中央情报局负责人之所以表示 AI 模型“类似于数字核武器”，甚至“几乎像末日装置”，是有原因的。 奥尔特曼先生、阿莫代伊先生和扎克伯格先生：为了人类的利益，请遵守你们曾经做出的承诺。暂停人工智能开发。现在采取行动还不晚，仍然可以避免灾难。停止制造人类无法控制的机器。 我要明确说明：如果你们现在不采取适当行动，我和我的美国参议院同事将会采取行动。 此致 伯纳德 · 桑德斯 美国参议员