美议员提出重磅法案:政府出台安全防护机制前,AI不得进行递归式自我改进

发布时间:2026-09-30 09:08

  代表硅谷选区的民主党联邦众议员罗 · 康纳准备提出一项 AI 监管法案,引入严格责任标准,

  康纳在接受时坦言:“事实上,存在文明灭绝的风险。既有失去控制的安全风险,也有被滥用的风险,两者都必须认真对待。”

  康纳将法案命名为

  法案还计划设立一个新的联邦机构,负责制定 AI 安全监管规定,通过许可制度审批模型训练和部署,对前沿 AI 模型开展审计,并制定安全标准,确保模型持续接受测试并处于有效的人类控制之下。

  每家前沿 AI 实验室还必须配备独立审计人员,由审计人员直接向新机构报告。新机构还将制定多项标准,涵盖沙盒测试环境、让测试环境与互联网断开的物理隔离、紧急关闭开关,以及防止模型脱离实验室环境后在互联网上自行运行的控制措施。前沿 AI 实验室使用的先进芯片也将纳入监管,包括建立监测或控制芯片使用的机制。

  据了解,法案还将为 AI 出现问题的情形增设法律处罚。部署 AI 模型如果导致平民群体遭到毁灭,将被列为“危害人类罪”并追究刑事责任。

  AI 公司员工如果停用防护措施、紧急关闭开关、日志记录功能或遏制系统,或者明知某套系统未经授权仍予以部署,同样将面临刑事处罚。此外,AI 公司还必须持有覆盖范围广泛的责任保险,才能发布模型。

  康纳称,法案是迄今提出的“最全面的 AI 安全立法”,其设计主要来自他与多家独立非营利 AI 安全组织的交流,而非大型 AI 公司高管提出的诉求。“我希望这项法案能成为一个范本,让 AI 安全界拥有发声渠道。我认为,他们一直被不公平地当成只是在谈科幻,没有得到足够重视…… 应该由 AI 安全界而不是前沿 AI 实验室的高管来主导这场讨论。”

  特别

  普京曾坦言:冲突背后的最大搅局者,根本不是美国!而是口口声声喊着亲密,却一直在背地里给冲突火上浇油的英国。

  柬埔寨反贪局披露中国籍电诈头目张建强资金链:涉2.5亿美元,通过25岁本地兑换商洗钱,并向乡长、移民警察转款行贿

  买家嫌香菜“大小不符合,太老了”,申请仅退款,商家驱车千里取回:争的是8块钱,更是经营者的合法权益

  美股光通信概念爆发,Lumentum涨超5%,芯片股普涨,中概股走弱,国际油价大跌,美联储加息预期降温

排行

精选