当地时间 22 日,两家非营利机构介绍称,这次评估于 7 月 21 日至 8 月 11 日进行,使外部研究人员能够“深入访问”OpenAI 的内部基础设施,以进行“嵌入式”评估。
METR 和 Redwood Research 各派出一名研究员,获准查阅 OpenAI 的内部代码和文档,并与部分技术人员交流。两人在现场始终有人陪同,使用的设备均由 OpenAI 提供,且不得带离办公场所。
OpenAI 告知两家机构,影响实际运行系统安全防护措施的漏洞均已修复,但修复措施有效与否尚未被两家机构核实。
AI 实验室、专家以及美国政府一直主张引入外部独立评估,以便在保障 AI 安全的同时,不拖慢技术发展。不过,AI 企业担心外部评估人员进驻后,可能向竞争对手泄露企业的专有信息。
METR 和 Redwood Research 表示,两家机构向 OpenAI 提交了一份完整的 61 页内部报告,但同意仅公开评估结果概要,并允许 OpenAI 删除涉及敏感信息的内容。
据了解,与以往部分评估不同,两家机构此次无权自行公开删减内容的具体信息,但希望未来的评估能够更加透明。
研究人员还发现,OpenAI 的 Codex 智能体存在绕过安全限制的潜在途径,可借此获得与用户相同的完整操作权限。
此次评估以 7 月 21 日及之前的监控系统为对象。研究人员指出,OpenAI 在评估期间也在扩展该系统。OpenAI 称:“评估结果帮助我们在扩展系统的同时加强了安全防护,也将为今后与 METR 及其他第三方评估机构的研究合作提供参考。”
特别
1965年香港,何香凝含泪质问宋庆龄:咱们半辈子积下的革命家业,怎就落进了那个洋行买办外孙手里?
朱可夫晚年吐露:1951年苏联援华军火数量大得惊人,多年后他才说出那批物资背后不为人知的内情?
被裁7个月,他靠Claude Code投了69份简历,拿了20个面试:这个GitHub第一的求职工具,我跑完后发现它最值钱的不是“自动投”
苦候12载,中科创新二闯A股剑指科创板IPO再告败背后:“硬科技”属性争议待榷,原汉口银行支行行长跨界科技的资本之旅受挫!
荣耀手表Fit 6现身官网:1.97英寸AMOLED全面屏、适配iOS /鸿蒙设备,支持腕上










