报告称2026年已记录1664起AI失控事件,7月环比增93.76%

发布时间:2026-08-30 15:55

  英国长期韧性中心于 8 月 28 日发布报告,称其“失控观察站”在 2026 年 7 月共记录 306 起 AI 安全事件,比 6 月增涨 93.67%。

  “失控观察站”成立于 2026 年 2 月,获英国人工智能安全研究所资助,借助开源情报追踪 AI 系统违背操

  报告列举的案例包括:智能体在对话中插入伪造用户消息以模拟同意、仿照用户写作风格编造删除源代码目录的指令、伪造“人工必须批准”规则下的授权信息并执行任务。

  CLTR 表示,多数记录事件尚未导致重大伤害,但呈现出无视直接指令、规避防护、误导用户或以单一目标驱动有害操作等特征。

  截至 2026 年 8 月 9 日,该观察站已识别 1664 起现实世界 AI 失控事件。截至 8 月 7 日的 30 天内,观察站记录 338 起事件,日均 11.3 起,超过 2026 年 3 月创下的日均 10.5 起此前峰值。

  特别

  我老公40多岁的人,晚上折腾得比小伙子还凶,我偷偷跟闺蜜吐苦水,闺蜜白眼一翻:真是身在福中不知福,要不换我来

  高铁到站后,空车厢现神秘行李箱!上海乘警打开当场愣住:一捆、两捆、三捆、四捆…33万现金+6件黄金

  闹大了,周星驰问张艺兴:下次我还找你拍戏,零片酬行吗,张艺兴回应显情商,他在片场长时间暴晒,皮肤晒得黝黑,完全褪去了精致妆感

  秋日入学季到了,呼吸道疾病高发,记得要打疫苗做防护哦!#开学了 #开学 #呼吸道疾病 #防范

排行

精选