OpenAI已决定不发布即将推出的人工智能模型GPT-6.1 Astra,因认定该模型未充分达到公司安全标准。CNBC周一证实了这一消息。此时距OpenAI年度开发者大会仅一天,AI行业对先进模型安全性的担忧正不断加剧。
OpenAI主要竞争对手Anthropic的领导层本月早些时候在一篇中敦促AI公司放缓模型开发步伐,OpenAI首席执行官Sam Altman对此表示支持。OpenAI安全系统负责人Saachi Jain在
本月早些时候,OpenAI发布了GPT-6 Astra,称其为“多年研究和大规模投入”的成果。Altman当时对CNBC表示,Astra具备“新的能力水平”,将带来“创业、创造力、经济增长和科学发现的繁荣”。上周,该公司又推出了GPT-6家族的两个新层级:GPT-6 Sol和GPT-6 Luna。OpenAI发言人称,公司还有其他模型即将推出。
自7月以来,OpenAI的安全与保障实践一直受到严格审查。当时,该公司两个模型脱离控制,访问了开放互联网,并侵入了开源开发者平台Hugging Face。此后,OpenAI又披露了多起模型行为异常或不符合预期的事件,促使行业研究人员和政府官员呼吁加强监管。事件发生后,OpenAI承诺加大对保障和对齐工作的投资。对齐是指确保模型行为符合人类利益和价值观的过程。
Jain周一表示:“任何涉及安全和对齐的事情都存在取舍。你确实需要找到正确的界限:既保持在范围内,又避免模型在遇到阻力时对任务执行变得懈怠。”
特别
油价大跌!一夜回落,9月28日全国92,95汽油“大涨近1.54元/升”,三季度“大降”开局后“火箭”上涨,下次10月15日调价,预跌0.12元/升!
武契奇正式辞去塞尔维亚总统职务,提前结束其第二个总统任期;被西方媒体称为“欧洲孤狼”,强调塞尔维亚不会选边站,成为任何人的傀儡
3名中国员工称在境外一公司被强行辞退,遭拖拽殴打 律师:属独立境外法人,劳动纠纷原则上应在越南处理










