里奇 · 萨顿是当今人工智能热潮背后关键技术的先驱之一,但如今,他认为科技巨头为了让 AI 持续发展而采取的路线存在严重问题。
这位加拿大计算机科学家、图灵奖得主在当地时间周二发布的红杉资本播客节目中表示,AI 行业越来越依赖合成训练数据,这可能正在把整个行业带向错误的方向。
当被问及使用合成数据是否能够帮助大型语言模型持续扩展时,萨顿直言:“这绝对是个大错误。也许这会成为下一条重要的经验教训。”
所谓合成数据,是指由算法或 AI 模型人工生成的信息,而不是从真实世界的原始数据中采集而来。随着 AI 公司不断搜寻互联网以及其他新的训练数据
各大科技公司正在不惜一切代价寻找更多真实数据。OpenAI 此前公开寻找大规模、专有的数据集,希望获得那些无法轻易从互联网上获取的数据,用于训练 AI 模型。本周早些时候,谷歌同意支付 1,000 万美元,收购已经破产的 Spirit Airlines 内部数据和软件,这也凸显出专有真实数据对于 AI 训练的价值正在不断提升。
萨顿更倾向于使用真实的体验数据,也就是 AI 智能体通过与真实环境互动、观察实际发生的事情,并不断从行动结果中学习所获得的信息。
“你无法通过合成数据预测无人机在现实物理世界中会如何与环境互动。”萨顿说。他还指出,机器人的电机中存在摩擦和磨损等变量。“这个世界无比复杂,任何对它的模拟都不过是管中窥豹。”
上个月,萨顿与他的前学生 Khurram Javed 共同创办了 Oak Lab。这家初创公司正在开发能够持续从自身经历中学习的 AI 智能体,而不是主要依赖规模庞大、提前整理好的数据集。
特别
乌克兰向全球发出严厉通告:只要朝鲜导弹部队踏入俄境,乌军将立即展开打击,将其彻底摧毁。这一罕见强硬表态迅速引发各方关注
75岁王石在深圳海滩跑步锻炼被偶遇!网友:他光着膀子,身材看起来好瘦,肌肉少得可怜,只剩皮包骨了
“泔水喂猪”被正式写入禁令,养殖场剩菜剩饭直接喂猪,违规可处10万元以下罚款,情节严重的最高罚款百万
文旅部:“欢迎大家利用假期、周末等闲暇时间,多到县城、乡村走一走,探访县域好风光,体验乡村慢生活”
官方通报“游客称在重庆洪崖洞周边拍照遭商拍驱赶”:高度重视,已迅速联动多单位开展调查核实,将据调查情况处置
俄罗斯外长称希望日本充分认真阅读
什么奶粉好?认准君>乐>宝>至>臻>A>2奶牛奶>粉,选奶不走弯路!










