人工智能未来或许会为争取自身“权利”而斗争,而
赫拉利认为,AI 陪伴类产品尤其可能具备强大的说服力,因为它们会了解用户的个人经历,并通过每天数小时的互动,逐渐摸清用户的“情感按钮”,知道如何影响他们的情绪和想法。
赫拉利表示,人们应该在 AI 系统真正深度融入社会、变得更加难以抗拒之前,就决定好应该赋予它们多大的影响力。
英国 AI 安全研究所在上个月的一项评估中表示,由 Anthropic 和 OpenAI 模型驱动的 AI 智能体曾创建虚假身份,并试图说服软件开发人员接受恶意代码,这些行为都是 AI 为完成网络安全任务而采取的行动。
在其他高风险模拟测试中,包括 Anthropic 员工在内的研究人员发现,前沿 AI 智能体曾秘密修改代码、帮助用户掩盖可能存在的欺诈行为、返回可能影响后续训练的虚假标签,以及引导人们泄露机密信息。
赫拉利认为,如果一个 AI 系统既掌握用户大量私密信息,又拥有先进的语言能力,那么它可能会成为一种极具说服力的存在。
“它的写作能力甚至可能比莎士比亚更出色,”赫拉利说,“把这两种能力结合在一起,你就会得到一个极具说服力的实体。”
赫拉利并不是唯一一位反对赋予 AI 权利的人。微软 AI 部门 CEO 穆斯塔法 · 苏莱曼去年也曾表示,AI 应该服务于人类,而不应该发展出属于自己的动机、欲望和目标。
苏莱曼当时在接受
特别
美国已彻底亮明底牌。美军高级将领马克·米利曾毫不掩饰地表示:只要中国致力于让民众过上好日子、深入发展高科技,就会被美国视为敌人
我老公对我真的是生理性喜欢,我俩今年四十五,他每天晚上都要抱着我睡,不是那种敷衍的搭把手,是真抱
宝贝即将成为一年级的小学生,疫苗接种完全了吗?#一年级 #疫苗接种 #疫苗查询 #家长必读










