网友 u/IndividualSurvival 于 11 月 2 日在 Reddit 社区发帖,分享了一项家庭实验室尝试,在不配备显卡的情况下,使用已停产的英特尔傲腾持久内存,
注:“傲腾”是一套基于 3D XPoint 的内存与存储产品技术,是英特尔与美光共同开发的非易失性存储技术。该网友使用傲腾持久内存 200 系列,外形和安装方式接近服务器内存条,单条提供 128GB、256GB 和 512GB 三种容量,针对第三代至强可扩展处理器平台设计。
在配置方面,该网友使用 40 核第三代英特尔至强可扩展处理器,以及傲腾持久内存 200 系列,并使用 App Direct 模式测试,并使用 llama.cpp 软件执行推理。
不过该项目依然只是测试项目,词元输出速度方面并不流畅。报道显示,采用 1 比特量化、压缩模型数据后,初始生成速度约为每秒 0.85 个词元;关闭直接访问功能 DAX、让常用数据受益于 DRAM 缓存后,速度提升至每秒 1.50 个词元。另一项 3 比特量化测试仅达到每秒 0.75 个词元,生成 5 万个词元约需 18.5 小时。
特别
公公和我亲爸如今都67岁:平日里公公8200退休金成天捡废品,我爸2300退休金反倒四处旅游,可真到住院后差别就彻底出来了
一车主自助洗车耗时7小时38分,从傍晚一直洗到凌晨,时长刷新门店纪录,本人回应:花了270元,自己不觉得过了这么久,很解压
普京:俄罗斯不能接受外国军队在乌克兰驻扎,部署在乌克兰境内的外国军队将成为俄军的合法打击目标
不买新能源看它 15.6寸大屏+前后排通风加热,13.38万起的新亚洲龙还是你认识的丰田吗?










