科技媒体 Wccftech 昨日发布博文,报道称在 AI 基础设施峰会上,英伟达展示了面向 AI 工厂的 DSX MaxLPS 功耗调度系统,
注:每兆瓦 token 吞吐量是指数据中心每消耗 1 MW 电力时,AI 系统每秒能够生成或处理多少个 token。该指标把功耗纳入计算,因此更适合衡量 AI 数据中心在电力受限条件下的产出能力。
Conductor AI 平台中的 DSX Flex 可依据电网状态动态调整数据中心用电需求。平台已接收 200 次电网状态信号,相关操作均未要求用户干预。Lambda 等云服务商测试后,在固定功率预算下取得 24% 的 token 吞吐量提升。
Lambda 是一家 GPU 云服务商,客户数量超过 10,000 家。测试集群包含 5 个机架和 19 个节点。在与 16 个节点满功率运行相同的功率预算下,19 个节点的集群吞吐量从约每秒 400 万个 token 提升至每秒 500 万个,增幅为 24%,每瓦性能提升 23%。
多家人工智能企业已参与早期测试 Vera CPU,相关结果显示性能最高提升 1.9 倍、吞吐量提升 73%、查询任务吞吐量提升 3.3 倍。










