英伟达公布Vera CPU智能体实测数据

AI 驱动中国 纪行 221次阅读
分享 微 Q 信
AI摘要
由 AI 生成 · 仅供参考

英伟达公布Vera CPU在智能体工作负载上的实测数据,称其在100兆瓦数据中心场景中相较最快x86 CPU每瓦可支持1.6倍智能体,相较能效最高x86 CPU速度提升2倍并保持能效;多家合作方给出编码、编排、沙箱并发等测试表现。

驱动中国11月6日消息,英伟达公布Vera CPU在智能体工作负载上的实测数据,称该处理器可在同一颗处理器中同时实现智能体执行速度与每瓦吞吐量的业界领先表现,帮助数据中心在有限电力条件下运行更多智能体。

英伟达于11月5日发布博文,公布Vera CPU在智能体工作负载上的实测数据,并标注Vera CPU将于2026年3月16日发布。

英伟达表示,与传统生成式AI不同,智能体除生成答案外,还需搜索资料、查询数据库、编写和测试代码,并实际执行任务。这些步骤大量依赖CPU,并需要在负责执行的CPU与负责推理的GPU之间反复切换。英伟达认为,随着企业规模化部署智能体,数据中心核心瓶颈正从单纯算力转向速度、并发能力和能耗的平衡。

在100兆瓦数据中心场景对比测试中,英伟达称Vera CPU相较速度最快的x86 CPU,每瓦可支持1.6倍数量的智能体;相较能效最高的x86 CPU,智能体速度提升2倍,同时保持领先能效。

多家早期合作方公布测试结果。Perplexity称使用Vera运行智能体编码任务比传统CPU快1.5倍,并计划将其投入生产系统;DeepInfra表示在智能体编排任务中,Vera比最佳x86处理器快至多2.2倍;ClickHouse称其标准软件无需专门优化,即可在176核上接近线性扩展,并登上ClickBench硬件排行榜。

在并发场景中,Daytona使用Vera在10.8秒内启动1000个智能体沙箱,并在2000个并发沙箱下实现每秒完成12.7个任务,x86平台需要88.4秒。Modal报告称,Vera每核心沙箱吞吐量最高达到同类x86硬件的2倍。

版权声明:本文由驱动中国整理发布,转载需注明出处与原文链接。如有疑问请联系 editor@qudong.com。
来源:驱动中国 · 原文链接:https://www.qudong.com/article/528714.html
本文价值 ★★★★★ — 成为第一个评分的人
登录后为本文打分
网友评论0 条评论
正在回复 的评论取消
评论加载中…
🔐

登录后参与互动

评论、点赞均可赚积分
连续签到、邀请好友也有奖励 🎁

电脑端: 微信扫码登录 微信内: 一键登录

微信扫一扫

打开微信「扫一扫」,分享本文到朋友圈或好友