变形计
英伟达宣布Groq 3 LPX全面投产:Vera Rubin推理效率实现数倍提升_我的网站

一 | 8月25日消息,英伟达宣布,面向交互式AI推理的Groq 3 LPX处理器正式进入全面投产阶段。 该芯片是Vera Rubin平台的关键组件之一,专注于超低延迟Token生成,旨在弥补传统GPU架构在此类场景下的不足。

二 | 在Artificial Analysis的基准测试中,Groq 3 LPX搭载Gemma 4 31B模型、处理100,000 Token上下文时,实现了每秒3400个输出Token的吞吐量,创下该模型迄今最高纪录。
针对智能体编程等对延迟敏感的工作负载,其响应速度最高可达近期竞品平台的4倍。 Colombo, Oct 17 (UNI) A Sri Lanka panel has opposed the "unprecedented tax concessions" given to HCL Technologies (HCL) and says its agreement with John Keels Holdings (JKH) should be reviewed.
The Island newspaper on Monday quoted Committee on Public Finance (COPF) Chairman and SJB MP Dr. Harsha de Silva as saying this.
He made the demand in view of the imposition of a controversial 30 per cent tax across the board on companies in the exports sector with effect from November 1.
Dr de Silva emphasised that a reappraisal was necessary as the proposed tax would be imposed in line with the recent staff-level agreement reached with the International Monetary Fund (IMF), the report said.
Noting that the agreement hadn’t been tabled in Parliament yet, the Colombo District MP said that India-Sri Lanka joint enterprise cannot be granted special status when the country was in dire straits.
Dr. de Silva said the economy was in such a bad shape that the whole process of granting concessions to investors should be re-evaluated.
Failure to do so could trigger public protests at an unprecedented scale, he warned.
UNI MR。

三 | 英伟达指出,智能体任务与传统聊天或摘要生成存在本质差异:一次任务可能包含数百甚至数千个推理步骤,智能体需反复读取文件、调用工具、执行代码、校验结果并迭代推理,上下文长度随之累积至数十万Token。 因此,智能体AI带来两个并行的计算需求:一是高效处理持续增长的大规模上下文,二是以极低延迟持续生成每一个输出Token。

四 | Vera Rubin平台通过多芯片协同设计应对这一挑战。其中,Rubin GPU负责大规模训练、推理及上下文处理;Groq 3 LPX则专为单用户交互场景优化Token生成速率;Vera CPU承担工具编排、代码执行、数据处理和模拟等CPU密集型工作;BlueField-4 DPU与Spectrum-6 SPX则分别负责网络与存储加速。 英伟达同步公布了Vera Rubin NVL72在真实智能体负载下的测试结果。基于SemiAnalysis的AgentX工作负载,采用DeepSeek V4 Pro模型,Vera Rubin NVL72每兆瓦(MW)吞吐量最高达到上一代GB300 NVL72的30倍,每Token成本最高降低35倍。 结合Groq 3 LPX的表现,该组合可使智能体在代码编写、测试执行、工具调用和结果验证等连续任务中获得更快的响应速度,从而显著缩短端到端任务完成时间。 英伟达强调,Groq 3 LPX全面投产的核心目的并非以专用推理芯片取代GPU,而是为Vera Rubin平台补充传统GPU架构在超低延迟Token生成方面的短板。 整个Vera Rubin平台被定位为面向智能体AI时代的AI工厂系统,涵盖Rubin GPU、Vera CPU、Groq 3 LPX、BlueField-4 DPU、Spectrum-6 SPX等七款芯片及五种专用机架,所有组件围绕计算、网络、存储和软件进行深度协同设计,确保各类硬件各司其职,而非由单一处理器包揽全部工作负载。
Current article:http://wassj.gangzhengganfouanlou.pics/news/20260826_8877528.html
Published on:12:06:15
变形计TXT下载声明:
1 我的网站免费提供的变形计,均由网友上传,供下载测试之用,不作商业用途,下载后请二十四小时后删除!
2 我们根据txt小说全文所整理出变形计txt电子书全集免费下载,由程序自动生成变形计txt下载文件。
3 书友所发表的txt小说变形计的相关评论,并不代表本站赞同变形计txt下载或者支持变形计的读者观点。
4 如果发现小说《变形计txt全集》无法下载未及时更新请联系我们。如果您喜欢变形计txt电子书,请支持作者到书店购买正版图书。感谢您的合作与支持。
5 好看的小说变形计是作者"百年不渡"的最新力作,变形计电子书由网友发布;小说变形计版权属于作者所有,如果侵犯您的利益,请通知我们。


















