英伟达推出最强AI芯片!

发布时间:2023-08-9 阅读量:5617 来源: 我爱方案网整理 发布人: bebop

美国当地时间8月8日,英伟达又发布了新一代GH200 Grace Hopper(简称“新版GH200”)平台。但与今年5月发布的GH200不同的是,新一代GH200搭载了全球首款HBM3e内存,内存容量和带宽都有显著提高,专为加速计算和生成式AI时代而打造。

英伟达称,新版GH200旨在处理世界上最复杂的生成式AI工作负载,涵盖大型语言模型、推荐系统和矢量数据库,将提供多种配置。新版GH200将于2024年第二季度投产。

具体来说,新版GH200芯片平台基于 72 核 Grace CPU,配备 480 GB ECC LPDDR5X 内存以及 GH100 计算 GPU,搭配 141 GB 的 HBM3e 内存,分为六个 24 GB 的堆栈,并使用了 6,144 位的内存接口。虽然英伟达实际安装了 144 GB 的内存,但只有 141 GB 是可用的。

相比原版GH200平台,新版GH200平台的双芯片配置将内存容量提高3.5倍,带宽增加三倍,一个服务器就有144个Arm Neoverse高性能内核、8 petaflops 的 AI 性能和282GB的最新HBM3e内存技术。

HBM3e是全新一代的高带宽内存,带宽达每秒5TB,比原版的GH200所搭载的HBM3快50%,可为新版的GH200提供总共每秒10TB的组合带宽,使新平台能运行比前代大3.5倍的模型,同时通过快3倍的内存带宽提高性能。

据英伟达介绍,目前配备 HBM3 内存的原版GH200 Grace Hopper超级芯片平台已经在生产中,并将于下个月开始商业销售。而配备 HBM3e 内存的新版GH200 Grace Hopper超级芯片平台现在正在样品测试中,预计将于 2024 年第二季度上市。

英伟达强调,新版GH200 Grace Hopper 使用了与原版相同的 Grace CPU 和 GH100 GPU 芯片,因此公司无需推出任何新的软件版本或步进。英伟达表示,原版 GH200 和升级版 GH200 将在市场上共存,这意味着后者将以更高的价格出售,毕竟其更先进的内存技术带来的更高性能。

英伟达表示,配备 HBM3e 内存的下一代 Grace Hopper 超级芯片平台完全兼容英伟达的 MGX 服务器规范,并且可以与现有的服务器设计直接兼容。

黄仁勋说,为了满足生成式 AI 不断增长的需求,数据中心需要有针对特殊需求的加速计算平台。新的GH200 Grace Hopper 超级芯片平台提供了卓越的内存技术和带宽,以此提高吞吐量,提升无损耗连接GPU聚合性能的能力,并且拥有可以在整个数据中心轻松部署的服务器设计。


相关资讯
YXC可编程差分晶振,频点148.5MHz,LVDS输出,5032封装,应用于高端摄像头

晶振提供稳定的时钟信号,用于同步摄像机内部各个模块的工作,保证视频流的连贯性和准确性

YXC 扬兴 有源石英晶体振荡器,频点48MHz,工作电压1.8V~3.3V,应用于视频转接器

晶振可以提供稳定的时钟信号,用于同步各个组件的工作,确保数据的准确传输和处理

YXC 扬兴晶振 可编程振荡器,频点22.578MHz,3225封装,CMOS输出,应用于红外接收手柄

晶振作为一种常用的频率控制元件,能够产生稳定的脉冲信号,为游戏手柄的电路系统和内部器件提供准确的时序信号

突发!三星HBM芯片未通过英伟达认证

三星电子最新的高带宽内存(HBM)芯片尚未通过英伟达(Nvidia)的测试

压力传感器的选型技巧

压力传感器(Pressure Transducer)是能感受压力信号,并能按照一定的规律将压力信号转换成可用的输出的电信号的器件或装置。通常由压力敏感元件和信号处理单元组成。按不同的测试压力类型,压力传感器可分为表压传感器、差压传感器和绝压传感器。压力传感器是工业实践中最为常用的一种传感器,其广泛应用于各种工业自控环境,涉及水利水电、铁路交通、智能建筑、生产自控、航空航天、军工、石化、油井、电力、船舶、机床、管道等众多行业。