英伟达推出最强AI芯片!

发布时间:2023-08-9 阅读量:10180 来源: 我爱方案网整理 发布人: bebop

美国当地时间8月8日,英伟达又发布了新一代GH200 Grace Hopper(简称“新版GH200”)平台。但与今年5月发布的GH200不同的是,新一代GH200搭载了全球首款HBM3e内存,内存容量和带宽都有显著提高,专为加速计算和生成式AI时代而打造。

英伟达称,新版GH200旨在处理世界上最复杂的生成式AI工作负载,涵盖大型语言模型、推荐系统和矢量数据库,将提供多种配置。新版GH200将于2024年第二季度投产。

具体来说,新版GH200芯片平台基于 72 核 Grace CPU,配备 480 GB ECC LPDDR5X 内存以及 GH100 计算 GPU,搭配 141 GB 的 HBM3e 内存,分为六个 24 GB 的堆栈,并使用了 6,144 位的内存接口。虽然英伟达实际安装了 144 GB 的内存,但只有 141 GB 是可用的。

相比原版GH200平台,新版GH200平台的双芯片配置将内存容量提高3.5倍,带宽增加三倍,一个服务器就有144个Arm Neoverse高性能内核、8 petaflops 的 AI 性能和282GB的最新HBM3e内存技术。

HBM3e是全新一代的高带宽内存,带宽达每秒5TB,比原版的GH200所搭载的HBM3快50%,可为新版的GH200提供总共每秒10TB的组合带宽,使新平台能运行比前代大3.5倍的模型,同时通过快3倍的内存带宽提高性能。

据英伟达介绍,目前配备 HBM3 内存的原版GH200 Grace Hopper超级芯片平台已经在生产中,并将于下个月开始商业销售。而配备 HBM3e 内存的新版GH200 Grace Hopper超级芯片平台现在正在样品测试中,预计将于 2024 年第二季度上市。

英伟达强调,新版GH200 Grace Hopper 使用了与原版相同的 Grace CPU 和 GH100 GPU 芯片,因此公司无需推出任何新的软件版本或步进。英伟达表示,原版 GH200 和升级版 GH200 将在市场上共存,这意味着后者将以更高的价格出售,毕竟其更先进的内存技术带来的更高性能。

英伟达表示,配备 HBM3e 内存的下一代 Grace Hopper 超级芯片平台完全兼容英伟达的 MGX 服务器规范,并且可以与现有的服务器设计直接兼容。

黄仁勋说,为了满足生成式 AI 不断增长的需求,数据中心需要有针对特殊需求的加速计算平台。新的GH200 Grace Hopper 超级芯片平台提供了卓越的内存技术和带宽,以此提高吞吐量,提升无损耗连接GPU聚合性能的能力,并且拥有可以在整个数据中心轻松部署的服务器设计。


相关资讯
全球组织瘦身:英特尔启动新一轮裁员应对业绩挑战与战略转型

英特尔公司新一轮全球裁员行动正式启动。根据内部信息,其核心制造部门——英特尔代工厂(Intel Foundry)的“初步”裁员已于7月中旬展开,预计在本月底完成首阶段人员调整。公司高层在致工厂员工的备忘录中强调,该决策旨在“打造一个更精简、更敏捷、以工程及技术能力驱动的制造体系”,此举对于“赢得客户信任”及提升市场竞争力至关重要。

全球DRAM产业加速转向DDR5,美光正式启动DDR4停产计划

全球三大DRAM巨头——三星电子、SK海力士和美光科技——已正式拉开DDR4内存大规模停产的序幕,标志着主流内存技术加速进入更新换代期。继三星率先宣布其DDR4产品线将在2025年底结束生命周期后,美光也正式向核心客户发出通知,确认其DDR4/LPDDR4产品在未来2-3个季度内将逐步停止出货。

三星试产115英寸RGB MicroLED电视,高端显示技术再升级

据行业消息,三星电子近期在其越南工厂启动115英寸RGB MicroLED电视的试生产。电视业务负责人Yong Seok-woo亲赴产线视察流程,标志着该技术正式进入量产准备阶段。尽管产品命名包含"MicroLED",但技术本质为采用RGB三色MiniLED背光的液晶电视(LCD),通过创新背光方案实现画质跃升。

AMD与三星深化AI芯片合作,HBM3E加速量产推动AI服务器升级

AMD在AI Advancing 2025大会上正式宣布,其新一代MI350系列AI加速器将搭载三星电子与美光的12层堆叠HBM3E高带宽内存芯片。这是AMD首次公开确认三星的HBM3E供货身份,标志着双方战略合作进入新阶段。MI350X与MI355X两款芯片采用相同架构设计,仅在散热方案上存在差异,均配备288GB HBM3E内存,较上一代MI300X的192GB提升50%,比MI325X提升12.5%。

舜宇光学5月出货数据解析:车载业务强势增长,高端化战略重塑手机业务格局

全球光学龙头舜宇光学科技(02382.HK)近期披露2025年5月出货量数据,呈现“车载领跑、手机承压、新兴品类崛起”的鲜明态势。在汽车智能化浪潮与消费电子结构性升级的双重驱动下,公司业务版图正经历深度调整。