新零售网 > 品牌 >

英伟达针对AI市场推出双GPU产品H100NVL,最高使用188GBHB

来源:IT之家 发布时间:2023-03-23 17:26   阅读量:8010   

感谢IT之家网友 华南吴彦祖 的线索投递!

,英伟达在 GTC Spring 2023 主题演讲中,针对不断增长的 AI 市场,推出了全新的双 GPU 产品 H100 NVL。H100 NVL 在顶部配备了 3 个 NVLink 连接器,使用两个相邻的 PCIe 显卡插槽。

英伟达表示在运行大型语言模型时,常规显卡的显存无法驾驭庞大的数据流。因此本次推出的 H100 NVL 最高可以提供 188GB HBM3 显存,单卡显存容量 94GB。

H100 NVL 的功耗略高于 H100 PCIe,每个 GPU 为 350-400 瓦,增加了 50W。IT之家从报道中获悉,总性能实际上是 H100 SXM 的两倍:FP64 为 134 teraflops,TF32 为 1979 teraflops,FP8 为 7916 teraflops,INT8 为 7916 teraops。

内存带宽也比 H100 PCIe 高很多,每个 GPU 为 3.9 TB / s,总和为 7.8 TB / s。

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。

减少不必要的空间占用,苹果在iOS16.4中为iCloud共享照 2023-03-23 17:01

比尔?盖茨:AI时代已开启,ChatGPT是1980年以来最革命 2023-03-23 16:50

华为nova8SE/畅享50等七款机型开启HarmonyOS3公 2023-03-23 16:07

《英雄联盟》2023LPL春季赛季后赛3月30日开启,具体赛程公 2023-03-23 15:57

RNG俱乐部为吉祥物软泥熊注册英文名商标 2023-03-23 15:42

小米官宣:RedmiNote12Turbo发布会定档3月28日, 2023-03-23 15:16

《云顶之弈》铲铲市危机版本明日上线:新增危机选秀,加入新英雄和羁 2023-03-23 15:12

2499元,小米米家智能净烟机S1开启众筹:挥手就能开机,可实时 2023-03-23 15:11

2023胡润全球富豪榜:奢侈品巨头成首富,中国前三是他们 2023-03-23 15:08

UbuntuFont字体已发布13年,Canonical正邀请社 2023-03-23 14:51

微软Win11Dev预览版23419发布:任务管理器创建实时内核 2023-03-23 14:39

人造鸡肉即将送上美国餐桌,GoodMeat公司得到FDA认可 2023-03-23 14:38

“周末去深圳看房!”“通关”带旺深港楼市 2023-03-23 14:24

腾讯控股2022年营收5545.52亿元净利润1882亿元 2023-03-23 14:02

NANDFlash大降价,固态硬盘取代机械硬盘指日可待 2023-03-23 14:01

联想再“断臂求生”:拯救者手机被曝裁撤,好牌为何打得稀烂? 2023-03-23 13:20

沃尔沃CEO:下半年上市的新款纯电动汽车将在华生产,出口至欧洲和 2023-03-23 13:12

加点小细节,PPT折线图变个样 2023-03-23 12:51

苹果仍在积极进行自动驾驶汽车测试司机数量还在增加 2023-03-23 12:41

从抢先体验看《暗黑破坏神4》:优秀的缝合足以续命 2023-03-23 12:29