2024年uG环球电子游戏2004欧洲杯天下足球（www.ounxi.com）

克雷西 萧箫 发自 凹非寺量子位 | 公众号 QbitAI2024年太阳城娱乐骰宝

他来了他来了，老黄带着「最强生成式AI处分器」和一系列重磅更新来了！

在缱绻机图形学顶会SIGGRAPH上，老黄告示了最新的超等芯片NVIDIA DGX GH200 Grace Hopper。

这块芯片搭载了群众最快的内存，不仅带宽每秒5TB，内存容量更是暴增接近50%来到141GB，「任何大谈话模子都能初始」。

同期，英伟达还告示了和Hugging Face的合营——

以后在Hugging Face平台上，不需要再下载ML模子我方初始，只需要几步浅近操作，就能在条记本上初始大模子，有Colab内味了(等于不知说念有莫得免费版)。

至于软件更新，字里行间也全是AI。

不仅在Omniverse平台中集成了一系列时下热点的AI器用，新的软件有不少亦然基于大模子打造，像ChatUSD就能帮修复者们写代码。

这亦然时隔五年，老黄再次登上SIGGRAPH的舞台。在会上，他自信满满地告示：

博彩型股票

生成式东说念主工智能的「iPhone时刻」，还是驾临。

有网友看完发布会后感叹：

英伟达在AI硬件这方面，还是无东说念主能及了。

现场设有品鉴环节，市民兴趣十足，在假日休闲时光喝上一杯，亲测国潮罐虎年版产品及鸿运当头、逸品纯生等超高端系系列产品。

新芯片构成的「最强超算」来袭

这场发布会中开首抛出，亦然最引东说念主瞩主义，非「最强超算」莫属。

这台超等缱绻机由256块DGX GH200 Grace Hopper(简称DGX GH200)结合而成。

www.ounxi.com

用老黄的话，这个「大而无当」等于为AIGC期间量身打造的。

2004欧洲杯天下足球

它的算力和内存容量别离达到了1E(10^15)FLOPS和144TB。

底下这张图展示了它的真实大小(中间的黑影是老黄)。

不仅是性能优异，对比发现，性价比简直完爆CPU。

同样花1亿好意思元，拿来买CPU和GPU别离能得回什么？

CPU的话，可以买8800个x86架构的居品。

这近九千块CPU加起来，只可带动一个LLaMA 2、SDXL这么范围的AI措施。

皇冠客服飞机：@seo3687

功率嘛……是5兆瓦，也等于每小时5000度电。

要是换成GPU的话，则是2500块DGX GH200。

能带动的雷同范围的AI措施一下增多到了12个2024年太阳城娱乐骰宝，功率却镌汰到了3兆瓦。

平均到单个措施上，需要210块DGX GH200，价钱是800万好意思元，功率则为0.26兆瓦。

而构成这个「最强超算」的DGX GH200，同样是王者级别，被称为「最强生成式AI处分器」。

DGX GH200由Grace CPU和Hopper GPU构成。

其中Grace CPU包含72中枢，尔后者领有4P(10^12)FLOPS的算力和500GB的LPDDR5X。

此外，DGX GH200中还加入了海力士的「最快内存」HBM3e。

它的容量为141GB，带宽则高达每秒5TB，别离是H100的1.7倍和1.55倍。

(好家伙，H100都只配当baseline了)

在DGX GH200中，CPU和GPU之间的结合速率是第五代PCIe的7倍。

皇冠体育

而从单块DGX GH200到通盘超等缱绻机的经过，主打的等于一个「叠」。

这要收获于它的多GPU高速结合能力。

双联体的DGX GH200，性能简直莫得亏损，凯旋等于单体的两倍。

将双联体的DGX GH200与BlueField-3 DPU和ConnectX-7网卡，就构成了一个「缱绻盒」。

通过NVLink，8个这么的「缱绻盒」高速结合，就得回了DGX构建块，总内存达到了4.6TB。

这么的构建块可以合二为一酿成新的缱绻盒，并最终延迟成256 GPU的职责集群Superpod。

NVLink的高速结合能力，让这256块GPU「就像是一块一样」职责。

至此，显卡超算的范围还是达到了本节起原老黄所展示的水平。

但这还莫得截止——Superpod之间还能连续结合。

在高速低延时的Quantum-2 Infiniband平台匡助下，超算的范围可以接着延迟……

讲到这里，老黄还玩笑说念：

要是哪天你从(某电商平台)上买显卡的时期发现了它，千万不要认为骇怪！

总之2024年太阳城娱乐骰宝，凭证不同需要，哄骗DGX GH200将能构建出不同范围的、恰当AIGC期间的超等缱绻机。

据估量，DGX GH200将于明(2024)年第二季度投产。

还发了3个RTX新专科显卡

除了「最强生成式AI处分器」之外，英伟达此次也推出了3款船新的职责站显卡：

uG环球电子游戏

RTX 5000、RTX 4500和RTX 4000。

这几款显卡均基于Ada Lovelace架构假想，刻下参数还是同步英伟达官网：

诚然，专科显卡售价也更贵。

其中RTX 5000售价达到4000好意思元(约合东说念主民币2.87万元)，RTX 4500售价2250好意思元(约1.6万元)，RTX 4000售价1250好意思元(约8987元)。

老黄也在发布RTX显卡时，再次说出那句经典名言：

买得越多，省得越多(the more you buy, the more you save)。

至于昨年9月发布的RTX 6000 Ada显卡，在此次大会上也推出了一个新的职责站假想：4块叠起来，搞个顶级「叠叠乐」。

这么假想的单个RTX职责站，单个可以提供5828 TFLOPS的AI性能，以及192GB的GPU内存。

除此之外，老黄还在此次大会上告示了一个搭载L40S Ada GPU的新款OVX工作器，数据中心专用。

奋斗

每台工作器搭载8块L40S Ada GPU，每块L40S包含高达18176个CUDA中枢，可以提供近5倍于A100的单精度浮点(FP32)性能。

比较A100，L40S微调(fine-tune)大模子的性能培植了约莫1.7倍。

(没错，A100还是被老黄用来给新硬件当对比了)

具体来说，在这个OVX工作器上微调一个860M参数的大模子，刻下只需要7小时就可以完成；

400亿参数的GPT-3大模子，更是只需要15个小时就能微调完成。

全球最大的博彩平台

在渲染上，L40S性能也可以，配备了142个第三代RT中枢，可以提供212 teraflops的晴朗跟踪性能。

估量L40S将于本年秋季上市。

AIGC版Colab来了，条记本跑大模子

不仅是硬件上接连抛出一系列「重磅炸弹」，软件方面英伟达也发布了多款新址品。

最初是和HuggingFace合营，把NVIDIA DGX Cloud AI整合到其中。

在HF的页面中，一键就能让模子在云上相通初始。

英伟达科学家范麟熙(Jim Fan)更生地告示了这一音信，还自满其中使用的每个节点都是8个H100或A100。

除了与HF合营，英伟达还推出了我方的Workbench平台。

皇冠体育

通过结合云霄工作，用条记本电脑就能跑大模子。

现场还播放了通过Workbench跑SDXL的演示视频。

在Jupyter中，演示者让SDXL画一个「玩物老黄」。

此时的SDXL还不知说念「玩物老黄」是个啥玩意儿。

于是演示者现场用8张图对模子进行了微调。

微调后再行绘图的作品，是不是有那味了？

除了上述两款大模子初始器用，英伟达还推出了最新版的企业软件平台NVIDIA AI enterprise 4.0。

软件包的数目达到了4500个，还稀有以万计的相关依赖，何况安全可靠。

谷歌、微软、亚马逊、甲骨文等英伟达合营方都会在我方的云平台中集成这项工作。

「东说念主类将成为一门新的编程谈话」

除此之外，英伟达的缱绻机图形与仿真模拟平台Omniverse，也告示了一系列新发扬。

一方面，更多AI器用可以凯旋在Omniverse内部调用了。

包括对话式AI扮装创建器用Convai、高保真AI动捕器用Move AI、AI低资本制作CG器用CGWonder Dynamics在内，一系列流行AI器用，刻下都还是通过OpenUSD集成到Omniverse中。

就连Adobe，也缱绻将Adobe Firefly动作API，提供在Omniverse中(等于算计会收费)。

另一方面，英伟达还将生成式AI技艺和OpenUSD都集，推出了一些好用的AI器用。

举例ChatUSD，等于一个基于NVIDIA Nemo框架大模子Copilot，不仅可以修起修复者联系USD的问题，还能赞理生成Python-USD代码。

又举例DeepSearch，亦然一个基于大模子的新器用，基于文本或图像输入，可以快速对数据库进行3D语义搜索。

在此次大会上，老黄先是归来了我方当年所作念的「正确决定」——用AI重塑CG，为AI再行发明GPU。

欧博试玩

随后，他对畴昔AI行业的发展作念了斗胆的估量：

畴昔，简直通盘事物的前线都会有一个大谈话模子。「东说念主」，将成为一种新的编程谈话。

以工场为例，老黄认为，畴昔的工场将会由软件和机器东说念主来「专揽」。

值得注意，所有来自境外、国内中高风险地区，医学观察期未满人员（含集中隔离、居家隔离）不得自行前往黄码人员专用核酸采样点（采样通道）采样检测。前往核酸检测专用采样点（采样通道）参加采样人员，应实行黄码人员、绿码“愿检尽检”人员双通道分流、分开采样，避免交叉感染。（总台记者 魏明）

像汽车这么的居品，本人等于机器东说念主，是以坐褥汽车的工场，将会呈现出机器东说念主制造机器东说念主的地点。

看来，乘大模子东风飞速崛起的英伟达，此次是确实要ALL IN生成式AI了。

参考邻接：[1]https://www.anandtech.com/show/20001/nvidia-unveils-gh200-grace-hopper-gpu-with-hbm3e-memory[2]https://twitter.com/DrJimFan/status/1688954935248027648[3]https://tehcrunch.com/2023/08/08/nvidia-ceo-we-bet-the-farm-on-ai-and-no-one-knew-it[4]https://www.youtube.com/watch?v=3qSQjRaseos