“拉踩”CPU：成本、功耗(hào)、处理数据量不(bù)如GPU

　　在本次大会上，黄仁勋(xūn)还“拉踩(cǎi)”了一(yī)波CPU。他从功(gōng)耗、处(chù)理数据量等(děng)方面，指(zhǐ)出使用(yòng)GPU胜过CPU。

　　举(jǔ)例来说，花费1000万美(měi)元，可(kě)以建设一(yī)个有(yǒu)960颗CPU的数据中心，其可处理1X LMM（大语言模型(xíng)）数据量，需要11GWh功耗；

　　同样(yàng)成(chéng)本下，也可以(yǐ)建设一个有48个GPU的数据中心，其可处理(lǐ)44X LLM数(shù)据量，仅需要3.2GWh功耗。

　　若(ruò)只想(xiǎng)处理1X LMM数据量，则只(zhǐ)需40万美(měi)元，便可拥有一个搭载2个GPU、功耗仅0.13GWh的数(shù)据中心。

　　“买越(yuè)多，省(shěng)越(yuè)多（The more you buy， the more you save）。”黄仁勋再次表示。

　　同时(shí)，他(tā)也列出了数(shù)据(jù)中心成本公式(shì)：数据(jù)中心总持(chí)有(yǒu)成本(běn)=f[成本(běn)（芯片、系统(tǒng)、硬件生态系统）、吞(tūn)吐量(liàng)（GPU、Algo软件、网络、系统软件、软件生态(tài)系统）、使用率（Algo Lib， 软件生态系统(tǒng)）、采(cǎi)购运(yùn)营、生命周期最佳化(huà)、电力]。

　　ACE代工服务(wù)：用AI激活NPC生命

　　游戏一直(zhí)是备受(shòu)关(guān)注的一大AI应用落地领域(yù)。英伟达也在大会上宣(xuān)布，推出面向游(yóu)戏(xì)的定制AI模(mó)型代(dài)工服务NVIDIA Avatar Cloud Engine（ACE）。

　　它能赋予(yǔ)非(fēi)玩家(jiā)角色（NPC）更智能且(qiě)不断进化的对话技(jì)能(néng)，中间(jiān)件、工具和游戏开(kāi)发者可使用它来构建和部署定制的语(yǔ)音、对(duì)话(huà)和动画AI模型(xíng)。

　　其中(zhōng)包括：英(yīng)伟达NeMo，使用专有(yǒu牛心管是牛的什么部位 牛心顶是黄喉吗)数据(jù)构建(jiàn)、定制和(hé)部署语言模型(xíng)；英(yīng)伟(wěi)达Riva，用于自动语音识别(bié)和文(wén)本转语(yǔ)音(yīn)实现实(shí)时(shí)语(yǔ)音对话；英伟(wěi)达Omniverse Audio2Face，用于即(jí)时创建游戏角色表情动画，以匹配(pèi)任何(hé)语音轨道。

　　开发人员(yuán)可选择(zé)集成整个NVIDIA ACE for Games解(jiě)决方案，也可(kě)仅(jǐn)使用需要的组件(jiàn)。

　　新参考工(gōng)作(zuò)流程：帮助建设(shè)数(shù)字化(huà)智能工(gōng)厂(chǎng)

　　黄仁勋表(biǎo)示，全球电子(zi)制造(zào)商(shāng)正(zhèng)在使用(yòng)一种全新(xīn)的(de)综合(hé)参考工(gōng)作流(liú)程推进工业数字化工(gōng)作(zuò)，该工作(zuò)流(liú)程结合了(le)英伟达用于生成式AI、3D协作(zuò)、仿真和自主机器的(de)技(jì)术，包(bāo)括：

　　英伟达Omniverse，其(qí)连接了顶级计(jì)算(suàn)机辅助(zhù)设计应用以及生成式(shì)AI的API和(hé)前沿框架；用于(yú)模(mó)拟和(hé)测(cè)试(shì)机器人的英伟达Isaac Sim应用(yòng)程序；英伟(wěi)达Metropolis视觉AI框架(jià)，用于自动光(guāng)学检(jiǎn)测。

　　同时，黄仁勋(xūn)现场展示了一个完全(quán)数(shù)字化(huà)的智能工厂的演示。

　　目前(qián)富士康工业互联网、宜鼎国际、和(hé)硕、广(guǎng)达和纬创正在使用这一参考工作流程(chéng)，具体用例包(bāo)括电路板质保检测点(diǎn)自动化、光学检测自动(dòng)化、建设(shè)虚拟工厂、模拟协作机(jī)器(qì)人、构建及运营数(shù)字孪(luán)生等。

　　MGX服务(wù)器规范(fàn)：快(kuài)速高效(xiào)构建百余种服务器(qì)配置(zhì)

　　英伟达(dá)发布NVIDIA MGX服务器规范，为系统制造商(shāng)提供模块化参考(kǎo)架构，满足各种规模的数据中心需求(qiú)。系统制造商可使用它快速且经济高效地构建(jiàn)100多种服务器配置，以(yǐ)适应广泛的AI、HPC及NVIDIA Omniverse应用。

　　MGX支持英(yīng)伟达全系(xì)列(liè)GPU、CPU、DPU和网络适(shì)配器、各种x86、完整(zhěng)软件堆栈及(jí)Arm处理器，还可集成到(dào)云和企业(yè)数据中心中。

　　华硕、和(hé)硕、QCT、超微（Supermicro）等都(dōu)将采(cǎi)用MGX构(gòu)建下一代加速计算(suàn)机，可将开(kāi)发成本削减多达3/4，并将开发时间缩短(duǎn)2/3至仅需6个(gè)月。

　　其中，QCT和(hé)超微(wēi)基于MGX的设计将于(yú)8月面世。超(chāo)微昨日公布的ARS-221GL-NR系统将(jiāng)采用Grace CPU，而QCT的S74G-2U系统将(jiāng)采(cǎi)用Grace Hopper。

　　推出Spectrum-X网(wǎng)络平(píng)台 构建超大规模生(shēng)成式AI超(chāo)级计算(suàn)机Israel-1

　　另(lìng)外，黄仁勋宣布推出NVIDIA Spectrum-X网(wǎng)络平(píng)台，旨(zhǐ)在提高基(jī)于以太网(wǎng)的AI云的(de)性能和效率(lǜ)。

　　相(xiāng)比传(chuán)统以太(tài)网结构，Spectrum-X可实(shí)现1.7倍的整体(tǐ)AI性能和能效提升，并具(jù)有高(gāo)度通用性，可用于各种AI应用(yòng)。它使用完全基于标准(zhǔn)的以太(tài)网，并可与基于以太网的(de)堆栈(zhàn)互操作。该(gāi)平台(tái)支持256个200Gb/s端口，通过(guò)单个(gè)交换机连接(jiē)，或在两层leaf-spine拓(tuò)扑中提供16000个(gè)端口，以支持AI云增(zēng)长和扩展，在保持性能的同时最大限度(dù)减(jiǎn)少网络延迟。

　　全球领(lǐng)先云计(jì)算提供商正在采用Spectrum-X平台扩(kuò)展生成(chéng)式AI服务，而(ér)Spectrum-X、Spectrum-4交换机、BlueField-3 DPU等已在戴尔、联想等系(xì)统制造商处提供。

　　此(cǐ)外，作为Spectrum-X参(cān)考设(shè)计(jì)的蓝图和测试平台(tái)，英伟达正构(gòu)建一(yī)台超大规模生成式AI超(chāo)级计算机(jī)Israel-1。这台AI超算(suàn)价(jià)值(zhí)数亿美元，将(jiāng)采用(yòng)戴尔PowerEdge XE9680服务器、英伟达(dá)HGX H100超(chāo)级计(jì)算平台、内置BlueField-3 DPU和Spectrum-4交换(huàn)机的Spectrum-X平台。

　　结语

　　“40年来，我们(men)创造了PC、互(hù)联(lián)网、移动(dòng)、云，现在是人(rén)工(gōng)智能时代。你会创造什么？不管是什么，都要(yào)像我(wǒ)们一样追赶它。要(yào)奔跑(pǎo)，不(bù)要(yào)走。要么(me)为(wèi)了食(shí)物(wù)奔跑，要么作为食物奔跑(pǎo)。”

　　在(zài)5月27日的台湾(wān)大学发表了(le)毕(bì)业典礼(lǐ)演讲上(shàng)，黄仁(rén)勋再(zài)次强(qiáng)调了掌握AI技术的(de)重要性：很多人担心，AI会抢走(zǒu)自己的(de)工(gōng)作。但真正会抢(qiǎng)走(zǒu)你饭碗的，是掌握了(le)AI技(jì)术(shù)的人。

　　他表示(shì)，从各方(fāng)面来看，AI的兴盛是计算机产业的再(zài)生契机。在下个(gè)十年，我们的产业将使用新型AI电(diàn)脑，取代价值万亿美元的(de)传(chuán)统电脑。

　　而从(cóng)昨日大(dà)会上黄仁勋(xūn)的展示(shì)中(zhōng)，人工智能时代的未来轮(lún)廓(kuò)似乎已(yǐ)逐渐浮现。

未经允许不得转载：惠安汇通石材有限公司 牛心管是牛的什么部位 牛心顶是黄喉吗