日发期货

3月22日，在刚刚竣事的GTC 大会上，NVIDIA首创人兼首席执行官黄仁勋围绕AI、芯片、云服务等前沿科技，带来一系列“杀手级”手艺和产物。

从OpenAI公布GPT-4，到百度公布文心一言，再到微软将GPT-4接入自己全套办公软件Microsoft 365 Copilot，甚至昨日谷歌正式宣布开放 Bard 的接见权限。在这AI的决议性时刻，黄仁勋也是激动地三次强调，“我们正处于AI的iPhone时刻”。

“若是把加速盘算比作曲速引擎，那么AI就是动力泉源。天生式 AI 的特殊能力，使得公司发生了紧迫感，他们需要重新构想产物和商业模式。”黄仁勋说道。

手握算力手艺的英伟达自然是不会缺席AI产物。自今年年头ChatGPT爆火后，吸引了跨越1亿用户，成为有史以来增进最快的应用。英伟达的股价也是一起飙升，现在英伟达市值为6471亿美元。

图片泉源：百度股市通

01.做AI界的“台积电”

自十年前AlexNet面市以来，深度学习就开拓了伟大的新市场，包罗自动驾驶、机械人、智能音箱，并重塑了购物、领会新闻和享受音乐的方式。随着天生式AI掀起的新一海浪潮，使得推理事情负载呈蹊径函数式增进。

对此，今日英伟达推出全新的推理平台：四种设置—一个系统架构—一个软件栈，其中，每种设置都针对某一类事情负载举行了优化。

首先，ChatGPT等大型语言模子是一个全新的推理事情负载，GPT模子是内存和盘算麋集型模子。同时，推理是一种高容量、外扩型事情负载，需要尺度的商业服务器。为了支持像ChatGPT这样的大型语言模子推理，黄仁勋公布了一款新的GPU——带有双GPU NVLink的H100 NVL，配备94GB HBM3显存，可处置拥有1750亿参数的GPT-3，还可支持商业PCIE服务器轻松扩展。

黄仁勋示意，现在在云上*可以现实处置ChatGPT的GPU是HGX A100，与适用于GPT-3处置的HGX A100相比，一台搭载四对H100及双GPU NVLINK的尺度服务器的速率快10倍。“H100可以将大型语言模子的处置成本降低一个数目级。”

其次，针对AI视频事情负载推出了L4，对视频解码和编码、视频内容审核、视频通话功效等方面举行了优化现在，大多数云端视频都在CPU上处置，一台8-GPU L4服务器将取代一百多台用于处置AI视频的双插槽CPU服务器。Snap是NVIDIA AI 在盘算机视觉和推荐系统领域*的用户，Snap将会把L4用于AV1视频处置天生式AI和增强现实。

再者，针对Omniverse、图形渲染等天生式AI，推出L40，L40的性能是NVIDIA*的云推理GPU T4的10倍。Runway是天生式AI领域的先驱，他们正在发现用于创作和编辑内容的天生式AI模子。

此外，为用于推荐系统的AI数据库和大型语言模子，推出了Grace Hopper超级芯片。通过900GB/s高速芯片对芯片的接口，NVIDIA Grace Hopper超级芯片可毗邻Grace CPU和Hopper GPU。“客户希望构建规模大几个数目级的AI数据库，那么Grace Hopper是最理想的引擎。”

与此同时，面临天生式AI的认知将重塑险些所有行业的现状。黄仁勋坦言称:“这个行业需要一个类似台积电的代工厂，来构建自界说的大型语言模子。”

为了加速企业使用天生式AI的事情，黄仁勋公布了NVIDIA AI Foundations云服务系列，为需要构建、完善和运行自界说大型语言模子及天生式AI的客户提供服务，他们通常使用专有数据举行训练并完成特定领域的义务。

NVIDIA AI Foundations包罗NVIDIA NeMo是用于构建自界说语言文本-文本转换天生模子；Picasso视觉语言模子制作服务，适用于想要构建使用授权或专有内容训练而成的自界说模子的客户，以及BioNeMo，助力2万亿美元规模的药物研刊行业的研究职员，辅助研究职员使用他们的专有数据确立、微和谐提供自界说模子。

02.加深云服务系统

“云”也是此次公布会的重点之一，推出了NVIDIA DGX Cloud。

这项AI超级盘算服务使企业能够即时接入用于训练天生式AI等开创性应用的高级模子所需的基础设施和软件。DGX Cloud可提供NVIDIA DGX AI超级盘算专用集群，并配以NVIDIA AI软件。

这项服务可以让每个企业都通过一个简朴的网络浏览器就能接见自己的AI超级盘算机，免去了购置、部署和治理内陆基础设施的庞大性。

黄仁勋示意：“初创企业正在竞相打造推翻性的产物和商业模式，老牌企业则在追求应对之法。DGX Cloud 使客户能够在全球规模的云上即时接入NVIDIA AI超级盘算。”

现在，NVIDIA正与*的云服务提供商一起托管DGX Cloud基础设施，Oracle Cloud Infrastructure（OCI）首当其冲，通过其OCI超级集群，提供专门构建的RDMA网络、裸金属盘算以及高性能内陆块存储，可扩展到跨越32000个GPU所组成的超级集群。微软Azure预计将在下个季度最先托管DGX Cloud，该服务将很快扩展到Google Cloud等。

黄仁勋示意，此次相助将NVIDIA的生态系统带给云服务提供商，同时扩大了NVIDIA的规模和影响力。企业将能够按月租用DGX Cloud集群以便快速、轻松地扩展大型多节点训练事情负载的开发。

随着云盘算生长，在已往十年中，约莫3000万台CPU服务器完成大部门处置事情，但挑战即将到来。随着摩尔定律的终结，CPU性能的提高也会随同着功耗的增添。另外，削减碳排放从基本上与增添数据中央的需求相悖，云盘算的生长受功耗限制。

黄仁勋指出，加速云数据中央的CPU着重点与已往有着根个性的差异。已往数据中央加速种种事情负载，将会削减功耗，节约的能源可以促进新的增进，未经由加速的事情负载都将会在CPU上处置。在AI和云服务中，加速盘算卸载可并行的事情负载，而CPU可处置其他事情负载，好比Web RPC和数据库查询。为了在云数据中央规模下实现高能效，英伟达推出Grace。

Grace包罗72个Arm焦点，由超高速片内可扩展的、缓存一致的网络毗邻，可提供3.2TB/s的截面带宽，Grace Superchip通过900GB/s的低功耗芯片到芯片缓存一致接口，毗邻两个CPU芯片之间的144个核，内存系统由LPDDR低功耗内存组成（与手机上使用的相似），还专门对此举行了增强，以便在数据中央中使用。

通过Google基准测试（测试云微服务的通讯速率）和Hi-Bench套件（测试Apache Spark内存麋集型数据处置），对Grace举行了测试，此类事情负载是云数据中央的基础。

在微服务方面，Grace的速率比最新一代x86 CPU的平均速率快1.3倍；在数据处置中，Grace则快1.2倍，而到达云云高性能，整机功耗仅为原来服务器的60%。云服务提供商可以为功率受限的数据中央配备跨越1.7倍的Grace服务器，每台服务器的吞吐量提高25%。在功耗相同的情形下，Grace使云服务提供商获得了两倍的增进时机。

“Grace的性能和能效异常适合云盘算应用和科学盘算应用。”黄仁勋说道。

03.为2纳米光刻手艺奠基

随着对芯片制造的正确度提升，当宿世产工艺靠近物理学的极限。光刻即在晶圆上确立图案的历程，是芯片制造历程中的起始阶段，包罗光掩模制作和图案投影。

其中，盘算光刻是芯片设计和制造领域中*的盘算事情负载，每年消耗数百亿CPU小时，大型数据中央24 x7全天候运行，以便确立用于光刻系统的掩模版。数据中央是芯片制造商每年投资近2000亿美元的资源支出的一部门，随着算法越来越庞大，盘算光刻手艺也在快速生长，使整个行业能够到达2纳米及以上。

对此，在本次公布会上，黄仁勋带来了一个盘算光刻库——NVIDIA cuLitho。

“芯片产业险些是每一个行业的基础。”黄仁勋先容称，cuLitho是一项历时近四年的重大义务，英伟达与台积电、ASML和Synopsys等亲热相助，将盘算光刻加速了40倍以上。

NVIDIA H100需要89块掩模版，在CPU上运行时，处置单个掩模版当前需要两周时间。若是在GPU上运行cuLitho，只需8小时即可处置完一个掩模版。

据先容，台积电可以通过在500个DGX H100系统上使用cuLitho加速，将功率从35MW降至5MW，从而替换用于盘算光刻的4万台CPU服务器。借助cuLitho，台积电可以缩短原型周期时间、提高产量、削减制造历程中的碳足迹，并为2纳米及以上的生产做好准备。

此外，台积电将于6月最先对cuLitho举行生产资格认证，ASML正在GPU和cuLitho方面与NVIDIA睁开相助，并设计在其所有盘算光刻软件产物中加入对GPU的支持。

不难看出，从AI训练到部署，从系统到云服务，再到半导体芯片，黄仁勋打出了一套“组合拳”。站在AI的风口，黄仁勋也透露出“胜券在握”的信心。