关闭广告

公布未来三年路线图,黄仁勋把英伟达「逼到」极限

雷峰网6915人阅读


NVIDIA 创始人兼首席执行官黄仁勋在COMPUTEX 2024开幕前,面向现场6500多名观众的演讲,最引人注意的就是最新的产品路线图。

黄仁勋展示了未来三年的产品路线图,并首次公布下一代平台Rubin。

看起来,黄仁勋将英伟产品的更新节奏推向了技术的极限,近些年有类似节奏的公司是以消费市场为主的苹果,这表达了NVIDIA“加速一切”决心的同时,也预示着AI应用蓬勃发展的阶段即将到来。

GPU架构、网络平台Spectrum-X每年更新的同时,NVIDIA也在推动加速计算成本的降低、有降低AI应用嫩看的NIM推理微服务,以及推动AI新一波浪潮的机器人等。

可以越来越清晰的看到,NVIDIA要成为AI世界里的基石。

黄仁勋海给出预测,AI新一波浪潮是物理AI。

GPU、以太网网络平台每年更新

黄仁勋COMPUTEX 2024开幕前的演讲,首次披露今年发布的Blackwell架构的继任平台Rubin。


Rubin平台将配备新 GPU、基于 Arm 的新 CPU — Vera,以及采用 NVLink 6、CX9 SuperNIC 和 X1600、并融合 InfiniBand/以太网交换机的高级网络平台。

根据NVIDIA的路线图,2025年推出Blackwell Ultra GPU(8S HBM3e 12H);2026年推出Rubin GPU(8S HBM4);2027年推出Rubin Ultra GPU(12S HBM4)。

Rubin和Vera的命名均源自美国天文学家Vera Rubin。

“我展示的所有芯片都在百分之百在开发中。”黄仁勋说,“NVIDIA的更新节奏以年为单位,所有架构都是兼容的,以一年为周期,我们把所有东西推向技术极限。”

黄仁勋称以年为单位更新的基本理念非常简单,打造数据中心规模,以每年的节奏分步骤实现、并向客户交付产品,在各个领域实现技术突破。

同样计划每年推出新产品的还有Spectrum-X产品。NVIDIA Spectrum-X 是全球首款专为 AI 打造的以太网网络平台,可将网络性能较传统以太网网络平台提升1.6倍。


Spectrum-X 为客户提供更高的带宽、更多的端口、更加强大的软件功能集与可编程能力,不断提高领先的AI以太网网络性能。

网络和存储越来越成为限制AI发展的瓶颈。

NVIDIA网络高级副总裁Gilad Shainer说:“生成式 AI 等开创性技术的飞速发展,使每家企业都必须把网络创新放在第一位,从而获得竞争优势。

Spectrum-X配备NVIDIA Spectrum SN5600以太网交换机和NVIDIA BlueField -3 SuperNIC,是一个兼顾了生成式 AI 云所需高性能和各种云功能的端到端平台。

雷峰网了解到,率先采用NVIDIA Spectrum-X的AI云服务提供商有CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta 等。

另外,戴尔科技、慧与、联想和超微等之后,又有多家NVIDIA 合作伙伴也发布了基于 Spectrum 的产品,包括永擎电子(ASRock Rack)、华硕(ASUS)、技嘉科技(GIGABYTE)、鸿佰科技(Ingrasys)、英业达(Inventec)、和硕(Pegatron)、云达科技(QCT)、纬创(Wistron)和纬颖科技(Wiwynn)等。

MGX和NIM降AI应用的软硬件门槛

身处2024年更应该意识到,AI的发展不仅需要GPU、CPU、网络等关键组件,更需要一个易用且低成本的AI系统。

NVIDIA 正在降低将数据转化为智能的成本。


“买的越多,省的越多。”黄仁勋说,CPU的性能扩展已经大大放缓,NVIDIA通过GPU+CPU组合,实现了高达100倍的加速,同时功耗仅增加到3倍,成本仅增加到1.5倍,每瓦性能比单独使用CPU提高25倍。

有更加直观的数据,8年内NVIDIA AI算力增加了1000倍,带来的显著收益是,比如训练1.8万亿参数、8万亿token的GPT-4,所需能耗从8年前Pascal架构的1000GWh减少到Blackwell的3GWh,能耗仅为8年前的1/350。


生成Token的能耗,Blackwell架构降至8年前Pascal架构的1/45000。

用Pascal产生1 Token的能耗相当于2个200W灯泡运行2天,而现在1 Token只用0.4J能耗。

MGX降低AI工厂建立成本和时间

架构演进带来的优势最终还是需要以系统应用的方式呈现,并且要以足够低的软硬件门槛。

为了加快不同规模和配置的系统开发,NVIDIA推出了MGX模块化参考设计平台,以便计算机制造商能够以快速且低成本的方式构建超过 100 种的系统设计配置。

制造商首先可根据其服务器机箱选择一种基本的系统架构,然后再根据不同的工作负载选择 GPU、DPU 和 CPU。通过采用 MGX,开发成本大幅降低,较之前最多降低了四分之三,开发时间缩短到仅六个月,较之前减少了三分之二。

目前,已有超过 25 家合作伙伴的 90 多套已发布或正在开发中的系统使用了 MGX 参考架构。AMD和英特尔也都支持MGX 架构,并首次计划打造基于他们自己 CPU 主机处理器的模块设计。


“新一轮工业革命已经开始。众多企业和地区正在与 NVIDIA 合作推动价值万亿美元的传统数据中心向加速计算转型,并建造一种新型数据中心——AI 工厂来生产新的商品:人工智能。“黄仁勋宣布,NVIDIA MGX模块化参考设计平台加入了对 NVIDIA Blackwell 产品的支持,包括全新 NVIDIA GB200 NVL2 平台,这些系统搭载 Grace CPU 以及 NVIDIA 网络和基础设施,将帮助企业建立 AI 工厂和数据中心。

NIM让2800万开发者轻松创建AI应用

有了AI工厂和数据中心,就拥有了激发AI创新的硬件基础。

每个企业都希望在其运营中融入生成式 AI,但并非每个企业都拥有专门的 AI 研究团队。

NVIDIA给出的解决方案是NIM,这是一种推理微服务,通过经优化的容器的形式提供模型——以部署在云、数据中心或工作站上。


借助 NVIDIA NIM,开发者能够轻松地为 Copilots、聊天机器人等构建生成式 AI 应用,所需时间从数周缩短至几分钟,NVIDIA宣布全球2,800 万开发者已经可以下载 NVIDIA NIM。

NIM能帮助企业实现基础设施投资的效果最大化。例如,与未使用 NIM 的情况相比,在NIM中运行Meta Llama 3-8B所能生成的加速基础设施AI Token可以提升3倍。

据悉,从Meta Llama 3开始,在Hugging Fac上现已开始提供 NIM,NVIDIA已经在 Hugging Face上发布了全面优化的Llama 3。

通过基于 NVIDIA GPU 的 Hugging Face 推理端点,只需点击几下,开发者就能在其选择的云平台上轻松地访问和运行 Llama 3 NIM,能有效降低开发AI应用的门槛。

企业可以使用 NIM 来运行用于生成文本、图像和视频、语音以及数字人的应用。借助面向数字生物学的 NVIDIA BioNeMo NIM 微服务,研究人员可以构建新的蛋白质结构,加速药物研发。

目前Cadence、Cloudera、Cohesity、DataStax、NetApp、Scale AI 和新思科技等近 200 家NVIDIA的技术合作伙伴正将NIM集成到他们的平台中,加快生成式AI部署到特定领域应用中的速度,例如Copilots、代码助手、数字人虚拟形象等。

价值50万亿美元的工业数字化变革

AI将带来的变革,触手可及的是AI PC。

搭载RTX技术的NVIDIA RTX AI PC将通过200多款RTX AI笔记本电脑和500多款采用 AI 技术的应用和游戏改变消费者的体验。


NVIDIA还发布了搭载RTX的AI助手技术演示G-Assist 项目,展示了针对PC游戏和应用的上下文感知辅助功能。

除了消费级市场,NVIDIA也将目光放到了价值 50 万亿美元的工业数字化变革。

面对各行各业采用自主运营和数字孪生,通过虚拟模型提高效率并降低成本对需求。NVIDIA 通过其开发者计划提供对 NIM 的访问权限,以促进 AI 创新。

黄仁勋展示了Foxconn利用NVIDIA Omniverse、Isaac 和 Metropolis 创建数字孪生,通过结合视觉AI与机器人开发工具来实现增强的机器人设施。

AI新一波浪潮是物理AI。AI能够理解物理定律,并与人类并肩作战,”黄仁勋他强调了机器人和人工智能在未来发展中的重要性。

如今大多数AI并不理解物理定律,不以物质世界为基础。而生成图像、视频、3D图形和许多物理现象,需要基于物理并理解物理定律的AI。


“机器人和物理 AI 正在成为现实,而不仅是出现在科幻小说。这真的令人兴奋,”黄仁勋补充。

NVIDIA Isaac平台为开发者构建 AI 机器人提供强大的套件,包括由AI模型以及Jetson Orin、Thor 等超级计算机驱动的AMR、工业机械臂和人形机器人。

“机器人将遍布所有工厂。工厂将实现对机器人的统筹,而这些机器人将制造新的机器人产品,”黄仁勋同时强调NVIDIA Isaac 在提高工厂和仓库效率方面的作用,比亚迪电子、西门子、泰瑞达、Intrinsic 等全球领先企业都在使用 NVIDIA Isaac 的高级程序库和 AI 模型。

从核心组件到整个AI系统,NVIDIA已经成为加速AI发展的基石。

同时,NVIDIA给出了AI新一波浪潮是物理AI也传递出NVIDIA对于未来的判断与引领。雷峰网

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

黄有光:快乐可以完全用生活满意度衡量吗?

网易研究局 浏览 22596

京东物流上半年总收入778亿元,同比增长32.6%

网易科技报道 浏览 10502

营收交付创新高,为何禾赛科技反而赚得更少了?

钛媒体APP 浏览 10882

热搜前十,竟全是「人造娇妻」

她刊 浏览 9120

外交部:麻生太郎粗暴干涉中国内政 强烈谴责

外交部网站 浏览 65049

网民辣笔小球正式被批捕,侮辱戍边烈士将被依法公诉

趣看热点 浏览 152991

波媒:法国正阻止欧盟出资20亿欧元为乌供应弹药

环球网资讯 浏览 14858

小米牵头组建国家级联合体:3C智能制造创新联合体

网易科技报道 浏览 15048

差劲!维金斯17分钟6中1仅得3分 正负值-29最低

直播吧 浏览 8753

踏浪出击!多艘气垫登陆艇与母舰融合训练

环球网资讯 浏览 15248

俗语说“母在不庆生,父在不留须”究竟是什么意思?

趣看热点 浏览 22355

拒绝回答!当被问及巴萨新帅是谁时,德科避而不谈

直播吧 浏览 8499

青岛考古人员有重大发现!胶州湾海域现一战大型战舰

趣看热点 浏览 21525

无需精子和卵子 科学家成功培养首个人类胚胎模型

中国新闻周刊 浏览 72043

年轻人“追金弃钻” 开启一场消费认知的觉醒

新摘 浏览 10606

百亿基金经理再出手,固收产品添新作!

中国基金报 浏览 10683

康利:赛程&客场&生病等因素让我们处境困难 但我们正努力摆脱

直播吧 浏览 8786

AI芯片抢购浪潮停不下来! 马斯克感叹:每年需要耗费数十亿美元

智通财经 浏览 8510

美国政府新规下,特斯拉车型续航里程普遍下调

IT之家 浏览 8674

2名医疗器械中层菲律宾遇害,背后上市公司已成“仙股”

野马财经 浏览 6877

马克龙寻求赴南非出席金砖峰会 俄方:法国应解释原因

环球网资讯 浏览 71938
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1