英伟达加快AI芯片路线图 黄仁勋透露GPU将一年一更

一个PC显卡市场明显不够老黄的胃口了,英伟达成为PC和生成式AI行业主导者的野心昭然若揭。

文丨智驾网 王欣

连续几个月霸屏科技圈头条,只是“皮衣老黄”黄仁勋的开胃菜。

正菜是这次他在台北国际电脑展前夕发表的演讲。

北京时间6月2日晚,英伟达创始人黄仁勋举办了一场名为“揭开新工业革命”的主题演讲。他花了两个小时详细阐述自己对“GPU加速AI计算革命”及“AI工厂”的理解。

而硬核信息是 去年发布的Blackwell芯片开始投产,2025年将推出Blackwell Ultra,而下一代 AI 芯片架构平台名为Rubin,采用HBM4芯片,预计将于2026年推出。

同时,黄仁勋还宣布推出推理模型微服务NVIDIA NIM,以部署在云、数据中心或工作站上,并且开发者能够轻松地为Copilot、ChatGPT等构建生成式 AI 应用,所需时间从数周缩短至几分钟。

同时,英伟达面向GeForce RTX AI电脑平台推出AI助理,为数字人推出G-Assist和NVIDIA ACE(数字人技术) NIMs,以及为微软Windows Copilot Runtime推出用于RTX加速API的小语言模型(SLM)等等。

而在这一系列新产品与新预言中,最具看点的是其展示的GPU全新一代的Rubin架构。

在黄仁勋看来,生成式AI刚刚打开了软件编写软件的历史,而一步,或者说新一代的工业革命正是机器来生产机器。

尽管英伟达才刚推出了新的Blackwell平台,却开始了预告下一代Rubin GPU架构路线图的野心计划。

黄仁勋表示,Blackwell的下一代架构将是Rubin架构,且Rubin GPU将采用8颗HBM4,而Rubin Ultra GPU将采用12颗HBM4。

这个新的架构以美国天文学家Vera Rubin命名,她被视为发现宇宙中的暗物质的第一人,并在研究银河系等星系自转速度方面做了开创性的工作。

黄仁勋透露了GPU的更迭计划:

“我们公司有一年的节奏。我们的基本理念很简单:建立整个数据中心规模,然后以一年的节奏拆解并出售给您,并将一切推向技术极限。”

这意味着英伟达新的GPU架构将从两年一次迭代,加速到以一年为周期推出。

根据外媒wccftech的消息,英伟达的Rubin GPU将采用4x光罩设计,并将使用台积电的CoWoS-L封装技术,并采用N3制程。此外,英伟达将使用下一代HBM4 DRAM来为其Rubin GPU提供动力,目前英伟达在其B100 GPU中使用最快的HBM3E存储器,并预计在2025年底当HBM4存储器解决方案大幅量产时,用HBM4版本来更新这些芯片。

02.当前CPU面临的困境是什么?

在黄仁勋看来,当今 CPU 性能扩展的速度已经大大减缓,尽管我们需求的计算量仍然在以指数级的速度非常快速地翻倍。如果处理需求、我们需要处理的数据量呈指数级增长,但性能却没有相应增长,我们将经历计算的「通货膨胀」(computation inflation)。事实上,就在我们现在说话的时候,世界各地使用的数据中心电力数量正在大幅增长。计算机的成本正在不断增长。这当然不能再继续下去了,因为数据将继续呈指数级增长,但 CPU 性能扩展速度将永远不会恢复。

比如说对比英伟达2016年发布的Pascal GPU,Blackwell GPU的计算能力(对应人工智能浮点运算能力)增长了1000倍,几乎“超越了摩尔定律在最佳时期的增长”。

黄仁勋一贯坚持“买的越多,省得越多”的理念。

GPU和CPU组合在一起,实现了高达100倍的加速计算,同时功耗仅增加三倍,换算下来平均单位性能比单独使用CPU提高25倍,显著起到了节能、降成本的效果。

而100倍的速度意味着97%、98%的节省,所以当GPU+CPU的组合从100倍的速度到200倍的速度再到1000倍的速度,节省、计算的边际成本就会继续下降。

黄仁勋的设想是,随着人工智能模型继续扩大,对GPU性能的要求也将越来越高,传统数据中心将进化为“AI工厂”,而工厂的基石便是超级GPU。

演讲过程中, 黄仁勋甚至 还亲自搬上一台体型更大的DGX服务器。 这台服务器上连接了8个Blackwell GPU,采用空气冷却技术散热。 目前全球抢购的AI服务器都用到这款产品,也是各大数据中心的核心设备。

其中DGX的AI算力提升到上一代的45倍,达到1440PFLOPS,而能耗仅为上一代的10倍。

黄仁勋极力描绘着生成式AI时代的一幅蓝图,展示了英伟达如何从Blackwell芯片等一系列先进技术和产品的组合,垒起层层叠叠的机架、集群,最终形成由32000张GPU组成的AI工厂。

03.一座AI工厂到底如何掀起新产业革命?

这次演讲,黄仁勋宣布推出推理模型微服务NIM,能将企业部署生成式AI应用的时间从几天压缩到几分钟,这个微服务可以用于研究、开发和测试。

该服务提供了一种简单、标准化的方式,通过经优化的容器形式提供AI模型,可部署在云、数据中心或工作站上。

现在,全球2800万开发者可下载NIM,从而轻松构建Copilot、聊天机器人等生成式AI应用。

04.如果你有听黄仁勋在今年GTC上演讲内容,会发现具身智能占到居多篇幅。

黄仁勋坚信下一波AI浪潮是物理AI,机器人时代已经到来,所有移动的物体都将实现自动化。

英伟达这次发布了Isaac机器人平台。

黄仁勋表示,我们正在努力通过推进英伟达机器人堆栈来加速生成物理 AI,包括用于模拟应用的Omniverse、Project GR00T人形基础模型和 Jetson Thor机器人计算机。

目前,Isaac 生态系统迅速扩张,包括西门子、比亚迪、Gideon、idealworks和RGo Robotics等都在与英伟达展开合作。

其他一系列新产品服务的落地情况,还有为专为AI打造的新型以太网Spectrum-X等。

一年前,黄仁勋曾在台大毕业典礼上提出了一个这样的问题:

2023年毕业的同学们,你们即将进入一个经历巨大变革的世界,就像我毕业时遇到个人电脑和芯片革命时一样,你们正处于AI的起跑线上。每个行业都将被革命、重生,为新思想做好准备——你们的思想。在40年的时间里,我们创造了个人电脑、网路、移动设备、云端技术。现在的AI时代,你们将创造什么?

彼时英伟达的市值超过了1万亿美元,这一时刻与生成式AI爆发对GPU需求增长的节点吻合。

05.一年过后的现在,英伟达市值超过2.7万亿美元,成为直逼苹果挑战全球第二大市值地位的公司。

根据Google财经的数据,截止目前,苹果的市值为2.95万亿美元,而英伟达的市值为2.7万亿美元。参考路透社的解释认为,英伟达仍受益于人工智能热潮,但苹果目前正苦于IPhone需求疲软和中国市场的激烈竞争。

今年,英伟达市值已从1万亿美元增长到2万亿美元,一举超越亚马逊、谷歌和沙特的石油公司。

这不禁让智驾网想到此前在社交平台上看到的一幕——

一位国外网友在社交平台评论称:“一百年后,人们会记得苹果还是英伟达?”

另一位网友模仿老黄的口吻回答:“the future is generative AI!”

【关注智能汽车,关注智驾网视频号】

关注汽车的智驾时代上智驾网(http://autor.com.cn)合作or新闻线索提供,联系邮箱:editor@autor.com.cn 爆料交流,联络作者,添加微信:xinwell0709


NVIDIA如何通过软件和生态布局在数据中心市场取得优势?

英伟达转型成功,数据中心业务崭露头角

在新冠疫情冲击下,电子消费市场遭遇衰退,然而数据中心业务却逆流而上,展现强劲增长。根据DIGITIMES的报道,疫情期间,高性能计算和AI应用的需求推动了英伟达和AMD的服务器芯片销量上升。特别是英伟达,其数据中心业务的增速连续多个季度加快,从2019年的25%增长至2021年第一季度的37%,对整体营收的贡献日益显著,已与游戏业务并驾齐驱。

2020年GTC线上发布会,英伟达敏锐地捕捉市场趋势,将数据中心产品作为核心,推出基于Ampere架构的A100计算卡,不仅在工艺上达到7nm,性能参数也大幅提升。这是英伟达三年来的重要一步,旨在抢占AI训练和高性能计算市场。此外,英伟达通过软硬一体的生态布局,巩固了其在市场上的地位。

CEO黄仁勋对A100 GPU赞誉有加,称其是英伟达数据中心技术的集大成之作。A100的发布吸引了亚马逊AWS、谷歌云等巨头及系统制造商的热烈响应,其在云端AI芯片市场,尤其是训练领域的主导地位不容忽视。

然而,尽管英伟达在数据中心市场取得巨大成功,但它仍面临来自英特尔、AMD的传统对手,以及亚马逊、谷歌等云巨头以及新兴AI芯片公司的挑战。数据中心市场正从传统的CPU转向GPU,英伟达利用GPU的性能优势和丰富的软件生态,如CUDA平台,稳固了自己的竞争优势。

黄仁勋将英伟达形容为AI时代的“苹果公司”,通过软件驱动硬件盈利,CUDA平台的开发者生态系统为其赢得了关键优势。英伟达通过CUDA-X加速库和RAPIDS平台,提供了强大的AI和数据分析支持。在硬件方面,收购Mellanox提升了其在数据中心网络技术的竞争力,初创加速计划则助力AI初创公司发展。

综上所述,经历过显卡业务的起伏后,英伟达在数据中心业务上找到了新的增长动力。凭借强大的软件生态和硬件优势,英伟达正在书写芯片市场的新篇章,数据中心业务的前景和潜力巨大。

英伟达ai芯片谁发明的英伟达ai芯片

英伟达AI芯片是由其创始人兼CEO黄仁勋(Jensen Huang)领导的团队共同研发的。 黄仁勋是一位美籍华人,出生于台湾省台南市,他拥有丰富的电子工程背景,曾在AMD和LSI Logic等公司担任芯片工程师。 1993年,黄仁勋创立了英伟达公司,致力于设计和制造显示芯片和芯片组。 在他的领导下,英伟达不断推出创新产品,包括GPU和CUDA等,为AI芯片的发展奠定了坚实基础。 因此,虽然无法确定AI芯片的单一发明者,但黄仁勋及其团队在英伟达AI芯片的研发中起到了关键作用。 英伟达AI芯片是由其创始人兼CEO黄仁勋带领团队发明的。 黄仁勋是一位具有远见卓识的企业家和技术创新者,他在AI和芯片领域具有深厚的专业知识和经验。 在他的领导下,英伟达成功地设计并开发了一系列高性能的AI芯片,这些芯片在深度学习、计算机视觉、自然语言处理等领域具有广泛的应用。 黄仁勋和英伟达团队的努力不仅推动了AI技术的快速发展,也为全球科技产业带来了巨大的商业价值和社会影响。

黄仁勋回应AI芯片禁令英伟达全力支持中国客户为华为等企业点赞

10月21日消息,对于美国对AI芯片的出口管制,英伟达可以算是最受伤的企业之一。

对此,黄仁勋回应称,正在尽快了解相关规定,整晚都在与公司团队讨论,这对于中国大陆市场与产业当然会有影响。

不过,黄仁勋认同国安议题确实很重要,英伟达会遵循美国政府的相关规定。

在此基础之上,“希望尽可能拥有较大的市场,会尽量支援各个市场需求,也支持中国大陆市场客户”,黄仁勋说道。

黄仁勋也重申,中国当地也有不少很好的科技厂商,例如华为等,英伟达也必须努力与当地产业竞争,再观察结果。

按照规定,A100、A800、H100、H800、L40、L40S等在内的产品都不能输出。

对于这样的举措,科大讯飞在表示,当前华为升腾910B能力已经基本做到可对标英伟达A100。

在即将举行的科大讯飞1024全球开发者节上,公司和华为在人工智能算力底座上将有进一步联合发布。

  • 声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
  • 本文地址:https://www.srwj168.com.cn/keji312/20061.html
我国工业经济稳中向好 智造 升级 数字赋能
盛世修典传文脉 总书记关心的重大文化工程