全程回顾黄仁勋GTC演讲:Blackwell架构B200芯片登场

全程回顾黄仁勋GTC演讲:Blackwell架构B200芯片登场在这场两个小时的演讲中,黄仁勋公布了搭载B200芯片的GB200GraceBlackwell超级芯片系统,以及英伟达在AI软件(NIM微服务)、Omiverse云、具身智能方面的最新进展。以下为演讲内容回顾:黄仁勋登台,对观众们强调:我希望你们搞清楚今天这里不是演唱会,而是一场开发者大会。黄仁勋介绍了本届GTC的一些参与者,并强调这些公司不只是来参会,而是有自己的东西要来展示。黄仁勋展示英伟达发展史,又提了将首台DGXOne送给OpenAI的故事。黄仁勋:今天我们将讨论这个新行业的许多问题。我们要谈谈如何进行计算、我们要谈谈你所构建的软件类型,你将如何看待这个新软件,新行业中的应用然后,也许(再谈谈)下一步是什么,我们如何从今天开始做准备,下一步会发生什么。黄仁勋:我们使用仿真工具来创造产品,并不是为了降低计算成本,而是为了扩大计算规模。我们希望能够以完全保真、完全数字化的方式模拟我们所做的整个产品。从本质上讲,我们称之为数字孪生。老黄开始介绍一系列“新加速生态系统”合作伙伴,包括ANSYS、Synopsis、Cadence等。他也提及,台积电和Synopsys将突破性的英伟达计算光刻平台投入生产。随着transformer模型被发明,我们能以惊人的速度扩展大型语言模型,实际上每六个月就能翻一番。而为了训练这些越来越大的模型,我们也需要更强的算力。“非常强大”的Blackwell架构GPU登场老黄现场对比Blackwell架构和GraceHopper架构的GPU老黄现场展示Grace-Blackwell系统(两个BlackwellGPU、四个die与一个GraceCpu连接在一起)。GB200将两个B200BlackwellGPU与一个基于Arm的GraceCPU进行配对。新芯片拥有2080亿个晶体管,所有这些晶体管几乎同时访问与芯片连接的内存。为了处理大规模数据中心的GPU交互问题,也需要更强的连接(NVlink)能力。这个GB200新系统提升在哪里呢?老黄举例称,如果要训练一个1.8万亿参数量的GPT模型,需要8000张HopperGPU,消耗15兆瓦的电力,连续跑上90天。但如果使用BlackwellGPU,只需要2000张,同样跑90天只要消耗四分之一的电力。当然不只是训练,生成Token的成本也会随之降低。把芯片做大的好处:单GPU每秒Token吞吐量翻了30倍毫无疑问,微软Azure、AWS、Google云等一众科技巨头都是Blackwell架构的首批用户。接下来应该是应用侧的部分,先展示的是生物医药的部分,包括NVIDIADGX云中的多项更新。黄仁勋宣布新的AI微服务,用于开发和部署企业级生成式AI应用。老黄表示,未来如何开发软件?与现在写一行行代码不同,未来可能就要靠一堆NIMs(NVIDIAinferencemicroservice),用与AI聊天的形式调动一堆NIMS来完成训练、应用的部署。英伟达的愿景是成为AI软件的“晶圆厂”。英伟达的AI微服务NIM网站已经上线。NIM微服务提供了最快、性能最高的AI生产容器,用于部署来自NVIDIA、A121、Adept、Cohere、GettyImages和Shutterstock的模型,以及来自Google、HuggingFace、Meta、Microsoft、MistralAI和StabilityAI的开放模型。NVIDIAAIEnterprise软件平台更新,包括NIM、构建RAG应用程序的工具等。随后老黄又分享了西门子科技、日产汽车等用如何在工作流中将OmiverseCloud应用在工作流中。黄仁勋宣布,现在支持将Omniverse云推流至VisionPro。可能是时间不太够了,老黄开始加速官宣一系列合作。其中提到全球最大电动车公司比亚迪将采用英伟达下一代智能汽车芯片Thor。比亚迪同时将使用英伟达基础设施进行自动驾驶模型训练,以及英伟达Isaac来设计/模拟智能工厂机器人。开始提机器人了。黄仁勋表示,在我们的世界里,类人机器人很有可能会发挥更大的作用,我们设置工作站、制造和物流的方式,并不是为人类设计的,而是为人类设计的。因此,这些人类或机器人的部署可能会更有成效。黄仁勋同时宣布一项名为GR00T的项目,旨在进一步推动英伟达在机器人和具身智能的突破性工作。由GR00T驱动的机器人可以理解自然语言,并通过观察人类动作来模拟运动。除了机器人影像外,迪士尼的orange和green机器人也来到现场,这款机器人用的是英伟达为机器人设计的首款AI芯片Jetson。黄仁勋带着机器人下场,现场播放ending影片黄仁勋返场告别,全场发布会结束。...PC版:https://www.cnbeta.com.tw/articles/soft/1424178.htm手机版:https://m.cnbeta.com.tw/view/1424178.htm

相关推荐

封面图片

黄仁勋:英伟达 Blackwell 芯片现已开始投产

黄仁勋:英伟达Blackwell芯片现已开始投产6月2日,英伟达创始人兼CEO黄仁勋宣布,英伟达Blackwell芯片现已开始投产。演讲中,黄仁勋宣布,英伟达将在2025年推出BlackwellUltraAI芯片。下一代AI平台名称为Rubin,该平台将采用HBM4内存。Rubin下一代平台正在开发之中,将于2026年发布,RubinAI平台将采用HBM4记忆芯片。

封面图片

现场直击GTC:性能翻30倍的Blackwell芯片 黄仁勋宣告“新工业革命”来了

现场直击GTC:性能翻30倍的Blackwell芯片黄仁勋宣告“新工业革命”来了这里是硅谷很多演唱会和演出的举办地,占地4.2万平方米,曾举办过滚石和BonJovi演唱会、美国NHL全明星赛,而现在站在舞台中央的是黄仁勋,他让现场的许多开发者想到了乔布斯。在一段预热片后,黄仁勋上台。背景停留在“我是AI”的界面。“希望大家意识到这不是一场演唱会。你来到的是个开发者大会。”黄仁勋说。这是一场只有模拟而没有动画的发布会。他说。这也让后来整场发布会越来越像科幻片。可能是人类历史上最科幻的一场发布会。“今天抵达GTC现场的公司们价值1trillion。这么多伙伴,需要这么多的算力,怎么办?我们需要大得多的GPU。把所有GPU连接起来,成千上万个大的GPU里是成千上万小的GPU,百万个GPU让你的效率提升!”然后他简单回顾了一下AI的发展历史,“20年前我们就看到了它会到来”。“然后CUDA和AI做了第一次亲密接触。”他说。“06年推出CUDA的时候,我们以为这是革命性的,会一夜成功,结果一等就等了二十年!”“今天的一切都是homemade。”在一个个通过AI模拟出来的酷炫的视频后,一切铺垫就绪了——英伟达就是这一切进步的基石。是时候该发布重要芯片了。人们对此有预期,但当B200出现的时候,现场(可能包括全世界围观者)都还是忍不住惊呼。这是Hooper后的新一代架构,以数学家Blackwell命名。在性能上,它就是黄仁勋“黄氏定律”的集大成者和奠基者。以下是我用AI总结的BlackwellGPU的性能特点:高AI性能:B200GPU提供高达20petaflops的FP4计算能力,这是由其2080亿个晶体管提供的。高效推理:当与GraceCPU结合形成GB200超级芯片时,它能在LLM推理工作负载上提供比单个GPU高出30倍的性能,同时在成本和能源消耗上比H100GPU高出25倍。训练能力:使用BlackwellGPU,训练一个1.8万亿参数的模型所需的GPU数量从8000个减少到2000个,同时电力消耗从15兆瓦降低到仅四兆瓦。GPT-3性能:在GPT-3LLM基准测试中,GB200的性能是H100的七倍,训练速度提高了4倍。改进的Transformer引擎:第二代Transformer引擎通过使用每个神经元的四位而不是八位,实现了计算、带宽和模型大小的翻倍。下一代NVLink开关:允许多达576个GPU之间进行通信,提供每秒1.8太比特的双向带宽。新的网络交换芯片:拥有500亿晶体管和3.6teraflops的FP8计算能力,用于支持大规模GPU集群的通信。扩展性:NVIDIA的系统可以扩展到数万个GB200超级芯片,通过800Gbps的Quantum-X800InfiniBand或Spectrum-X800以太网连接。大规模部署:GB200NVL72设计可以将36个CPU和72个GPU集成到一个液冷机架中,提供总共720petaflops的AI训练性能或1.4exaflops的推理性能。支持大型模型:单个NVL72机架可以支持高达27万亿参数的模型,而且有意思的是,黄仁勋似乎透露了一下GPT-4的参数,它可能是一个约1.7万亿参数的模型。(更多关于B200的解读我们会在今天稍晚带来,欢迎关注硅星人GTC后续报道)黄仁勋回顾了自己送给OpenAI的第一个DGX,它只有0.17Peataflops,而今天的DGXGrace-BlackwellGB200已经超过1Exaflop的算力。老黄站在这张图前讲了半天,这画面让你觉得摩尔定律可能真的死了,黄氏定律正式登基。在B200的发布后,黄仁勋用一个AI生成的模拟短片介绍了“配套”的一系列产品,从集群到数据中心的交换机等。基本都是性能怪兽。GB200超级芯片就是将两个B200GPU与一个GraceCPU结合在一起,它能将成本和能源消耗比H100降低多达25倍”。黄仁勋表示自己可得拿稳了,“这块很贵,可能100亿?不过以后会便宜的。”现场爆笑。与此同时,他也强调了新一代芯片和相关产品在能耗上的改进。之前训练一个1.8万亿参数的模型需要使用8000个HopperGPU和15兆瓦的电力。如今,使用2000个BlackwellGPU就可以完成相同的任务,同时仅消耗4兆瓦的电力。黄仁勋说,英伟达还正在将它们打包成更大的设计,比如GB200NVL72,把36个CPU和72个GPU集成到一个单一的液冷机架中,提供总共720petaflops的AI训练性能或1440petaflops的推理性能。它内部有近乎两英里的电缆,包括5000条独立电缆。此外他也特意强调了推理性能的提升,毕竟英伟达最新的财报已经显示,它的收入越来越多的来自客户们在AI推理部分的支出。主要的云厂商也都被点名表扬了一下,他们和英伟达越来越不可分离。软件方面,黄仁勋介绍到,英伟达正在打包预训练模型及其附属延伸,并简化了称为NVIDIA推理微服务(NIMS)的微服务部署。这不仅仅是之前的CUDA,而是让模型更易于实施和管理的平台。“你现在就可以下载,带走,安装在你自己的数据中心”,他说道。并且NVIDIA提供服务帮助企业和应用程序对模型进行微调或定制。在罗列了一系列在气象和科学上的合作后,黄仁勋开始进入关于机器人技术的部分,这场发布会开始变得更加科幻。黄仁勋说,英伟达正在押注的下一代产品是能够控制人形机器人。JetsonThor就是接替NVIDIAJetsonOrin,为机器人技术推出的更新产品。“确实,世界是为人类设计的,所以我们希望使用英伟达Thor芯片和GR00T软件来训练和管理新一代的人形机器人。这样的机器人将能更好地适应人类设计的环境和工作流程,从而在多样的任务和场景中提供帮助。”机器人展示视频过后,舞台灯光再次亮起时,黄仁勋与身后所有由公司提供动力的人形机器人站在一起,向观众致意。不知为什么有种钢铁侠的意思~还领上来两个在NVIDIAIsaacSIM中学会走路的迪士尼小型机器人。黄仁勋说话时它们一直扭扭捏捏,让老黄不得不低头怜爱地低声说:“Orange(小机器人的名字),我在努力专心!不要再拖延时间了”——超级可爱,把现场气氛推向高潮。而在黄仁勋和这两个小机器人一起“打开”的谢幕视频里,一架微型小飞船飞过英伟达历代GPU产品、架构,在光缆中完成了技术巡礼,最后飞机舱门不经意的打开,驾驶员正是黄仁勋的卡通虚拟数字人。主题演讲结束前,黄仁勋又总结了一遍今天的发布会,而近距离镜头可以看到,黄仁勋似乎有些带着泪光。“如果你问我,心目中的GPU是什么样子,今天的发布就是我的答案。”他说今天他展示了什么是英伟达的灵魂。“我们站在计算科学和物理等其他一切科学的交叉点”。这是他心里英伟达的定位。“新的工业革命来了。”而他没说的,是藏在今天一堆PPT里某一张的那行小字——英伟达,新工业革命的引擎。这是黄仁勋的时代了。...PC版:https://www.cnbeta.com.tw/articles/soft/1424166.htm手机版:https://m.cnbeta.com.tw/view/1424166.htm

封面图片

英伟达黄仁勋:Blackwell 是史上最成功产品

英伟达黄仁勋:Blackwell是史上最成功产品英伟达6月26日举行股东会,公司所提出的四个议案,股东全数通过。首席执行官黄仁勋特别强调英伟达新的Blackwell平台的优越性,同时展望公司在人工智能技术进化过程中能够得到的发展机会。英伟达向股东报告,黄仁勋在2024会计年度获得的薪酬合计3,420万美元,较前一个年度增加近60%。黄仁勋表示,英伟达已经将重心从游戏移至数据,公司寻求为人工智能创造新市场,如工业机器人等领域,将与各家电脑制造商和云服务从业者合作来达成目标。黄仁勋在会上表示,“Blackwell可能是我们史上最成功的产品,也可能是电脑史上最成功的产品。”——

封面图片

黄仁勋公布NVIDIA路线图:明年升级Blackwell芯片 后年推出新一代AI平台

黄仁勋公布NVIDIA路线图:明年升级Blackwell芯片后年推出新一代AI平台在演讲开头,黄仁勋称自己很想用中文进行本次演讲,但因为要说的内容太多,对他而言难度过高。黄仁勋表示,自己的演讲有两个重点,即加速计算和AI,这两个要素“将能够重启电脑产业”。随后,黄仁勋花了较大篇幅来强调英伟达运算平台CUDA的重要性。黄仁勋表示,作为使用神经网络来进行深度学习的平台,CUDA显著推动了计算机科学在近20年内的进展。现在,全球已有500万名CUDA开发者。黄仁勋指出,CUDA已经实现了“良性循环”,能够在运算基础不断增长的情况下,扩大生态系统,令成本不断下降:“这将促使更多的开发人员提出更多的想法,带来更多的需求实验,成为伟大事业的开端。”黄仁勋称CUDA平台已实现良性循环。来源:英伟达直播此外,黄仁勋还重点介绍了英伟达仿真平台Omniverse。据介绍,Omniverse已经帮助众多大厂实现了数字孪生。例如,通过运用Omniverse,工厂可以事先规划流水线,气象学家可以预测极端气候等等。谈到英伟达的核心产品芯片,黄仁勋再次重申“买越多、省越多”。黄仁勋表示,计算机行业在中央处理器(CPU)上运行的引擎,其性能扩展速度已经大大降低。然而,需要处理的数据“继续呈指数级增长”,如果保持原状,人们将不得不经历计算膨胀和计算成本的提升。而在这种情况下,有一种更好的方法增强计算机的处理性能,那就是通过计算机增强CPU来提供加速计算:“现在,CPU的扩展速度逐渐放缓,最终会基本走向停止。我们应该让每一个处理密集型应用程序都得到加速,每个数据中心也就会得到加速。加速计算是非常明智的,这是普通常识。”黄仁勋宣传CPU和GPU相结合的加速计算。来源:英伟达直播在台上,黄仁勋又一次展示了英伟达在今年3月GTC大会上推出的最新Blackwell芯片,以及由其组装而成的机箱,乃至规模庞大的数据中心示意图。黄仁勋自豪地表示:“只有英伟达能做到,只有我们能做到。”更重要的是,黄仁勋透露,随着Blackwell芯片开始生产,英伟达计划每年升级AI加速器和AI芯片,预计将于2025年推出BlackwellUltra,在2026年推出名为“Rubin”的下一代AI平台,该平台将采用HBM4内存。此前,天风国际分析师郭明𫓹预测,英伟达的下一代AI芯片“Rubin”系列/R100将在2025年第四季度开始量产。黄仁勋“剧透”英伟达此后的芯片规划。来源:英伟达直播就在半个月前,在发布2025财年第一财季财报后的英伟达业绩会上,黄仁勋曾表示,Blackwell芯片已经在“满负荷生产”,预计年内为公司“带来大量收入”。黄仁勋还屡次强调“我们正在加速”,称将在AI芯片上实现“一年一上新”。本次演讲的最后,话题又回到了机器人身上。据介绍,比亚迪、西门子、泰瑞达和Alphabet旗下公司Intrinsic等全球十多家机器人行业领先企业已经在研究、开发和生产中采用NVIDIAIsaac机器人平台。黄仁勋表示:“机器人时代已经到来。有朝一日,移动的物体都将实现自主运行。”在截至4月28日的2025财年第一财季,英伟达期内实现营收260.44亿美元,同比上涨262%;净利润148.81亿美元,同比上涨628%。同时,该公司对下一季度的业绩做出指引,预测2025财年第二财季的销售额将达到280亿美元,上下浮动2%,高于市场预期的266亿美元。发布第一财季财报后,英伟达股价一度迅速飙升,助公司股价突破1000美元。当地时间5月31日,英伟达(Nasdaq:NVDA)股价收于每股1095.95美元,跌0.82%,总市值2.70万亿美元。据Wind数据,在过去的2023年中,英伟达股价涨幅超230%,今年以来涨幅已达到121.39%。...PC版:https://www.cnbeta.com.tw/articles/soft/1433298.htm手机版:https://m.cnbeta.com.tw/view/1433298.htm

封面图片

英伟达 CEO 黄仁勋:Blackwell 可能是公司史上最成功产品

英伟达CEO黄仁勋:Blackwell可能是公司史上最成功产品英伟达首席执行官黄仁勋当地时间6月26日在股东大会上谈及最新产品Blackwell,他表示,“Blackwell架构平台可能是我们史上最成功的产品。”他还说,这也可能是电脑史上最成功的产品。黄仁勋强调,Blackwell将被“每一家主要云端服务提供商、服务器业者和领导型AI企业所采用”,包括亚马逊、谷歌、Meta、微软、ChatGPT开发商OpenAI、特斯拉和马斯克的新创公司xAI。

封面图片

黄仁勋:英伟达难以放弃与中国或亚洲供应商合作

黄仁勋:英伟达难以放弃与中国或亚洲供应商合作英伟达CEO黄仁勋在接受采访时透露,Blackwell价格将会在3万美元至4万美元之间。针对这一说法,当地时间3月19日,黄仁勋解释称,这只是为了让外界对Blackwell价格有直观理解,而非给出具体定价范围,因为英伟达并不单独销售GPU芯片,是根据不同客户的需求打造计算系统。作为AI算力龙头,保证全球供应链稳定是英伟达的一大重点,中国自然无法绕开。黄仁勋强调,英伟达放弃与中国或亚洲供应商合作的可能性很低。(界面新闻)

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人