英伟达推出NIM云原生微服务，推动生成式AI重塑软件全栈

英伟达推出NIM云原生微服务，推动生成式AI重塑软件全栈在2024年台北电脑展上，英伟达CEO黄仁勋提出生成式人工智能将引发一场新的产业革命，特别在软件行业。英伟达推出的NIM（NvidiaInferenceMicroservices）旨在简化AI模型的部署，缩短上市时间，并使用行业标准API来抽象化开发和生产包装的复杂性。NIM是一套优化的云原生微服务，支持在云、数据中心和GPU加速工作站上运行预训练的AI模型。此外，英伟达还发布了llama3大模型的NIM容器，现已在官网上线供用户下载并部署。这标志着AI工厂概念的进一步实现，通过提供易于部署的AI服务，英伟达助力企业加速AI应用的开发和部署，推动全栈软件的创新和转型。关注频道@ZaiHuaPd频道爆料@ZaiHuabot

英伟达将推出生成式 AI 专业认证

英伟达将推出生成式AI专业认证据英伟达官微消息，英伟达将在GTC大会上正式推出生成式AI专业认证，能够使开发者、职场人士和其他相关人员证明和展示自己在生成式AI方面的技能和专业实力。目前新推出的专业认证计划包含两项入门级（associate-level）生成式AI认证，这两项认证专注于考察对大语言模型和多模态工作流技能的掌握程度。GTC2024大会将于3月18日至21日在美国加州圣何塞举行。这是5年来GTC大会首次重返线下。

【英伟达宣布生成式AI引擎DGX GH200已投入量产，可支持万亿参数AI大模型训练】

【英伟达宣布生成式AI引擎DGXGH200已投入量产，可支持万亿参数AI大模型训练】2023年05月29日09点36分5月29日消息，美东时间5月28日，英伟达创始人兼CEO黄仁勋在NVIDIAComputex2023演讲中宣布，生成式AI引擎NVIDIADGXGH200现已投入量产。英伟达官网显示，NVIDIADGXGH200是将256个NVIDIAGraceHopper超级芯片完全连接到单个GPU中的新型AI超级计算机，支持万亿参数AI大模型训练。能够处理大规模推荐系统、生成式人工智能和图形分析，并为巨型人工智能模型提供线性可扩展性。

亚马逊发力生成式AI市场 推出大语言模型Titan 发布Bedrock云服务

亚马逊发力生成式AI市场推出大语言模型Titan发布Bedrock云服务通过Bedrock生成式人工智能服务，亚马逊旗下云服务AWS将向开发者提供自家的语言模型“Titan”，以及来自初创公司AI21和谷歌支持的Anthropic的语言模型。这其中，一个Titan模型可以为博客帖子、电子邮件或其他文档生成文本，而另一个可以帮助搜索和实现个性化。亚马逊此举正值人工智能初创公司OpenAI推出GPT-4。一个月前，OpenAI发布了为聊天机器人ChatGPT提供动力的最新版大型语言模型GPT-4。而作为亚马逊云业务的最大竞争对手，微软对OpenAI投资了数十亿美元，并通过其Azure云服务为OpenAI提供计算能力。众所周知，整合了ChatGPT技术的微软必应搜索引擎在测试过程中出现了一系列问题，如信息不准确等。而亚马逊云业务副总裁布拉丁·萨哈（BratinSaha）今日称，亚马逊特别关心准确性问题，将确保Titan模型给出高质量的回应。亚马逊还表示，客户将可以使用自己的数据定制Titan模型，但这些数据永远不会被亚马逊用来训练Titan模型，旨在确保包括竞争对手在内的其他客户不会从这些数据中受益。亚马逊并未透露BedRock服务的费用，因为目前尚处于“有限的”试用阶段。亚马逊一发言人称，客户现可以将自己添加到等待名单中。相比之下，微软和OpenAI已经宣布了使用GPT-4的价格，起价为每1000个Token（一个Token相当于四个英文字符）为几美分。同样，谷歌也尚未公布其PalmLanguage模式的定价。亚马逊在人工智能方面已经研究了20多年，旗下AWS云服务已经积累了超过10万名人工智能客户。亚马逊也一直在使用经过微调的Titan版本，通过其主页提供搜索服务。今日稍早些时候，亚马逊CEO安迪·贾西（AndyJassy）在其2022年度股东信中称，亚马逊正大力投资大型语言模型（LLM）和生成式人工智能。...PC版：https://www.cnbeta.com.tw/articles/soft/1354637.htm手机版：https://m.cnbeta.com.tw/view/1354637.htm

英伟达与VMWare扩大合作 将为企业带来定制生成式AI服务

英伟达与VMWare扩大合作将为企业带来定制生成式AI服务两家公司计划在2024年初推出这项服务。英伟达表示，为支持这项服务，戴尔、惠普和联想生产的支持人工智能的服务器预计将在今年年底推出，这些服务器使用英伟达的企业软件、L40S图形处理单元和BlueField-3数据处理单元。英伟达创始人兼首席执行官黄仁勋表示：“各地的企业都在竞相将生成式人工智能整合到自己的业务中。我们与VMware的扩大合作将为数十万客户提供金融、医疗保健、制造业等领域的集成软件和计算服务，他们需要使用基于自己数据来构建应用程序，从而释放生成式人工智能的潜力。”为了更快地实现商业效益，各大企业都在寻求简化生成式人工智能应用程序的开发、测试和部署。麦肯锡估计，生成式人工智能每年可为全球经济带来高达4.4万亿美元的收入。VMWare即将被博通以690亿美元收购，该公司生产的软件供企业运行其私有数据中心。二十多年来，VMware的工具一直被企业用来分配CPU的计算能力，而CPU是传统服务器的大脑。当涉及到生成人工智能时，当前的企业面临着一个艰难的选择。他们可以利用公共人工智能模型来构建他们的生成式人工智能应用程序，但随之而来的是数据暴露等风险。而借助VMware的平台，客户可以利用他们的数据，能够在多云环境中快速、安全地构建和运行人工智能模型。VMware首席执行官RaghuRaghuram表示，VMware的新技术可以帮助软件开发人员更快地编写代码，也可以更快地编写法律合同。但当数据敏感时，一些客户希望在自己的数据中心完成这项工作。Raghuram指出：“想象一个常见的用例：我希望它读取我所有的法律合同，这样我就可以更快地生成新合同。显然，这将是非常、非常需要保密的信息，你不希望数据泄露到任何地方。”除了数据隐私功能之外，新的软件平台还拥有高性能、低成本、数据中心扩展以及多选择等优势。VMware表示，新工具将于明年推出。但该公司拒绝透露将如何定价，只是说成本将取决于客户使用该软件管理多少英伟达的芯片。...PC版：https://www.cnbeta.com.tw/articles/soft/1378797.htm手机版：https://m.cnbeta.com.tw/view/1378797.htm

英伟达发布新的机器人制造平台，添加生成式 AI 功能

英伟达发布新的机器人制造平台，添加生成式AI功能英伟达周一宣布了一个用于制造类人机器人的硬件和软件平台，该平台包括生成式AI功能。这个新平台将包括一个为机器人和AI提供动力的计算机系统，以及一套包括生成式AI和其他工具在内的软件，以制造类人机器人。生成式AI的加入将使人形机器人根据语言、视频、“人类示范”和过去的经验相结合的输入采取行动。这个被称为“GR00T项目”的生成式AI组件将添加到英伟达现有的机器人硬件和软件平台上。英伟达表示，这套软件工具被称为“艾萨克”（Isaac）平台，新的GR00T生成式AI功能被设计用于“任何环境下的任何机器人化身”。（环球市场播报）