文件显示苹果训练AI用了Google TPU芯片

文件显示苹果训练AI用了GoogleTPU芯片为构建苹果的人工智能基础模型,工程师们运用了公司自研的框架软件及多种硬件,包括苹果自有的GPU(图形处理单元)和仅在谷歌云上可用的TPU(张量处理单元)。谷歌已经研发TPU芯片约10年,并已公开其第五代芯片的两种型号。这些芯片可用于人工智能的训练,谷歌宣称其性能可媲美英伟达H100人工智能芯片。在其年度开发者大会上,谷歌宣布将于今年推出第六代TPU芯片。这些芯片专为运行人工智能应用和训练模型而设计,谷歌已围绕这些芯片构建了云计算硬件和软件平台。苹果和谷歌尚未对此事作出回应。苹果未具体透露,与英伟达或其他AI硬件供应商相比,其对谷歌芯片和软件的依赖程度。通常,使用谷歌的芯片需要客户通过其云部门购买访问权限,这类似于客户从亚马逊AWS或微软Azure购买计算时间的方式。...PC版:https://www.cnbeta.com.tw/articles/soft/1434426.htm手机版:https://m.cnbeta.com.tw/view/1434426.htm

相关推荐

封面图片

谷歌首次公布AI超级计算机技术细节 希望摆脱英伟达芯片依赖

谷歌首次公布AI超级计算机技术细节希望摆脱英伟达芯片依赖谷歌研究人员当地时间4月4日在线发表一篇论文,首次公布了用于训练人工智能模型的超级计算机的技术细节,并宣称该系统比英伟达的超算系统更快且功耗更低。谷歌新发表的这篇题为《TPUv4:用于机器学习的光学可重构超级计算机,硬件支持嵌入》的文章介绍了谷歌自己设计的定制TPU芯片。谷歌目前90%以上的人工智能训练工作都使用这些芯片。PC版:https://www.cnbeta.com.tw/articles/soft/1353147.htm手机版:https://m.cnbeta.com.tw/view/1353147.htm

封面图片

谷歌推出第五代AI芯片:训练和运行AI模型的速度提高5倍

谷歌推出第五代AI芯片:训练和运行AI模型的速度提高5倍TPU是Google为神经网络设计的专用芯片,TPU经过优化可加快机器学习模型的训练和推断速度,2016年推出第一代TPU,2021年发布第四代定制处理器TPU,2022年面向开发者提供。云TPU(CloudTPU)是一项Google云服务,适合训练需要进行大量矩阵计算的大型复杂深度学习模型,例如大语言模型、蛋白质折叠建模和药物研发等,帮助企业在实现AI工作负载时节省资金和时间。此次推出的TPUv5e专为中大型模型训练和推理所需的成本效益和性能而构建。Google云表示,该版本芯片的开发重点是效率,与上一代TPUv4相比,TPUv5e每一美元的训练性能提高2倍,每一美元的推理性能提高2.5倍,而成本不到TPUv4的一半,使得更多组织能够训练和部署更大更复杂的AI模型。客户不需要通过牺牲性能或灵活性来获得这些成本效益。Google云将TPUv5e描述为“超级计算机”,最多允许256个芯片互连,总带宽超过400Tb/s,支持八种不同的虚拟机配置,客户可选择合适的配置服务于各种大语言模型和生成式AI模型。根据速度基准测试,在TPUv5e上训练和运行AI模型时速度提高了5倍。据科技媒体TechCrunch报道,Google云计算和机器学习基础设施副总裁兼总经理马克·洛迈尔(MarkLohmeyer)表示,“这是迄今为止最具成本效益且易于访问的云TPU。”洛迈尔强调,Google云确保用户能够将其TPU集群扩展到以前无法达到的水平,让客户能够轻松扩展他们的人工智能模型,超越单个TPU集群的物理边界。也就是说,单个大型人工智能工作负载可以跨越多个物理TPU集群,扩展到数万个芯片,并且经济高效。“在云GPU和云TPU方面,我们为客户提供了很多选择和灵活性,以满足我们看到的人工智能工作负载的广泛需求。”除了新一代TPU,Google云还宣布将在下个月推出基于英伟达H100GPU的A3系列虚拟机,作为GPU超级计算机进行交付,为人工智能大模型提供动力。...PC版:https://www.cnbeta.com.tw/articles/soft/1380537.htm手机版:https://m.cnbeta.com.tw/view/1380537.htm

封面图片

苹果自研AI芯片:项目名ACDC

苹果自研AI芯片:项目名ACDC一些知情人士表示,苹果一直在与其芯片制造合作伙伴台积电密切合作,设计并开始生产此类芯片,但仍不确定他们是否已经取得了明确的结果。一些知情人士表示,对于苹果的服务器芯片,该组件可能会专注于运行人工智能模型(即所谓的推理),而不是训练人工智能模型,芯片制造商英伟达可能会继续占据主导地位。苹果服务器芯片的出现恰逢其时,因为在OpenAI的ChatGPT服务爆炸性出现后,微软和Meta等竞争对手已斥资数十亿美元,并迅速围绕所谓的生成式人工智能重新调整其业务。苹果投资者对该公司在人工智能领域缺乏进展感到越来越不耐烦。科技竞争对手的股价随着人工智能的引人注目的公告而上涨。得益于与OpenAI的早期密切合作,微软获得了最大的提升。今年早些时候,微软取代苹果成为全球市值最高的公司,而且其领先地位还在不断扩大。苹果首席执行官TimCook试图向投资者保证,公司正在投资这项技术,并且很快就会发布重大的人工智能公告。库克在公司电话会议上表示:“我们相信人工智能的变革力量和前景,我们相信我们拥有的优势将使我们在这个新时代脱颖而出,包括苹果将硬件、软件和服务无缝集成的独特组合。”最近的季度收益。生成式人工智能系统,例如为ChatGPT提供支持的大型语言模型,通常使用数据中心托管的计算机服务器来处理大量数据。对于这种计算能力,大多数大型科技公司都严重依赖装有英伟达芯片的服务器,英伟达发现自己正处于人工智能淘金热之中。大多数最大的科技公司都开发了自己的人工智能服务器芯片,或者正在探索摆脱英伟达束缚的可能性,英伟达在此类芯片上的市场份额估计超过80%。Google可能拥有最成熟的内部人工智能服务器芯片产品及其张量处理单元,该项目于2013年启动。据《华尔街日报》此前报道,OpenAI也在讨论资助一个雄心勃勃的内部芯片项目。苹果现有的芯片实力可能是该公司在人工智能领域比其他科技巨头找到关键优势的途径之一。当该公司于2010年首次开始将自己的处理芯片集成到iPhone和iPad中时,该公司在设计定制芯片方面拥有最悠久的历史和最成功的经验。2017年,苹果开始将专注于人工智能的处理器整合到其移动芯片中。2020年,它开始用自己的定制芯片替换Mac中的英特尔芯片。这些芯片方面的努力为苹果公司的产品提供了区别于竞争对手的优势。一位消息人士称,目前计划用于其消费产品的苹果M系列芯片的高级版本可能能够执行某些人工智能功能,例如服务器中的推理。尽管苹果公司已经成功为其设备开发处理芯片,并且现在正寻求在服务器领域实现这一目标,但该公司一直在努力开发蜂窝无线芯片以取代移动芯片领导者高通公司。据《华尔街日报》去年报道,苹果内部蜂窝调制解调器的推出仍然未能按时完成并被推迟。苹果更喜欢人工智能的大部分使用发生在iPhone或AppleWatch上,但它仍然需要在通过互联网访问的远程服务器上运行一些进程,此时苹果服务器芯片将接管。通过自己处理更多的任务,甚至使用数据中心的芯片,苹果可以更好地控制其人工智能的命运。苹果股价周一尾盘上涨1.2%。今年截至收盘,该公司股价已下跌5.6%。这家总部位于加利福尼亚州库比蒂诺的公司的代表没有立即回应置评请求。苹果一直在生成人工智能领域追赶科技同行,生成人工智能是聊天机器人和其他流行新工具的基础技术。但该公司正准备在下个月的全球开发者大会上公布一项新的人工智能战略。据彭博社报道,其方法预计将重点关注可以帮助用户日常生活的新主动功能。苹果还与AlphabetInc.旗下的Google和OpenAI等潜在合作伙伴进行了谈判,以提供生成式人工智能服务。如果苹果继续推出自己的服务器处理器,它将效仿几家最大的科技公司的做法。亚马逊公司的AWS、Google、微软公司和MetaPlatforms公司都运营着在某种程度上运行在内部设计的半导体上的数据中心。这些努力削弱了英特尔公司零部件的传统主导地位。Apple将M2Ultra用于AI服务器该报告发布之前,海通国际证券分析师JeffPu本周表示,苹果正在使用M2Ultra和M4芯片来为专门用于iOS18基于人工智能的新功能的服务器提供支持。Pu在一份给投资者的新报告中提供了基于供应链检查的分析。据称,富士康目前正在组装包含M2Ultra的苹果AI服务器,并计划在2025年末组装由M4芯片驱动的AI服务器。上个月,微博上的一位知名消息人士称,苹果正在为自己的AI开发处理器采用台积电3nm工艺制造的服务器,目标是在2025年下半年实现量产,这可能与这份有关M4驱动的AI服务器的报告相符。苹果决定建立自己的人工智能服务器,反映了该公司持续垂直整合供应链的战略。苹果可能会使用自己的芯片来增强其数据中心和未来依赖云的人工智能工具的性能。尽管有传言称苹果将优先考虑其即将推出的许多人工智能工具的设备上处理,但不可避免的是,某些操作必须在云端进行。当基于M4的服务器可以在数据中心运行时,苹果的新人工智能战略应该会顺利进行。与更广泛的行业预期一致,Pu还预计苹果将在6月份的WWDC上宣布设备端AI功能,例如录音摘要、照片和视频编辑以及实时翻译。虽然iPhone16系列将宣传一系列人工智能功能,但2025年的iPhone17机型显然将是更专注于人工智能的设备。该公司预计将在iOS18和6月WWDC2024上宣布的其他软件更新中引入许多基于生成式AI的功能。苹果还一直在开发自己的可以离线运行的语言模型。然而,这些模型更加有限,因此拥有在线替代方案将是提供更准确结果的理想选择。有趣的是,之前的报道显示,苹果一直在与OpenAI和Google讨论在iOS18中使用他们的人工智能技术。目前尚不清楚苹果是否仍计划与第三方达成交易,或者只是使用自己的服务器。...PC版:https://www.cnbeta.com.tw/articles/soft/1429939.htm手机版:https://m.cnbeta.com.tw/view/1429939.htm

封面图片

谷歌宣布新的人工智能处理芯片和云 “超级计算机”

谷歌宣布新的人工智能处理芯片和云“超级计算机”据科技新闻网站Engadget报道,谷歌已经宣布创建其最强大的TPU(正式名称为张量处理单元),CloudTPUv5p,以及来自谷歌云的人工智能超级计算机。CloudTPUv5p是一个人工智能加速器,训练和服务模型。CloudTPUv5p是在之前的版本(如v5e和v4)基础上进行的改进。根据谷歌的说法,与TPUv4相比,TPUv5p的浮点运算性能(FLOPs)提升了两倍,每个机架的FLOPs性能扩展性提高了四倍。此外,它训练LLM模型的速度比TPUv4快2.8倍,嵌入密集模型的速度比TPUv4快1.9倍。而新的人工智能超级计算机,包括一个集成系统,具有开放软件、性能优化硬件、机器学习框架和灵活的消费模型。其想法是,与单独看待每个部分相比,这种合并将提高生产力和效率。

封面图片

苹果正在为AI服务器开发自己的定制Apple Silicon芯片

苹果正在为AI服务器开发自己的定制AppleSilicon芯片台积电是苹果公司的重要合作伙伴,为其制造所有定制AppleSilicon芯片。这家芯片制造商的3nm技术是目前最先进的半导体工艺之一,与之前的5nm和7nm节点相比,在性能和能效方面都有显著提高。苹果公司声称要开发一款专业的人工智能服务器处理器,这反映了该公司正在实施的垂直整合供应链的战略。通过设计自己的服务器芯片,苹果可以根据自己的软件需求量身定制硬件,从而可能带来更强大、更高效的技术。苹果可能会使用自己的人工智能处理器来提高其数据中心和未来人工智能工具的性能,而这些人工智能工具都依赖于云。虽然有传言称苹果公司将优先考虑在设备上处理许多即将推出的人工智能工具,但不可避免的是,有些操作必须在云端进行。到2025年末,定制处理器可以集成到运行服务器中时,苹果的新人工智能战略应该已经开始实施了。该微博用户之前有许多准确的说法,包括iPhone7将具有防水功能,iPhone14标准机型将继续使用A15仿生芯片,而更先进的A16芯片将为iPhone14Pro机型所独有。这些预测后来得到了多个可靠消息来源的证实,并在产品发布时被证明是正确的。...PC版:https://www.cnbeta.com.tw/articles/soft/1428383.htm手机版:https://m.cnbeta.com.tw/view/1428383.htm

封面图片

谷歌拟2027年放弃博通 自主研发AI芯片

谷歌拟2027年放弃博通自主研发AI芯片对此,谷歌高管已经进行了广泛地讨论。这意味着,谷歌将自主设计其TPU芯片。据预计,此举可帮助谷歌每年节省数十亿美元的成本。当前,谷歌正大举投资于人工智能的研发。与其他类型的研发相比,人工智能的研发尤其昂贵。博通公司CEO陈福阳(HockTan)近期曾表示,明年生成式人工智能将占到该公司半导体营收的25%以上。在截至4月底的2023财年第二财季,人工智能营收约占博通半导体业务营收的15%,而到2022财年的这一比例仅为10%。去年,微软支持的人工智能初创公司OpenAI发布生成式聊天机器人ChatGPT后,在科技行业引发了一场AI技术军备竞赛。今年,谷歌也加大了对生成式人工智能的投资,以迎头赶上。研究公司Similarweb数据显示,今年8月份,谷歌人工智能聊天机器人Bard的访问量为1.83亿次,仅为ChatGPT访问量的13%。与此同时,知情人士还称,谷歌还计划与芯片制造商MarvellTechnology合作,于明年推出一款新的网络芯片,开发代号为“GraniteRedux”。对此,谷歌、博通和Marvell尚未发表评论。...PC版:https://www.cnbeta.com.tw/articles/soft/1385483.htm手机版:https://m.cnbeta.com.tw/view/1385483.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人