OpenAI首席科学家Ilya离开OpenAI了吗？

OpenAI首席科学家Ilya离开OpenAI了吗？OpenAI联合创始人兼总裁格雷格·布罗克曼（GregBrockman）、CTO米拉·穆拉蒂（MiraMurati）等人，也在积极为Sora宣传。但伊尔亚的最后一条推文，停留在了2023年12月15日。OpenAI在其官网上的Sora的文章后面留下了团队成员的名字。在一串致谢名单中，我们看到了萨姆·奥尔特曼、格雷格·布罗克曼、米拉·穆拉蒂等人的名字，但唯独没有出现伊尔亚·苏茨克维。这不禁让人怀疑，伊尔亚究竟是在埋头研究GPT-5，还是已经离开了OpenAI？值得一提的是，OpenAI创始成员之一、AI技术研究员安德烈·卡帕蒂（AndrejKarpathy）在Sora发布前夕离职。有网友大胆猜想：“如果Andrej和Ilya创办一家真正开放的人工智能公司怎么办？”1.“我们终于知道伊尔亚看到什么了”今天，OpenAI最新发布的Sora模型再次让人们感受到了人工智能的强大，强大到令人害怕。Sora不仅仅是一个视频生成模型，它涌现出了对物理世界的理解能力（尽管还存在局限），OpenAI直接将其定义为“世界模拟器”（worldsimulators）——它打开了一条通往模拟物理世界的有效路径。不少人感慨，“现实不存在了”，“物理学不存在了”。人们似乎在这一刻终于理解了伊尔亚为什么一直执着于人工智能的安全性研究。强大的AI模型对世界带来的风险并非遥不可及。有网友表示：“现在，我们知道伊尔亚看到什么了。”埃隆·马斯克则在贴子里留下了一个笑哭的表情。去年，随着GPT-4以及后续一系列更强大的大语言模型的更新，以伊尔亚为代表的OpenAI成员越来越多地考虑AI的可控性问题。为此，OpenAI在2023年7月5日宣布成立一个新的团队“超级对齐”（Superalignment），来研究引导和控制比人类聪明得多的AI系统。这一项目由伊尔亚与同事简·莱克（JanLeike）共同领导，并将OpenAI20%的算力专门用于该项目的研究。一般认为，去年11月闹得沸沸扬扬的OpenAI“宫斗事件”的导火索，就是伊尔亚对于AI的发展理念与萨姆产生了分歧，伊尔亚越来越担忧OpenAI的技术可能造成极度危险的局面，他觉得萨姆对待AI应该更加谨慎。显然，萨姆并没有停下来。在硅谷，对于AI的不同态度把人群分成了保守派与激进派。保守派也被称为EA（EffectiveAltruism，有效利他主义），代表人物是“人工智能教父”杰弗里·辛顿（GeoffreyHinton），伊尔亚就是他的学生。激进派被称为“e/acc（有效加速主义）”，很多知名的科技大佬、AI从业者都是e/acc主义的信徒。萨姆并未公开表达过自己的立场，但考虑到他带领下的OpenAI一系列激进的产品发布节奏，事实上他已经成为e/acc的代言人。伊尔亚联合董事会成员罢免了萨姆。但在大股东微软的斡旋与OpenAI全体员工请辞的压力下，伊尔亚最终妥协让步，萨姆在几天后重新回到了OpenAI并掌权，并重组了董事会。宫斗事件结束后，伊尔亚并没有立即离开OpenAI，萨姆希望继续他们之间的工作关系，并正在讨论他如何继续在OpenAI的工作。萨姆表达了对伊尔亚的谢意：“我尊重并热爱着伊尔亚，我认为他是这个领域的指路明灯，也是人类的瑰宝。我对他的恶意为零。”但去年外媒一篇报道曾指出，伊尔亚似乎处于一种“迷茫”的状态，在OpenAI变得“隐形”。自萨姆回归以来，伊尔亚就没有出现在OpenAI旧金山的办公室内。马斯克也向伊尔亚抛出了橄榄枝，他表示伊尔亚应该加入特斯拉或他的AI公司xAI。伊尔亚对于人工智能安全的工作还在继续。12月14日，OpenAI发布了超级对齐项目的最新研究论文：使用GPT-2级别的小模型来监督GPT-4级别的大模型，并获得接近GPT-3.5级别的性能。同时，OpenAI宣布与EricSchmidt合作，启动了一项1000万美元的资助计划支持技术研究，以确保超人类人工智能系统的一致性和安全性。作为该论文核心作者之一的伊尔亚，也在X上转发了相关内容。但这是宫斗事件至今，伊尔亚在X上转发的关于OpenAI进展的唯一内容。我们暂时无法得知伊尔亚是否已经离开了OpenAI，但他对于Sora的沉默态度似乎并不寻常。伊尔亚在签名上写着：“朝着拥抱人性多样化的通用人工智能发展。”2.人才是OpenAI的核心竞争力虽然伊尔亚并不在Sora的研究团队中，但Sora仍然表现出了压倒性的性能优势，可见人才密度是OpenAI领先的重要因素。Sora团队整体非常年轻。核心成员有三位，分别是研究负责人BillPeebles（比尔·皮布尔斯）与TimBrooks（蒂姆·布鲁克斯）与系统主管ConnorHolmes。ConnerHolmes曾是微软研究员，在微软工作时以外援形式参与了DALL·E3的推理优化工作，后来跳槽加入OpenAI。BillPeebles本科就读于MIT，主修计算机科学，参加了GAN和text2video的研究，还在英伟达深度学习与自动驾驶团队实习，研究计算机视觉。毕业后正式开始读博之前，他还参加了Adobe的暑期实习，研究的依然是GAN。2022年5月，Bill到Meta进行了为期半年的实习，和谢赛宁（Bill开始实习时还未离开Meta）合作发表了DiT模型，首次将Transformer与扩散模型（DiffusionModel）结合到了一起。从加州大学伯克利分校博士毕业之后，Bill加入了OpenAI。Sora的模型架构，就是参考了Bill与谢赛宁合作发表的DiT论文。值得一提的是，该论文主要聚焦在了DiT架构在图像生成领域的性能表现。有人推测，随着Bill加入OpenAI，他很可能把自己在视频领域的研究成果，也带到了OpenAI的Sora项目中。Sora的另一个核心作者是TimBrooks，曾在Google负责Pixel手机摄像头的机器学习工作，以及在英伟达负责视频生成模型研究。2023年从加州大学伯克利分校博士毕业后，Tim加入OpenAI，参与了DALL·E3相关研究。在其他几位作者中，也包括两位华人LiJing与YufeiGuo。今天，上海交大校友、目前在纽约大学担任助教的谢赛宁在朋友圈辟谣了自己是Sora作者之一的消息。他表示，Sora是Bill他们在OpenAI的呕心沥血之作，虽然不知道细节，但他们每天基本不睡觉高强度工作了一年。同时，谢赛宁也对Sora发表了他的观点：第一，对于Sora这样的复杂系统，人才第一，数据第二，算力第三，其他都没有什么是不可替代的；第二，在问Sora为什么没出现在中国的同时，可能也得问问假设真的出现了（可能很快），我们有没有准备好？如何能保证知识和创意的通畅准确传播让每个人拥有讲述和传播自己故事的“超能力”，做到某种意义上的信息平权。但是又不被恶意利用，变成某些人某些组织的谋利和操纵工具。oai有一整套的redteaming,safetyguardrail的研究部署，欧美有逐渐成熟的监管体系，我们准备好了吗？这件事跟技术成熟前，生成点小打小闹的漂亮图片不是一个量级，真相捕捉和黑镜里讲的故事，很有可能很快变成现实。（封面图来自X，左边为安德烈·卡帕蒂，右边为伊尔亚·苏茨克维）...PC版：https://www.cnbeta.com.tw/articles/soft/1419189.htm手机版：https://m.cnbeta.com.tw/view/1419189.htm

OpenAI 首席科学家 Ilya 决定离开公司

OpenAI首席科学家Ilya决定离开公司联合创始人兼首席科学家说到：近十年后，我决定离开OpenAI。公司的发展轨迹堪称奇迹，我相信OpenAI将在SamAltman、GregBrockman、MiraMurati以及JakubPachocki出色的研究领导下，打造既安全又有益的AGI。能够与大家共事是我的荣幸，我会非常想念大家。再见，感谢你们所做的一切。我很期待接下来的计划—个项目对我个人来说意义重大，我会在适当的时候分享细节。关注频道@ZaiHuaPd频道投稿@ZaiHuabot

OpenAI首席科学家Ilya离职 GPT-4背后天才科学家接任

OpenAI首席科学家Ilya离职GPT-4背后天才科学家接任Ilyapo出一张和OpenAI众元老的合影，做着最后的告别。Ilya离职后，将由JakubPachoki接任OpenAI首席科学家。Pachoki发文，‘Ilya曾向我介绍了深度学习研究的世界，多年来一直是我的导师和伟大的合作者。正是他对深度学习不可思议的愿景，造就了OpenAI和AI领域今天的成就。我深深地感谢他’。网友感慨道，‘一个时代终结了’。别了Ilya，别了OpenAISamAltman转发了Ilya的告别推文，配文说：‘感受今天的AGI。’SamAltman对于Ilya的离开表示非常遗憾，‘他走后的OpenAI不再和从前一样’。但同时转身就官宣了新任的首席科学家JakubPachoki。Ilya即将离开OpenAI，这让我感到非常难过。Ilya无疑是我们这一代最杰出的思想家之一，是我们领域的引路人，也是我亲爱的朋友。他的才华和远见众所周知，他的温情和同理心虽然鲜为人知，但同样不可或缺。没有他，OpenAI不会有今天的成就。尽管他将去从事一些对他个人而言意义重大的工作，但我将永远感激他在这里的贡献，并致力于完成我们共同启动的使命。我很高兴能够长时间与这样一位真正卓越的天才以及如此专注于实现人类最美好未来的人一起合作。Jakub将接任我们的首席科学家。Jakub也无疑是我们这一代顶尖的思想家之一，我对他即将承担这一角色感到非常激动。他曾领导我们许多最关键的项目，我非常确信他能带领我们快速且安全地推进我们的使命，确保AGI惠及每个人。联合创始人GregBrockman更是写了一篇超长的文章，以表对Ilya感谢和怀念。我非常感激Ilya，他不仅是我的联合创始人和朋友，还是我婚礼的证婚人。我们共同规划了OpenAI的未来发展。从2015年末开始，OpenAI作为一个非营利组织，致力于让AGI的发展顺利进行，尽管当时还没有明确方案。在最初的日子里，Ilya和我投入了大量时间，全面深入地考虑了公司的文化、技术方向和战略。我们认识到，为了构建空前的超级计算机，我们需要筹集的资金远超初期预期。在这个非营利组织中，我们共同筹资，虽然超过了他人预期，但仍远未达到需求。后来我们提议，建立一个服务于最初使命的营利性机构。建立之后，我们继续协调和塑造公司的方向，专注于AGI使命，同时解决了许多实际问题，保证每天都有进展。Ilya是一位艺术家。他的远见和热情极具感染力，他帮助我在刚入行时理解这个领域。他勇于深入探索自己直觉的逻辑结论。我们受到1962年出版的《未来简史》的启发（这本书描述了科学家们曾错误地宣称灯泡、飞行和进入轨道是不可能的，而这些成就不久后就实现了）。因此，尽管有人怀疑AGI在可见的未来不可能出现，我们依然根据我们对深度学习的信念，坚持着思考和行动。这个使命还远未完成，OpenAI能成为今天的OpenAI，Ilya发挥了关键作用。感谢他为此付出的一切。去年11月OpenAI的董事会风波中，由于Ilya对公司模型的安全性有所担忧，曾经联合董事会成员发起过反对SamAltman的行动。Ilya博士毕业于多伦多大学，师从于著名的‘人工智能教父’GeoffrayHinton。博士毕业后，他曾在斯坦福大学吴恩达团队和GoogleBrain进行研究工作。2016年，他以联合创始人兼研究总监的身份加盟OpenAI，并在两年后升任为首席科学家。新任首席科学家，GPT-4背后天才接任Ilya的科学家JakubPachocki，自2017年以来一直领导着OpenAI变革性研究计划。Pachocki曾先后担任Dota组、推理组以及深度学习科学团队的研究负责人，并于去年8月起担任OpenAI研究总监一职，领导了GPT-4和OpenAIFive的开发，以及大规模RL和深度学习优化方面的基础研究。他是GPT-4背后主要领导人，更是一位天才科学家。奥特曼曾对Pachocki这样评价道，‘在GPT-4预训练工作，JakubPachocki所展现出的卓越领导力和技术远见是非常了不起的。如果没有他的贡献，我们是无法取得今天的成就’。在此前的MIT采访中，Pachocki将开发如GPT-4这样的语言模型比作‘构建宇宙飞船’——必须确保每一个部件都完美无缺。他还提到，自2018年第一个版本发布以来，GPT模型的基本构建方法并没有太大变化。尽管Pachocki在GPT-4的开发中扮演了关键角色，并且取得了显著成就，但他一直保持低调，很少在媒体前露面。然而，他的成就本身已经足够引人注目。Pachocki对AI的热情始于AlphaGo的发布，当时他意识到深度学习的潜力远超过当时计算机的能力。他在OpenAI开发Dota2游戏机器人的过程中发挥了关键作用，该机器人通过不断自我对战，最终达到了职业水平。2012年，他曾赢得了CodeJam冠军，并获得了10，000美元的奖金。此外，他还在其他编程竞赛中名列前茅，包括2012年ACMICPC世界总决赛（金牌）、2012年TopCoder公开赛和2013年Facebook黑客杯。Pachocki在编程领域所取得的成功，凸显了认知能力在此领域的重要性。他曾在采访中提到，像谷歌CodeJam这类编程竞赛更类似于数学作业或解逻辑题，要想获胜需要极高的认知能力。从这个角度看，谷歌14%没有本科学位的员工，可能与其余86%的员工并无太大差异。加入OpenAI之前，Pachocki曾获得卡内基梅隆大学理论计算机科学博士学位，并在Facebook进行软件工程岗位的实习。网友在线祝福当Sam不再用小写时，你就知道，他这次是认真的。而在留言区，网友们问出的，依旧是那个永恒的问题：‘Ilya，你在OpenAI究竟看到了什么’？还有许多人为Ilya送去祝福。很多人都觉得，Ilya离开后，OpenAI不会再是那个OpenAI了。也有网友对Ilya下一步的去向表示期待。甚至，有人早在去年就做出‘神预言’：Ilya今年会离开。Ilya，再见了。离开OpenAI，奔赴下一站吧。...PC版：https://www.cnbeta.com.tw/articles/soft/1430930.htm手机版：https://m.cnbeta.com.tw/view/1430930.htm

Meta首席科学家：不认为AI超级智能会很快到来 对量子计算持怀疑态度

Meta首席科学家：不认为AI超级智能会很快到来对量子计算持怀疑态度他的观点与英伟达截然相反英伟达首席执行官黄仁勋最近表示，人工智能将在不到五年的时间内与人类“相当有竞争力”，在许多脑力密集型任务上胜过人类。“我认识黄，”勒昆最近在Facebook母公司Meta基础人工智能研究团队成立10周年纪念活动上表示。勒昆说英伟达CEO可以从人工智能热潮中收获良多。“这是一场人工智能‘战争’，他在提供‘武器’。”″（如果）你认为人工智能很流行，你就得买更多的GPU，”勒昆在谈到试图开发人工通用智能的技术人员时说，这种人工智能与人类的智能水平相当。只要OpenAI等公司的研究人员继续追求AGI，他们就需要更多英伟达的计算机芯片。勒昆表示，社会更有可能在人类水平的人工智能出现前几年出现“猫级”或“狗级”的人工智能。科技行业目前对语言模型和文本数据的关注，不足以创造出研究人员几十年来一直梦想的那种先进的类人人工智能系统。“文本是一个非常糟糕的信息来源，”勒昆解释说，人类可能需要2万年才能阅读用于训练现代语言模型的文本量。“用相当于两万年的阅读材料来训练一个系统，它们仍然不明白，如果A和B相同，那么B就和A相同。”“世界上有很多非常基本的东西，他们只是没有通过这种训练，”勒昆说。因此，勒昆和MetaAI的其他高管一直在大力研究如何定制用于创建ChatGPT等应用程序的所谓转换器模型，以处理各种数据，包括音频、图像和视频信息。他们认为，这些人工智能系统越能发现这些不同类型的数据之间可能存在的数十亿个隐藏的相关性，它们就越有可能实现更神奇的壮举。Meta的一些研究包括一种软件，可以帮助人们在戴着该公司的ProjectAria增强现实眼镜时更好地打网球，这种眼镜将数字图形融入现实世界。高管们展示了一个演示，一个戴着AR眼镜打网球的人能够看到视觉提示，教他们如何正确地握住网球拍，并以完美的方式摆动手臂。为这类数字网球助手提供动力所需的人工智能模型，除了文本和音频之外，还需要混合三维视觉数据，以防数字助手需要说话。这些所谓的多模式人工智能系统代表了下一个前沿领域，但它们的发展并不便宜。随着Meta和谷歌母公司Alphabet等越来越多的公司研究更先进的人工智能模型，英伟达可能会获得更大的优势，尤其是在没有其他竞争对手出现的情况下。未来的人工智能硬件英伟达一直是生成式人工智能的最大捐助者，其昂贵的图形处理单元已成为用于训练大规模语言模型的标准工具。Meta依靠16000个NvidiaA100GPU来训练它的LlamaAI软件。有媒体问，随着Meta和其他研究人员继续开发这类复杂的人工智能模型，科技行业是否需要更多的硬件供应商。“它不需要它，但它会很好，”勒昆回答，并补充说GPU技术仍然是人工智能的黄金标准。不过，他说，未来的计算机芯片可能不会被称为GPU。勒昆也对量子计算持怀疑态度，微软、IBM和谷歌等科技巨头都投入了大量资源。Meta之外的许多研究人员认为，量子计算机器可以在数据密集型领域（如药物发现）取得巨大进步，因为它们能够使用所谓的量子比特执行多次计算，而不是现代计算中使用的传统二进制比特。但勒昆对此表示怀疑。“你用量子计算解决的问题数量，你也可以用经典计算机更有效地解决，”勒昆说。“量子计算是一个迷人的科学话题，”勒昆说。目前还不太清楚“实际意义和制造真正有用的量子计算机的可能性”。Meta高级研究员、前技术主管迈克·施罗普夫（MikeSchroepfer）对此表示赞同，他每隔几年就会对量子技术进行评估，并认为有用的量子机器“可能会在某个时候出现，但它的时间跨度太长，与我们正在做的事情无关”。“十年前我们成立人工智能实验室的原因是，很明显，这项技术将在未来几年的时间框架内实现商业化，”施罗普夫说。...PC版：https://www.cnbeta.com.tw/articles/soft/1401667.htm手机版：https://m.cnbeta.com.tw/view/1401667.htm

叫板黄仁勋？Meta首席AI科学家：超级人工智能不会很快到来

叫板黄仁勋？Meta首席AI科学家：超级人工智能不会很快到来他的观点与英伟达CEO黄仁勋上周的观点截然不同。黄仁勋上周曾表示，人工智能将在不到五年的时间里成长到“相当有竞争力”的水平，在许多脑力密集型任务上胜过人类。未来更有可能出现“猫级”人工智能杨立昆表示，在“人类级”水平的人工智能出现前，社会更有可能出现“猫级”或者“狗级”的人工智能。科技行业目前对语言模型和文本数据的关注，不足以创造出研究人员在过去几十年来一直梦想的那种先进的类人人工智能系统。杨立昆认为，限制当前人工智能发展速度的原因之一，在于训练数据的来源主要局限于文本。“文本是一个非常糟糕的信息来源，”杨立昆解释说，目前要训练出一个现代语言模型，所需要的的文本量巨大，需要人类用2万年才能阅读完。然而，“即便你用相当于两万年的阅读材料来训练一个系统，它们仍然不明白：如果A和B相同，那么B就和A相同……世界上有很多非常基本的东西，他们没法通过这种训练来了解。”因此，杨立昆和MetaAI的其他高管一直在大力研究如何定制用于创建ChatGPT等应用程序的所谓转换器模型，以处理各种数据（包括音频、图像和视频信息）。他们认为，只有这些人工智能系统能发现这些不同类型的数据之间可能存在的数十亿个隐藏的相关性，它们才更有可能达到更高的水平。Meta高管们展示了他们的研究成果之一：一个戴着AR眼镜打网球的人能够看到AI视觉提示，教他们如何正确地握住网球拍，并以完美的方式摆动手臂。为这类数字网球助手提供动力所需的AI模型，除了文本和音频之外，还需要混合三维视觉数据。英伟达仍将继续受益这些所谓的多模型人工智能系统代表了下一个前沿领域，但这一发展所需要投入的成本会更大。杨立昆预计，随着Meta和Google母公司Alphabet等越来越多的公司研究更先进的人工智能模型，英伟达可能会获得更大的优势，尤其是在没有其他竞争对手出现的情况下。一直以来，英伟达都是生成式人工智能的最大受益者之一，其价格昂贵的GPU已成为用于训练大规模语言模型的标准工具。“我认识Jensen（黄仁勋），”杨立昆表示，英伟达可以从当前的人工智能热潮中获益良多，“这是一场人工智能战争，他在提供武器。”″（如果）你认为人工智能很流行，你就得买更多的GPU，”杨立昆谈到，只要OpenAI等公司的研究人员继续追求AGI（通用人工智能），他们就需要更多英伟达的计算机芯片。那么，随着Meta和其他研究人员继续开发这类复杂的人工智能模型，科技行业是否需要更多的硬件供应商呢？杨立昆对此的回答是：“目前不需要，但如果有，将会更好。”他还补充说，GPU技术仍然是人工智能的黄金标准。不过，未来的计算机芯片可能不会被称为GPU。量子计算机的意义和可行性存疑除了人工智能，杨立昆也对量子计算机持怀疑态度。目前，微软、IBM和Google等科技巨头都在量子计算领域投入了大量资源。许多研究人员认为，量子计算机器可以在数据密集型领域（如药物发现）取得巨大进步，因为它们能够使用所谓的量子比特（而不是现代计算中使用的传统二进制比特）执行多次计算。但杨立昆对此表示怀疑：“你用量子计算所可以解决的问题，用经典计算机也可以更快解决。”“量子计算是一个迷人的科学话题，”杨立昆说，但目前还不太清楚“量子计算机的实际意义和制造真正有用的量子计算机的可能性”。Meta高级研究员、前技术主管迈克·施罗普夫（MikeSchroepfer）对此表示赞同。他每隔几年就会对量子技术进行评估，并认为有用的量子机器“可能会在某个时候出现，但它的时间跨度太长，与我们目前正在做的事情无关。”...PC版：https://www.cnbeta.com.tw/articles/soft/1401719.htm手机版：https://m.cnbeta.com.tw/view/1401719.htm

与前总裁妻子交流后 OpenAI首席科学家改变了主意

与前总裁妻子交流后OpenAI首席科学家改变了主意消息人士表示，在与OpenAI的员工和联合创始人格雷格·布罗克曼（GregBrockman）的妻子交流之后，他改变了主意。有报道称，格雷格·布罗克曼的妻子安娜·布罗克曼哭着恳求苏茨克维尔改变主意。目前还不清楚，是什么导致了苏茨克维尔态度的反转。格雷格·布罗克曼此前担任OpenAI总裁。周六，他为了声援奥特曼而辞职，并在X上表示，是苏茨克维尔告诉阿尔特曼他要被解雇的。然而，苏茨克维尔随后却在一封由OpenAI几乎全体员工签名的公开信中加入了自己的名字。这封公开信呼吁董事会辞职，公司重新找回奥特曼。根据格雷格·布罗克曼几年前发布在X上的内容，苏茨克维尔主持了格雷格和安娜·布罗克曼的结婚仪式，仪式当时在OpenAI办公室举行。OpenAI几名联合创始人之间的关系可以追溯到很久以前。苏茨克维尔曾是谷歌大脑的研究员。2015年，马斯克和奥特曼挖走了他，他们几人共同创立了OpenAI。上周日，恢复奥特曼在OpenAI职位的谈判破裂。微软首席执行官萨蒂亚·纳德拉（SatyaNadella）周一宣布，奥特曼和布罗克曼将加入微软，领导新的AI研究团队。...PC版：https://www.cnbeta.com.tw/articles/soft/1398741.htm手机版：https://m.cnbeta.com.tw/view/1398741.htm