OpenAI 的前首席科学家Ilya Sutskever正在创办一家新的人工智能公司

OpenAI的联合创始人和前首席科学家IlyaSutskever正在创办一家新的人工智能公司，专注于安全问题。Sutskever在周三的一篇文章中透露了SafeSuperintelligenceInc.（SSI），这是一家创业公司，只有“一个目标和一个产品”：创建一个安全且强大的人工智能系统。这份公告称SSI是一家“同时注重安全和能力”的初创公司，从而让公司能够快速推进其AI系统，同时仍然优先考虑安全性。公告还指出，像OpenAI、谷歌和微软这样的公司中的AI团队常常面临外部压力，而SSI公司的“单一专注”使其能够避免“管理负担或产品周期的干扰”。“我们的商业模式意味着安全、保障和进步都不受短期商业压力的影响，”公告中称。“这样，我们可以在平稳中扩展。”除了Sutskever，SSI的联合创始人还有前Apple人工智能负责人DanielGross和之前在OpenAI工作过的DanielLevy。去年，Sutskever带头推动将OpenAI的CEOSamAltman赶下台。，并暗示将启动一个新项目。Sutskever离职后不久，，理由是安全过程已经“被闪亮的产品所取代”。OpenAI的政策研究员GretchenKrueger也在宣布离职时提到了安全问题。随着OpenAI与苹果和微软的合作不断推进，我们可能不会很快看到SSI也这样做。在接受彭博社采访时，Sutskever表示，SSI的第一个产品将是安全的超级智能，在此之前公司“不会做任何其他事情”。标签:#OpenAI频道:@GodlyNews1投稿:@GodlyNewsBot

OpenAI 联合创始人 Ilya Sutskever 成立新公司 Safe Superintelligence

OpenAI联合创始人IlyaSutskever成立新公司SafeSuperintelligenceOpenAI联合创始人和首席科学家IlyaSutskever上个月离开公司，现在正式宣布成立新公司，表示将专注于打造安全的AI。SafeSuperintelligence的联合创始人还包括了苹果AI前负责人DanielGross以及以在OpenAI训练模型闻名的DanielLevy。Ilya三人在联合声明中表示，他们在致力于提高AI能力的同时将安全性置于优先地位，这一目标让他们的商业模式可以保证安全和进步都不受短期商业压力的影响。Sutskever表示他花了数年时间思考安全，已经想出了一些方法，但没有提供更多细节。他表示安全的AI将以人类过去几百年发展的自由民主价值观为基础。来源，频道：@kejiqu群组：@kejiquchat

OpenAI 联合创始人 Sam Altman 计划成立新人工智能公司

OpenAI联合创始人SamAltman计划成立新人工智能公司据知情人士透露，最近被解雇的OpenAl首席执行官SamAltman一直在告诉投资者，他计划成立一家新的人工智能企业。该知情人士说，预计OpenAI前总裁GregBrockman也将加入该项目，该项目仍在开发中。投稿：@ZaiHuaBot频道：@TestFlightCN

OpenAI 已解散长期人工智能风险团队

OpenAI已解散长期人工智能风险团队去年7月，OpenAI宣布成立一个新的研究团队，为通用人工智能的到来做准备。OpenAI首席科学家、公司联合创始人之一IlyaSutskever被任命为这个新团队的联合负责人。OpenAI表示，该团队将获得20%的计算能力。现在OpenAI证实，“超级对齐团队”已不复存在。此前多位相关研究人员离职，该团队的两名研究人员LeopoldAschenbrenner和PavelIzmailov因泄露公司机密而被解雇，周二Sutskever宣布将离开公司，该团队的另一位联合负责人也辞职了。该小组的工作将被纳入OpenAI的其他研究工作中。——

OpenAI 正在组建一个新团队，以控制“超级智能”人工智能

OpenAI正在组建一个新团队，以控制“超级智能”人工智能OpenAI正在组建一个由其首席科学家兼公司联合创始人之一IlyaSutskever领导的新团队，以开发引导和控制“超级智能”人工智能系统的方法。，Sutskever和OpenAI联盟团队的负责人JanLeike预测，人工智能可能会在十年内实现超越人类的智能。苏茨克弗和雷克说，这种人工智能——假设它最终确实到来——不一定是仁慈的，需要研究控制和限制它的方法。他们写道：“目前，我们还没有一个解决方案来引导或控制潜在的超级人工智能，并防止其失控。”“我们目前调整人工智能的技术，例如根据人类反馈进行强化学习，依赖于人类监督人工智能的能力。但人类无法可靠地监督比我们聪明得多的人工智能系统。”为了推动“超级智能对齐”领域的发展，OpenAI正在创建一个新的超级对齐团队，由Sutskever和Leike领导，该团队将有权使用公司迄今为止已获得的20%的计算资源。该团队由OpenAI之前的对准部门的科学家和工程师以及公司其他部门的研究人员加入，目标是在未来四年内解决控制超级智能AI的核心技术挑战。——

OpenAI 联合创始人 Sutskever 宣布成立一家合资企业

OpenAI联合创始人Sutskever宣布成立一家合资企业前OpenAI首席科学官、联合创始人IlyaSutskever成立了一家名为SafeSuperintelligenceInc.的合资企业，旨在在一个纯粹的研究机构内创建一个安全、强大的人工智能系统，该机构近期无意销售人工智能产品或服务。“这家公司的特别之处在于，它的第一款产品将是安全的超级智能，在此之前，它不会做任何其他事情，”Sutskever在一次独家采访中谈到了他的计划。“它将完全不受外部压力的影响，比如必须处理一个庞大而复杂的产品，以及不得不陷入激烈的竞争。