马斯克与逾千名专家以“社会风险”为由 促暂停发展人工智能

马斯克与逾千名专家以“社会风险”为由促暂停发展人工智能电动车巨头特斯拉首席执行官马斯克和一群人工智能专家呼吁，暂停开发比美国人工智能公司OpenAI新推出的GPT-4更强大的智能系统。路透社星期三（3月29日）报道，这封公开信由非营利组织未来生命研究所（FLI）公布，有包括马斯克在内的1000多人签署，旨在呼吁暂停开发高级人工智能，直到独立专家完成开发、实施和审计等共享安全协议。专家在公开信中写道：“只有当我们确信它们（高级人工智能）的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。”信中还详细描述了具有人类竞争力的人工智能系统，以经济和政治干扰的形式对社会和文明造成的潜在风险，并呼吁开发者与决策者在治理和监管机构方面进行合作。欧洲刑警组织（Europol）星期一（27日）也加入了对ChatGPT等先进人工智能的道德和法律担忧的行列，警告该系统或被滥用于网络钓鱼、虚假信息和网络犯罪。与此同时，英国政府公布了围绕人工智能建立“适应性强”监管框架的提案。英政府在最新发布的一份政策文件中，概述了相关监管做法，既将管理人工智能的责任分配给人权、健康与安全以及竞争方面的监管机构，而不是创建一个专门针对这项技术的新机构。也在公开信上签名的纽约大学教授马库斯（GaryMarcus）说：“这封信并不完美，但其精神是正确的:我们需要慢下来，直到我们更好地理解其后果。”除了马斯克外，联合签署人还包括StabilityAI首席执行官莫斯塔克（EmadMostaque）、谷歌母公司Alphabet旗下DeepMind的研究人员，以及人工智能重量级人物图灵奖得主本希奥（YoshuaBengio）和美国加州大学伯克利分校计算机科学教授拉塞尔（StuartRussell）。OpenAI尚未对此置评。

【马斯克签署联名信，呼吁暂停训练比 GPT-4 更强大的人工智能】

【马斯克签署联名信，呼吁暂停训练比GPT-4更强大的人工智能】3月29日消息，马斯克和1000多名人工智能专家及行业高管签署联名信，呼吁暂停训练比GPT-4更强大的人工智能系统至少六个月，理由是这种系统对社会和人类构成潜在风险。信中写道：只有在我们确信它们的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。马斯克此前曾多次表达对人工智能的担忧，他在今年2月的一次视频讲话中表示，人工智能是未来人类文明最大的风险之一。

马斯克和 1000 多名人工智能专家及行业高管签署联名信，呼吁暂停训练比 GPT-4 更强大的人工智能系统至少六个月，理由是这种

马斯克和1000多名人工智能专家及行业高管签署联名信，呼吁暂停训练比GPT-4更强大的人工智能系统至少六个月，理由是这种系统对社会和人类构成潜在风险。目前签名的有，图灵奖得主YoshuaBengio、StabilityAI首席执行官EmadMostaque、苹果联合创始人SteveWozniak、纽约大学教授马库斯、马斯克，以及「人类简史」作者YuvalNoahHarari等等。信中写道：只有在我们确信它们的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。马斯克此前曾多次表达对人工智能的担忧，他在今年2月的一次视频讲话中表示，人工智能是未来人类文明最大的风险之一。投稿：@ZaiHuabot频道：@TestFlightCN

1000多名人工智能专家及行业高管签署联名信，呼吁暂停训练比GPT-4更强大的人工智能系统至少六个月

1000多名人工智能专家及行业高管签署联名信，呼吁暂停训练比GPT-4更强大的人工智能系统至少六个月理由是这种系统对社会和人类构成潜在风险。信中写道:“只有在我们确信它们的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。”马斯克此前曾多次表达对人工智能的担忧，认为人工智能是未来人类文明最大的风险之一，威胁程度远高于车祸、飞机失事、毒品泛滥等，甚至比核武器都危险得多。可以去这里签名：《》目前已经有1000多名精英人士签名了。-YoshuaBengio，蒙特利尔大学，图灵奖得主，开发深度学习，蒙特利尔学习算法研究所所长-StuartRussell，伯克利，计算机科学教授，智能系统中心主任，标准教科书“人工智能：现代方法”的合著者-ElonMusk，SpaceX、Tesla和Twitter的首席执行官-SteveWozniak,Co-founder,Apple苹果联合创始人史蒂夫·沃兹尼亚克-JaanTallinn，Skype联合创始人，生存风险研究中心，未来生命研究所......来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

拜登晤AI公司高层　企业承诺管理人工智能带来的风险

拜登晤AI公司高层企业承诺管理人工智能带来的风险美国总统拜登与7间发展人工智能企业的高层会面，白宫表示，这些企业承诺管理人工智能技术带来的风险。获邀到白宫的企业，包括亚马逊、Google、Meta、微软、OpenAI等。拜登表示，人工智能对社会、经济和国家安全带来巨大风险，但亦带来难以置信的机遇，随著人工智能越来越融入个人和商业活动，这些企业承诺带领负责任的创新。7间企业承诺采取一系列自我监管措施，包括由专家对人工智能系统进行安全测试、定期公开报告人工智能的能力和局限、研究歧视和侵犯私隐等风险。白宫表示，这些措施强调人工智能未来的三个基本原则，分别是安全、保障和信任，意味向开发负责任的人工智能迈出关键一步。2023-07-2207:42:37

马斯克：没人会真暂停开发AI 呼吁只是为提醒大家注意

马斯克：没人会真暂停开发AI呼吁只是为提醒大家注意马斯克在法国VivaTech科技峰会上表示：“我认为没有人会真的同意暂停，但我是想，为提醒大家记住也要说，‘我认为我们应该暂停’。”当然，公开信的其他署名人以及人工智能批评人士等都认真对待这封信的内容。公开信警告称，先进的人工智能会给人类带来可怕后果，并呼吁在六个月内暂停开发任何比GPT-4聊天机器人更先进的技术。但批评者中也包括微软联合创始人比尔·盖茨（BillGates）、美国参议员迈克·朗兹（MikeRounds）等知名人士，甚至还有“人工智能教父”杰弗里·辛顿（GeoffreyHinton）。辛顿今年从谷歌离职，也对自己曾付诸巨大努力的技术发出了警告。辛顿和其他人一样，认为呼吁暂停开发人工智能没有意义。“这是一个集体行动的问题，”谷歌首席执行官桑德尔·皮查伊(SundarPichai)在今年3月份的一次播客上谈到这封公开信时表示。他说，这封信背后的人“可能是为了引发讨论”。人工智能初创公司Cohere首席执行官艾丹·戈麦斯(AidanGomez)本周也表示，这一呼吁“不太可能实现”。他补充说：“把我们所有的时间都花在争论人类是否会因为超级智能接管整个世界而灭绝，这完全是浪费时间和公众思维空间。”但马斯克在法国VivaTech科技峰会还表示，“这是有史以来第一次，会有比人类更聪明的东西出现，比最聪明的人类还聪明。”他警告说，如果人类不“谨慎开发通用人工智能”，“可能会出现灾难性的后果”。马斯克再次呼吁对人工智能技术实施有力监管，称先进的人工智能“对普罗大众都有风险”。他还说，人工智能更有可能产生积极影响，但“这并不是所有可能的结果，所以我们需要把出错的可能性降到最低。”马斯克补充说，如果真的有“某种形式的人工智能末日”，他仍然希望能活着看到。（辰辰）...PC版：https://www.cnbeta.com.tw/articles/soft/1365901.htm手机版：https://m.cnbeta.com.tw/view/1365901.htm