【马斯克签署联名信，呼吁暂停训练比 GPT-4 更强大的人工智能】

【马斯克签署联名信，呼吁暂停训练比GPT-4更强大的人工智能】3月29日消息，马斯克和1000多名人工智能专家及行业高管签署联名信，呼吁暂停训练比GPT-4更强大的人工智能系统至少六个月，理由是这种系统对社会和人类构成潜在风险。信中写道：只有在我们确信它们的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。马斯克此前曾多次表达对人工智能的担忧，他在今年2月的一次视频讲话中表示，人工智能是未来人类文明最大的风险之一。

1000多名人工智能专家及行业高管签署联名信，呼吁暂停训练比GPT-4更强大的人工智能系统至少六个月

1000多名人工智能专家及行业高管签署联名信，呼吁暂停训练比GPT-4更强大的人工智能系统至少六个月理由是这种系统对社会和人类构成潜在风险。信中写道:“只有在我们确信它们的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。”马斯克此前曾多次表达对人工智能的担忧，认为人工智能是未来人类文明最大的风险之一，威胁程度远高于车祸、飞机失事、毒品泛滥等，甚至比核武器都危险得多。可以去这里签名：《》目前已经有1000多名精英人士签名了。-YoshuaBengio，蒙特利尔大学，图灵奖得主，开发深度学习，蒙特利尔学习算法研究所所长-StuartRussell，伯克利，计算机科学教授，智能系统中心主任，标准教科书“人工智能：现代方法”的合著者-ElonMusk，SpaceX、Tesla和Twitter的首席执行官-SteveWozniak,Co-founder,Apple苹果联合创始人史蒂夫·沃兹尼亚克-JaanTallinn，Skype联合创始人，生存风险研究中心，未来生命研究所......来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

马斯克和一些业内专家呼吁暂停比GPT-4更强大AI的训练，理由是担忧对人类社会构成危险

马斯克和一些业内专家呼吁暂停比GPT-4更强大AI的训练，理由是担忧对人类社会构成危险埃隆·马斯克和一群人工智能专家和行业高管在一封公开信中说，他们呼吁暂停训练比GPT-4更强大的系统六个月，理由是对社会和人类的潜在风险。这封信由非营利性的"生命未来研究所"发布，包括马斯克、苹果公司联合创始人史蒂夫-沃兹尼亚克和稳定人工智能首席执行官埃马德-莫斯塔克在内的1000多人签署，呼吁暂停先进的人工智能开发，直到此类设计的共享安全协议被制定、实施并由独立专家审计。信中说："只有当我们确信强大的人工智能系统的效果是积极的，其风险是可控的，才应该开发。"信中还详细介绍了人类竞争性人工智能系统以经济和政治混乱的形式对社会和文明的潜在风险，并呼吁开发者与政策制定者在治理和监管机构方面进行合作。这封信是在欧盟警察部队Europol周一加入了对ChatGPT等先进人工智能的道德和法律担忧的合唱，警告说该系统可能被滥用于网络钓鱼企图、虚假信息和网络犯罪。——

马斯克等千人联名呼吁暂停研发更强大的AI 人工智能专家：一些说法“精神错乱”

马斯克等千人联名呼吁暂停研发更强大的AI人工智能专家：一些说法“精神错乱”自从GPT-4的前身ChatGPT于去年发布以来，竞争对手也竞相推出类似产品。公开信中说，具有“人类竞争智能”的人工智能系统对人类具有深远的风险，信中引用了专家的12项的研究结果，这些专家包括大学学者，以及OpenAI、谷歌及其子公司DeepMind的现任和前任员工。此后，美国和欧盟的民间社会团体一直向立法者施压，要求约束OpenAI的研究。OpenAI没有立即回应记者的置评请求。公开信由未来生命研究所发出，而该研究所主要马斯克基金会资助。批评人士指责研究所优先考虑想象中的世界末日场景，而忽略人工智能带来的更紧迫的担忧，比如编程到机器中的种族主义或性别歧视偏见。信中引用的研究包括玛格丽特·米歇尔(MargaretMitchell)合著的著名论文《论随机鹦鹉的危险》。她本人曾在谷歌负责人工智能伦理研究，现在是人工智能公司HuggingFace的首席伦理科学家。但米歇尔本人批评了这封信，并表示目前还不清楚什么东西“比GPT4更强大”。“这封信将许多值得商榷的想法视为假定事实，信中提出了一系列有利于未来生命研究所支持者的人工智能优先事项和叙述”，她说，“现在，我们没有特权忽视主动伤害。”米歇尔的合著者蒂姆尼特·格布鲁（TimnitGebru）和艾米丽·M·本德（EmilyM.Bender）也在Twitter上批评了这封信，后者称信中一些说法“精神错乱”。未来生命研究所总裁迈克斯·泰格马克（MaxTegmark）则表示，这一举动并不是为了试图阻碍OpenAI的企业优势。“这太搞笑了。我看到有人说，‘埃隆·马斯克正试图减缓竞争，’”他说，并补充表示，马斯克没有参与起草这封信。“这件事关乎的不是一家公司。”目前的风险康涅狄格大学的助理教授施里·多里-哈科恩（ShiriDori-Hacohen）也对信中提到她的研究提出了异议。去年她与他人合著了一篇研究论文，论文认为人工智能的广泛使用已经带来了严重的风险。她的研究认为，今时今日人工智能系统的应用可能会对气候变化、核战争和其他威胁生存相关的决策产生影响。她表示:“人工智能不需要达到人类水平就会加剧这些风险。”“有些非生存风险也真的非常非常重要，但这些风险没有得到高度重视。”当被问及如何评论这些批评意见时，未来生命研究所总裁泰格马克表示，应该认真对待人工智能的短期和长期风险。“如果我们引用某人的话语，这只是意味着我们认为他们赞同这句话。这并不意味着他们认可这封信，或者我们认可他们的所有想法，”他说。公开信中引用的另一个专家是总部位于加州的人工智能安全中心主任丹·亨德里克斯(DanHendrycks)。他支持信中内容，并表示，考虑黑天鹅事件是明智的。黑天鹅事件是指那些看起来不太可能发生，但会产生毁灭性后果的事件。公开信还警告称，生成式人工智能工具可能被用来在互联网上充斥“宣传和谎言”。多里-哈科恩表示，马斯克签署这份公开信“相当富有”，他援引民间社团组织CommonCause等机构记录的消息称，在马斯克收购Twitter平台后，Twitter上的错误信息有所增加。Twitter将很快推出针对访问其研究数据的一种新的收费架构，这可能会阻碍对该主题的研究。“这直接影响了我的实验室工作，以及其他研究错误和虚假信息的人的工作，”多里-哈科恩说。“我们受到了束缚。”马斯克和Twitter没有立即回应置评请求。...PC版：https://www.cnbeta.com.tw/articles/soft/1352535.htm手机版：https://m.cnbeta.com.tw/view/1352535.htm

逾千人工智能界高层专家吁暂停开发高阶系统以检视风险

逾千人工智能界高层专家吁暂停开发高阶系统以检视风险美国富商马斯克等过千名人工智能业界高层及专家联署，呼吁未来六个月暂停开发较GPT-4更高阶的人工智能系统，以检视对社会和人类的潜在风险。总部设在三藩市的人工智慧研究实验室OpenAI，近期发布的GPT-4新一代语言模型，较先前的版本更强大。联署信提到，具有与人类竞争能力的人工智能系统，可能以经济和政治混乱的方式，对社会和文明带来潜在风险，认为只有当确信它们带来正面影响，以及风险是可控的时候，才应该开发强大的人工智能系统，并呼吁开发人员与监管部门合作。欧洲刑警组织日前亦提出对ChatGPT等先进人工智能的道德及法律疑虑，警告人工智能系统可能被滥用于网络钓鱼攻击、虚假讯息发放及网络犯罪。2023-03-3001:40:09

马斯克警告：人工智能将超越生物智能 最终生物智能将只占不到1%的比例

马斯克警告：人工智能将超越生物智能最终生物智能将只占不到1%的比例马斯克解释称,如果人工智能"以某种残酷的方式"发展,基于硅电路的智能体系将远远超越脆弱的生物体。不过,他也认为,生物智能可以作为一种"缓冲"和"后备",在一定程度上抵御人工智能的冲击。尽管如此,马斯克强调,从长远来看,绝大部分智能将以数字形式存在。这就引发了一个关键问题:在这种情况下,我们人类将扮演什么角色?马斯克坦言,他也不得而知。为了确保人工智能有利于人类,马斯克提出了一些重要原则。他认为,人工智能系统必须追求"最大程度的真理",不应被教导去说谎或编造事实,哪怕这些内容在政治上不正确。马斯克声称自己"考虑人工智能安全问题已经很长时间了"。从他的演讲来看,人工智能的发展前景正使这位科技大佬对未来人机关系的走向忧心忡忡。...PC版：https://www.cnbeta.com.tw/articles/soft/1430051.htm手机版：https://m.cnbeta.com.tw/view/1430051.htm