人工智能教父 Geoffrey Hinton 离职谷歌

人工智能教父GeoffreyHinton离职谷歌GeoffreyHinton是人工智能领域最具影响力的先驱之一，离职谷歌使他可以自由地谈论人工智能风险，现在正式加入了批评者阵营。GeoffreyHinton:"我现在对自己的毕生工作感到非常后悔。我常用借口安慰自己，如果我不做，还有其他人会做。我以为这种东西超越人类智能还有30到50年甚至更长的时间，显然我不再这么认为了。很难看出如何才能防止坏人利用它来做坏事。"他最关心的是，互联网上将充斥着虚假的照片、视频和文字，普通人再也无法知道什么是真实的。他还担心人工智能技术会及时颠覆就业市场，它虽然带走了苦差事，但也可能带走更多东西。如今个人和公司允许人工智能系统不仅生成自己的计算机代码，还能自主运行这些代码。他担心有一天，该技术的未来版本会对人类构成威胁，真正的自主武器，那些杀手机器人将成为现实。频道：@TestFlightCN

对人类生存构成威胁？美国专家呼吁针对人工智能爆炸式发展展开全球监管

对人类生存构成威胁？美国专家呼吁针对人工智能爆炸式发展展开全球监管例如，这些技术可能导致一些工作岗位流失，经济发展模式被颠覆，甚至能力超过人类。生成式人工智能可以根据无限制的提示生成文本、照片和视频。在周二的会议上，ProtectAI的首席执行官、联合创始人伊恩·斯旺森（IanSwanson）表示：“我们正驾驶着这辆人工智能的汽车在高速公路上飞驰，那么我们需要做什么呢？我们需要进行安全检查，需要适当的基本维护，需要监管。”该公司帮助企业保护人工智能和机器学习系统的安全。“负责任人工智能研究所”所长赛斯·多布林（SethDobrin）则表示，监管机构只需看看社交媒体平台，就可以明白一个新行业不受限制的发展会导致什么样的负面后果。他说：“如果我们扩大数字鸿沟，将导致社会的分裂。监管机构需要考虑这点。”目前，已有多个国家正在准备通过监管手段去解决围绕人工智能的问题。例如，欧盟提议中的人工智能法案将把人工智能应用划分为不同的风险级别，禁止被定性为“不可接受”的应用，并对“高风险”应用进行严格评估。美国的立法者上个月提出了两项独立的人工智能法案，其中一项要求美国政府在使用人工智能与人互动时保持透明，另一项法案提出设立一个办公室，调研美国在最新技术方面是否仍具备竞争力。“未来生命研究所”创始人、执行主任安东尼·阿吉雷（AnthonyAguirre）在会议上说，立法者和科技行业领袖必须警惕的一个新威胁是，人工智能可能会使核武器变得更强大。越来越强的人工智能也将带来社会失业的风险，因为人类将无法通过简单地学习新技能就进入其他行业。阿吉雷说：“我们最终会陷入一个所掌握技能无关紧要的世界。”未来生命研究所是一家非营利性组织，目标是降低先进人工智能带来的灾难性风险。今年3月，该研究所发布公开信，呼吁暂停训练比OpenAI的GPT-4更强的人工智能系统，吸引了媒体的密切关注。该机构警告称，人工智能实验室已经“陷入了一场失控的竞赛”，正试图开发“没有人，甚至是它们的创造者，能够理解、预测或可靠控制的强大数字思维”。阿吉雷说：“这似乎是世界上最显而易见的事情，不能让人工智能获得核指挥和控制权。但这并不意味着我们人类不会这么做，因为我们以往也做过很多不明智的事情。”...PC版：https://www.cnbeta.com.tw/articles/soft/1370539.htm手机版：https://m.cnbeta.com.tw/view/1370539.htm

AI教父：人工智能对世界的威胁比气候变化“更紧迫”

AI教父：人工智能对世界的威胁比气候变化“更紧迫”辛顿此前也证实，他之所以离开谷歌，就是为了完全自由地说出人工智能所带来的危险，甚至还说他对自己在人工智能领域所付出的贡献感到懊悔。辛顿的工作被认为对当代人工智能系统的发展至关重要。1986年，他与人合著了一篇开创性的论文《通过反向传播误差来学习表征》，这是人工智能技术基础神经网络发展的一个里程碑。2018年，他被授予图灵奖，以表彰他的研究突破。但现在，越来越多的科技前沿人物公开表示，如果机器获得比人类更强的智能并控制地球，人工智能将对人类生存构成威胁，辛顿就是其中之一。在周五的采访中，辛顿表示，我不想贬低应对气候变化的价值，我不想说，你不应该担心气候变化，因为这也是一个巨大的风险，但人工智能的风险确实更加紧迫。他补充道，人类应对气候变化，相对而言，更容易提出一些有效的应对策略，比如说减少碳的排放，如果你这样做，最终一切都会好起来的。但对于人工智能的风险，你根本不知道如何下手。去年11月，微软支持的OpenAI公司向公众推出了人工智能聊天机器人ChatGPT，开始了一场技术竞赛。ChatGPT很快成为了历史上增长最快的应用程序，在两个月内月活用户就达到了1亿。今年4月份，包括马斯克在内的许多科技产业人士联署了一封公开信，呼吁所有相关实验室立即暂停训练人工智能系统至少6个月。虽然辛顿也担心这种威胁，但他不同意暂停研究。辛顿指出，这完全不现实，我认为人工智能技术存在巨大的风险，而且已经非常接近了，我们现在应该非常努力地工作，投入大量资源，找出我们能做些什么。此前一天，美国总统拜登会见了领先的人工智能公司谷歌、微软、OpenAI和Anthropic的首席执行官。拜登政府警告人工智能技术对公共安全、隐私和民主构成的危险，同时表示对其监管的权力有限。副总统卡马拉·哈里斯称，这项技术“有可能极大地增加对安全和安保的威胁，侵犯公民权利和隐私，并侵蚀公众对民主的信任和信心”。她补充说，企业有责任遵守现有的法律，以及“伦理、道德和法律责任，以确保其产品的安全和保障”。辛顿表示：“科技行业的领导人最了解人工智能的风险，政府也必须参与进来。它影响到我们所有人，所以我们都必须考虑如何应对它。”...PC版：https://www.cnbeta.com.tw/articles/soft/1358379.htm手机版：https://m.cnbeta.com.tw/view/1358379.htm

【Quantstamp联创：人工智能网络钓鱼诈骗激增可能会对加密货币组织构成生存威胁】

【Quantstamp联创：人工智能网络钓鱼诈骗激增可能会对加密货币组织构成生存威胁】2023年09月05日10点19分老不正经报道，Web3安全公司Quantstamp的联合创始人RichardMa警告说，随着人工智能领域以近乎惊人的速度发展，诈骗者现在可以使用可以帮助他们集体执行高度复杂攻击的工具，人工智能网络钓鱼诈骗激增可能会对加密货币组织构成生存威胁。RichardMa解释说，虽然社会工程攻击已经存在了一段时间，但人工智能正在帮助黑客变得“更有说服力”并提高攻击的成功率。

AI教父Geoffrey Hinton表示人工智能“有 50-50 的机会”战胜人类

AI教父GeoffreyHinton表示人工智能“有50-50的机会”战胜人类AI教父GeoffreyHinton近日呼吁科技行业应该拨出大量资金来应对生存威胁——如果人工智能变得比人类更聪明，会发生什么？GeoffreyHinton认为未来20年人工智能有50-50的机会变得比人类更聪明，而因为人类从来没处理过比自己还聪明的东西，所以现在起应该花费20%-30%的计算资源来研究人工智能是如何最终如何逃脱人类的控制。“一旦人工智能有了自身利益，进化就会开始，”Hinton说道。Hinton将这种风险与人工智能带来的潜在收益并列起来，认为这是导致OpenAI联合创始人IlyaSutskever最近离开公司的关键矛盾之一。“对安全感兴趣的人，如IlyaSutskever，希望在安全上投入大量资源。对利润感兴趣的人，如SamAltman，不想在这方面花费太多资源。他补充说到。关注频道@ZaiHuaPd频道爆料@ZaiHuabot

人工智能教父后悔研发AI　忧对社会和人类构成风险

人工智能教父后悔研发AI忧对社会和人类构成风险有人工智能（AI）教父之称的科学家辛顿认为，人工智能领域的进步对社会和人类构成深远风险，坦言对研发人工智能技术感到后悔。75岁的辛顿早前辞去在Google的职务。他说，离开除了因为年龄，亦是为了毋须在考虑对Google的影响下，谈论人工智能的危险，他担心人工智能会创造出令人信服的虚假图像和文本，从而创造一个人类无法再知道甚么是真的世界，亦担心会有坏人利用它来做坏事。辛顿又说，曾经认为人工智能起码要30至50年才能够进化到较人类更聪明，但他现在认为这个情况不再遥远。Google首席科学家迪恩回应表示，公司仍然致力对人工智能采取负责任态度，在不断学习了解新风险的同时，亦大胆创新。2023-05-0217:23:58