“AI教父”辛顿最新预言：AI将操控人类

“AI教父”辛顿最新预言：AI将操控人类辛顿相信，机器人武器可能会像核武器一样被限制，但要实现这一点，可能需要等到人们意识到其在战场上使用会带来多么悲惨的后果。此外，辛顿还提到了防止AI失控的观点，尽管许多人认为只需关闭电源开关即可，但他指出，超越人类智慧的AI可能会用语言操纵我们，试图说服我们不要关闭它。辛顿曾在英国剑桥大学攻读实验心理学，并于1978年在英国爱丁堡大学获得AI博士学位。在过去的半个世纪里，他一直引领着全球AI研究，他的许多学生参与了最尖端的生成式AI的开发。他还在2013年至2023年间在美国谷歌工作。...PC版：https://www.cnbeta.com.tw/articles/soft/1424637.htm手机版：https://m.cnbeta.com.tw/view/1424637.htm

“AI教父”警告：人工智能可能取代人类

“AI教父”警告：人工智能可能取代人类在上周日的一次电视采访中，辛顿继续强调了人工智能进步可能带来的负面影响。辛顿说：“也许我们回顾过去，把这看作是一种转折点，人类必须做出决定，是否进一步发展这些东西，如果他们这样做了，该如何保护自己。”辛顿说，人工智能可能有好有坏，接下来会发生什么还不得而知。“我们需要认真思考接下来会发生什么。我们只是不知道。”辛顿在这次采访中警告称，人工智能有可能取代人类。他说：“如果我们能阻止他们这么做，那就太好了，但目前还不清楚我们能否阻止他们这么做。”辛顿的担忧包括人工智能带来的就业流失，以及假新闻的兴起，有偏见的人工智能程序提供的信息被当作事实。辛顿警告说，人工智能系统可能编写自己的计算机代码来修改自己，“这是我们需要认真担心的事情。”尽管对人工智能相关的风险感到担忧，但辛顿说，他对帮助开发系统和推动人工智能的兴起并不后悔。他在谈到人工智能可能带来的好处是说：“因此，医疗保健显然是一个巨大的好处。在理解医学图像的情况方面，人工智能已经可以与放射科医生相提并论。它将非常擅长设计药物。”辛顿说，可能无法找到一条可以确保人类未来安全的人工智能发展道路，“我们正在进入一个非常不确定的时期，我们正在处理以前从未处理过的事情。”他警告称，我们负担不起出错。...PC版：https://www.cnbeta.com.tw/articles/soft/1388979.htm手机版：https://m.cnbeta.com.tw/view/1388979.htm

“AI教父”辛顿：AI将操控人类

“AI教父”辛顿：AI将操控人类人工智能(AI)正在以惊人的速度持续进步。当AI在所有领域都超越人类智慧的时代到来之时，世界将会发生怎样的变化呢？被誉为“AI教父”的多伦多大学名誉教授杰弗里·辛顿（GeoffreyHinton）在加拿大的家中接受了日本经济新闻（中文版：日经中文网）的采访，讲述了AI和人类的未来。记者：您的学生、美国OpenAI公司联合创始人伊尔亚·苏茨克维（IlyaSutskever）在2023年11月曾试图解雇该公司首席执行官(CEO)山姆·奥特曼（SamAltman），但以失败告终。据报道，其动机仍然是认为AI对人类构成威胁这一危机感。辛顿：伊尔亚非常担心AI的危险性。OpenAI是重视AI安全性的非盈利组织，但采用了管理盈利企业的结构。从这次的事件看出，甚至是这样的组织，比安全性，会更优先AI创造的利益。以前我们都认为数字的智能不会像人类那么优秀，理解语言和复杂的东西或将是很久之后的事情。伊尔亚率先改变了看法，但我并没有马上同意。现在我觉得他是对的。频道：@kejiqu群组：@kejiquchat