OpenAI 预测超智能 AI 十年内出现,正研究用 AI 来监督 AI
OpenAI预测超智能AI十年内出现,正研究用AI来监督AI当地时间周三,ChatGPT的开发者OpenAI表示计划投入更多资源并成立新的研究团队,研究如何确保AI对人类的安全性,最终实现用AI来监督AI。OpenAI联合创始人伊利亚・苏茨凯弗(IlyaSutskever)和AI对齐负责人简・莱克(JanLeike)在中表示:“超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前,我们还没有解决方案来操纵或控制一个可能的超智能AI,并防止其变成无赖。”这篇博文预测,超智能AI,即相比于人类更智能的系统,可能会在未来10年中出现。人类需要比目前更强大的技术来控制超智能AI,因此需要在“AI对齐研究”方面取得突破,确保人AI对人类持续有益。AI对齐是AI控制中的主要问题,即要求AI的目标和人类的价值观与意图保持一致。来源,来自:雷锋频道:@kejiqu群组:@kejiquchat投稿:@kejiqubot
在Telegram中查看相关推荐
🔍 发送关键词来寻找群组、频道或视频。
启动SOSO机器人