OpenAI 成立“防备”预警团队:董事会有权阻止新 AI 模型发布

OpenAI成立“防备”预警团队:董事会有权阻止新AI模型发布OpenAI公司日前宣布成立新的“防备(Preparedness)”团队,旨在监控旗下技术可能带来的潜在威胁,防止其落入坏人之手,甚至被用于制造化学和生物武器。该团队由麻省理工学院人工智能教授亚历山大・马德里(AleksanderMadry)领导,将招募人工智能研究人员、计算机科学家、国家安全专家和政策专家等,对OpenAI开发的技术进行持续监测和测试,一旦发现任何危险苗头,及时向公司发出警告。防备团队每月将向一个新的内部安全咨询小组发送报告,阿尔特曼和公司高层可以根据这些报告决定是否发布新的AI系统,但董事会有权撤销这一决定。来源,频道:@kejiqu群组:@kejiquchat

相关推荐

封面图片

OpenAI 发布灾备架构应对大模型风险:董事会有权推翻决策

OpenAI发布灾备架构应对大模型风险:董事会有权推翻决策当地时间12月18日,OpenAI在官网发布灾备架构初始版本,描述其应对流程以跟踪、评估、预测和防范日益强大的模型带来的灾难性风险。OpenAI规定了四个安全风险等级,并表示只有得分在“中”或以下的模型才能部署。OpenAI表示,其将会成立专责小组,监察技术工作,并建立安全决策的运行架构,“我们正在建立一个跨职能的安全咨询小组,审查所有报告,并将报告同时提交领导层和董事会。虽然领导层是决策者,但董事会有权推翻决策”。此外,OpenAI将制定加强安全和外部问责的协议。灾备小组将定期进行安全演习,以测试其业务压力和公司文化。

封面图片

OpenAI董事会成立安全委员会,开始训练下一代AI模型

OpenAI董事会成立安全委员会,开始训练下一代AI模型OpenAI当地时间5月28日发布声明,宣布公司董事会成立安全与安保委员会。这个新委员会由董事会主席布雷特·泰勒、董事AdamD'Angelo、NicoleSeligman和首席执行官山姆·奥特曼领导,将负责就OpenAI项目和运营的关键安全与安保决策向董事会全体成员提出建议。根据声明,该委员会的首要任务是在未来90天内评估并进一步发展OpenAI的流程和保障措施。90天后,委员会将与全体董事会分享建议。在全体董事会审查之后,OpenAI将以符合安全和保障的方式公开分享已采纳建议的最新进展。关注频道@ZaiHuaPd频道投稿@ZaiHuabot

封面图片

OpenAI宣布奥尔特曼复职 董事会改组

OpenAI宣布奥尔特曼复职董事会改组美国人工智能研究公司OpenAI宣布,奥尔特曼将重回公司担任首席执行官。这家备受瞩目的人工智能(AI)初创公司上周,引发混乱和争议。法新社报道,OpenAI星期三(11月22日)在社媒平台X发表声明说,公司和奥尔特曼已就OpenAI的未来达成协议。除奥尔特曼回归,OpenAI也同意部分重组解雇他的董事会。OpenAI说,Salesforce前联合首席执行官泰勒(BretTaylor)和美国前财政部长萨默斯(LarrySummers)将加入,与现任董事会成员、Quora首席执行官德安吉洛(AdamD’Angelo)组成新的董事会。奥尔特曼在社媒平台X帖文说:“我期待回到openai。”2023年11月22日3:14PM

封面图片

将近500名OpenAI员工威胁辞职并追随Altman在微软的团队,除非董事会辞职

将近500名OpenAI员工威胁辞职并追随Altman在微软的团队,除非董事会辞职在OpenAI创始人SamAltman突遭罢免后,490名OpenAI员工集体写信抗议,威胁要辞职并加入SamAltman在微软的团队,除非董事会辞职,并让Sam Altman重新担任首席执行官。员工们在信中表示,他们已经得到微软的保证,如果他们加入微软,所有OpenAI员工都能在新子公司获得职位;员工还呼吁恢复联合创始人兼前总裁GregBrockman的职务。该信称,“你们解雇SamAltman并将GregBrockman从董事会踢出影响了所有的工作,并破坏了我们的使命,对公司也是不利的。”OpenAI首席科学家兼董事会成员IlyaSutskever在信里签了名,他周一早些时候表示对之前参与董事会的行动感到遗憾。(Wired)标签:#OpenAI频道:@GodlyNews1投稿:@Godlynewsbot

封面图片

OpenAI发布新规则:董事会有权阻止发布AI模型

封面图片

人工智能公司 OpenAI 宣布任命新董事会成员

人工智能公司OpenAI宣布任命新董事会成员当地时间3月8日,人工智能公司OpenAI宣布任命三名新董事会成员,作为实现扩张承诺的第一步:苏珊∙德斯蒙德-赫尔曼(比尔及梅琳达∙盖茨基金会前首席执行官)、妮科尔·塞利格曼(索尼公司前执行副总裁兼总法律顾问)以及Instacart首席执行官兼董事长FidjiSimo。此外,首席执行官萨姆·奥尔特曼将重新加入OpenAI董事会。——

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人