OpenAI、谷歌、微软和 Anthropic 组成联合机构来监督安全的“前沿人工智能”开发

OpenAI、谷歌、微软和Anthropic组成联合机构来监督安全的“前沿人工智能”开发四家卓越的人工智能参与者正在联合组建一个新的行业机构，旨在确保所谓的“前沿人工智能”模型的“安全和负责任的开发”。为了回应日益增长的监管呼声，ChatGPT的开发者OpenAI、微软、谷歌和Anthropic宣布成立FrontierModelForum，这个联盟将借助成员公司的专业知识来开发技术评估和基准，并促进最佳实践和标准。Forum的核心目标是：1、推进人工智能安全研究，促进前沿模型的负责任开发，降低风险，实现独立的标准化能力和安全评估。2、确定负责任地开发和部署前沿模型的最佳实践，帮助公众理解该技术的性质、能力、限制和影响。3、与决策者、学者、民间社会和公司合作，共享有关信任和安全风险的知识。4、支持开发有助于应对社会最大挑战的应用程序，如应对气候变化、早期癌症检测和预防以及打击网络威胁。尽管FrontierModelForum目前只有四名成员，但该团体表示正在向新成员开放。符合资格的组织应该开发和部署前沿人工智能模型，并展示对“前沿模型安全”有着坚定的承诺。——

微软开发新型AI语言模型MAI-1，或将挑战OpenAI和Google

微软开发新型AI语言模型MAI-1，或将挑战OpenAI和Google微软正在开发一个名为MAI-1的新型大规模AI语言模型，该模型可能与Google、Anthropic和OpenAI的最新模型竞争。此项目由前GoogleAI领导者、Inflection前首席执行官MustafaSuleyman领导，MAI-1将拥有大约5000亿参数。该模型的开发标志着微软在投资OpenAI超过100亿美元后，首次独立开发此规模的AI模型。据报道，MAI-1的性能将决定其最佳应用场景，而微软也在为该模型配置大量服务器和训练数据。MAI-1的首次展示可能在本月晚些时候的Build开发者大会上进行。关注频道@ZaiHuaTG频道投稿@ZaiHuabot

OpenAI竞争对手Anthropic发布最新AI模型Claude 3.5

OpenAI竞争对手Anthropic发布最新AI模型Claude3.5PANews6月21日消息，据新浪科技科技报道，OpenAI竞争对手Anthropic周四发布了其最新的AI模型Claude3.5Sonnet。今年3月，Anthropic推出了Claude3系列模型。随后，OpenAI在5月份推出了GPT-4o。Anthropic表示，Claude3.5Sonnet比之前的主打模型Claude3Opus速度更快，也是Anthropic新的Claude3.5家族的第一款模型。https://www.panewslab.com/zh/sqarticledetails/dj2x74c0.html

Google向由前OpenAI研究人员创办的人工智能公司Anthropic投资3亿美元

Google向由前OpenAI研究人员创办的人工智能公司Anthropic投资3亿美元根据《金融时报》的报道，2022年底，Google向这家初创公司投资了约3亿美元，尽管当时没有报道这一消息。作为回报，Google获得了该公司10%的股份，Anthropic需要从这家搜索巨头那里购买云计算资源。这有点类似于微软和OpenAI之间的合作。在那里，OpenAI提供了研究专长，而微软不仅提供了数十亿美元的投资，还提供了其强大的云平台，这是训练最新的计算密集型AI模型所需要的。值得注意的是，Anthropic也在开发自己的通用聊天机器人：一个名为Claude的ChatGPT潜在对手。(Claude处于封闭测试阶段，但你可以在这里阅读Anthropic和OpenAI的系统之间的比较。)然而，目前还不清楚Google是否计划像微软对ChatGPT那样将Claude整合到其服务中。Google内部已经有很多开发人工智能语言系统的专业技术，《金融时报》认为这笔交易的一个动机只是为了建立Google的云计算业务。Anthropic是由对公司发展轨迹不满意的OpenAI员工创立的。Anthropic成立的背景故事也很有意义。该组织由OpenAI前研究副总裁达里奥-阿莫代（DarioAmodei）于2021年创建，是一家公益公司。阿莫代带走了OpenAI的一些研究人员，包括人工智能语言模型GPT-3的首席工程师汤姆-布朗。正如英国《金融时报》所指出的，阿莫代是在"对公司的方向产生分歧后"离开OpenAI的--即该公司在2019年与微软达成第一笔交易后越来越注重商业运用。此后，许多人工智能研究人员批评OpenAI的行为越来越鲁莽，特别是它在去年年底将ChatGPT发布到公共网络上，而没有适当的保障措施可以可靠地检测其输出。相比之下，Anthropic在其网站上强调了其建立"可靠、可解释和可引导的人工智能系统"的工作。但Google的投资会影响这些优先事项的转变吗？无论如何，我们可以期待很快听到更多关于Google人工智能的未来。该公司将在下周（2月8日）举行关于这一主题的活动。我们可能会在不久的将来从微软那里看到更多关于其将ChatGPT添加到必应的计划。...PC版：https://www.cnbeta.com.tw/articles/soft/1342531.htm手机版：https://m.cnbeta.com.tw/view/1342531.htm

推进人工智能安全研究 美国“AI四大天王”牵头成立行业机构

推进人工智能安全研究美国“AI四大天王”牵头成立行业机构7月26日，Google、微软、OpenAI和Anthropic这AI“四大天王”发布联合公告，宣布成立前沿模型论坛（FrontierModelForum），来确保未来可以安全且负责任地开发前沿人工智能模型。公告指出，前沿模型论坛的核心目标包括：推进人工智能安全研究，促进负责任地开发人工智能系统，最大限度地降低风险，并实现对大模型能力和安全性的独立、标准化评估。确定前沿模型负责任开发和部署的最佳案例，帮助公众了解这项技术的性质、能力、局限性和影响。与各国政府、学术界、社会组织及公司合作，分享有关AI大模型信任和安全风险的知识。支持开发有助于应对全球社会挑战的应用程序，例如减缓和适应气候变化、早期癌症检测和预防以及应对网络威胁。联合公告还指出，该论坛将在未来几个月内成立一个咨询委员会来指导AI战略，并将成立工作组和执行委员会，来安排包括章程、管理和资金在内的工作。微软副董事长兼总裁布拉德·史密斯（BradSmith）表示，创造AI大模型的公司有责任确保其安全可靠，并始终处于人类控制之下：这一举措是将科技行业聚集在一起，负责任地推进人工智能并应对挑战，使其造福全人类的重要一步。但针对这一论坛，英国《金融时报》指出，论坛的建立意味着科技巨头们的工作将集中于日益强大的人工智能带来的潜在风险，而不是回答当今监管机构与版权、数据保护和隐私有关的实际问题。华盛顿大学的计算语言学家EmilyBender认为这些公司的做法是试图逃避监管，让公众将注意力集中在对“AI‘涌现’并接管人类工作”的恐惧上，会分散人们对“数据盗窃、监视等实际问题”的注意力：“监管需要来自外部。它需要由代表各国政府制定，来限制这些公司的行为。”此前，美国联邦贸易委员会（FTC）已对OpenAI发起调查。当地时间7月13日媒体报道称，FTC告知OpenAI，将调查ChatGPT是否通过发布虚假信息损害了人们的利益，以及OpenAI是否存在“不公平或欺骗性”的隐私和数据安全行为。这一举动早有预警，今年5月，白宫与OpenAI、Google、微软等公司的首席执行官会面，探讨相关技术的风险。白宫还表示，七家最大的AI公司已经同意在8月份的年度DefCon极客大会上开放模型，接受一定程度的公众监督。近日，在白宫“指示”下，美国人工智能（AI）巨头“自我管控”的条例浮出水面。白宫公布，拜登政府得到了亚马逊、Anthropic、Google、Inflection、Meta、微软和OpenAI七家公司自愿的承诺，管控AI带来的风险。他们承诺，将帮助推动AI技术安全且透明地发展。...PC版：https://www.cnbeta.com.tw/articles/soft/1373291.htm手机版：https://m.cnbeta.com.tw/view/1373291.htm

【OpenAI宣布已启动下一代前沿模型训练】

【OpenAI宣布已启动下一代前沿模型训练】2024年05月29日06点16分老不正经报道，当地时间周二，OpenAI发布公告称董事会成立一个负责把控AI开发方向的安全委员会。在这个看似平平的公告标题下，还隐藏着一条重磅消息——传言已久的“GPT-5”已经开搞了！OpenAI在公告中表示，近些日子已经开始训练公司的“下一代前沿模型”，预计这个新系统将达到通往AGI（通用人工智能）的“下一个能力水平”。