Anthropic、Google、Microsoft和OpenAI发表联合声明，宣布成立前沿模型论坛

Anthropic、Google、Microsoft和OpenAI发表联合声明，宣布成立前沿模型论坛今天，Anthropic、Google、Microsoft和OpenAI宣布成立FrontierModelForum（前沿模型论坛），这是一个新的行业机构，旨在确保前沿AI模型的安全和负责任开发。FrontierModelForum将利用其成员公司的技术和运营专业知识，惠及整个AI生态系统，例如通过推动技术评估和基准的发展，并开发一个公共解决方案库以支持行业最佳实践和标准。该论坛的核心目标是：1.推进AI安全研究，促进前沿模型的负责任开发，最小化风险，并实现独立、标准化的能力和安全评估。2.确定前沿模型的负责任开发和部署的最佳实践，帮助公众了解技术的性质、能力、限制和影响。3.与政策制定者、学者、公民社会和公司合作，分享有关信任和安全风险的知识。来源：https://blog.google/outreach-initiatives/public-policy/google-microsoft-openai-anthropic-frontier-model-forum/投稿：@ZaiHuaBot频道：@TestFlightCN

推进人工智能安全研究 美国“AI四大天王”牵头成立行业机构

推进人工智能安全研究美国“AI四大天王”牵头成立行业机构7月26日，Google、微软、OpenAI和Anthropic这AI“四大天王”发布联合公告，宣布成立前沿模型论坛（FrontierModelForum），来确保未来可以安全且负责任地开发前沿人工智能模型。公告指出，前沿模型论坛的核心目标包括：推进人工智能安全研究，促进负责任地开发人工智能系统，最大限度地降低风险，并实现对大模型能力和安全性的独立、标准化评估。确定前沿模型负责任开发和部署的最佳案例，帮助公众了解这项技术的性质、能力、局限性和影响。与各国政府、学术界、社会组织及公司合作，分享有关AI大模型信任和安全风险的知识。支持开发有助于应对全球社会挑战的应用程序，例如减缓和适应气候变化、早期癌症检测和预防以及应对网络威胁。联合公告还指出，该论坛将在未来几个月内成立一个咨询委员会来指导AI战略，并将成立工作组和执行委员会，来安排包括章程、管理和资金在内的工作。微软副董事长兼总裁布拉德·史密斯（BradSmith）表示，创造AI大模型的公司有责任确保其安全可靠，并始终处于人类控制之下：这一举措是将科技行业聚集在一起，负责任地推进人工智能并应对挑战，使其造福全人类的重要一步。但针对这一论坛，英国《金融时报》指出，论坛的建立意味着科技巨头们的工作将集中于日益强大的人工智能带来的潜在风险，而不是回答当今监管机构与版权、数据保护和隐私有关的实际问题。华盛顿大学的计算语言学家EmilyBender认为这些公司的做法是试图逃避监管，让公众将注意力集中在对“AI‘涌现’并接管人类工作”的恐惧上，会分散人们对“数据盗窃、监视等实际问题”的注意力：“监管需要来自外部。它需要由代表各国政府制定，来限制这些公司的行为。”此前，美国联邦贸易委员会（FTC）已对OpenAI发起调查。当地时间7月13日媒体报道称，FTC告知OpenAI，将调查ChatGPT是否通过发布虚假信息损害了人们的利益，以及OpenAI是否存在“不公平或欺骗性”的隐私和数据安全行为。这一举动早有预警，今年5月，白宫与OpenAI、Google、微软等公司的首席执行官会面，探讨相关技术的风险。白宫还表示，七家最大的AI公司已经同意在8月份的年度DefCon极客大会上开放模型，接受一定程度的公众监督。近日，在白宫“指示”下，美国人工智能（AI）巨头“自我管控”的条例浮出水面。白宫公布，拜登政府得到了亚马逊、Anthropic、Google、Inflection、Meta、微软和OpenAI七家公司自愿的承诺，管控AI带来的风险。他们承诺，将帮助推动AI技术安全且透明地发展。...PC版：https://www.cnbeta.com.tw/articles/soft/1373291.htm手机版：https://m.cnbeta.com.tw/view/1373291.htm

Anthropic 发布新的人工智能模型更新

Anthropic发布新的人工智能模型更新人工智能公司Anthropic推出了其最新模型Claude3.5Sonnet，据称该模型在各种任务中的表现可与OpenAI的GPT-4.o或谷歌的Gemini相媲美甚至更胜一筹。新模型已在网页和iOS上供Claude用户使用，并且也将向开发者提供。Claude3.5Sonnet在编写和翻译代码、处理多步骤工作流程、解释图表和图形以及从图像转录文本方面将表现得更好。——

Anthropic推出新版人工智能聊天机器人Claude 2

Anthropic推出新版人工智能聊天机器人Claude2这也是Anthropic首次向普通消费者开放其聊天机器人技术，在过去的两个月里，该公司的人工智能模型已经被Slack、Notion和Quora等企业测试过，而Anthropic已经积累了超过35万人的预约名单，要求开放Claude的API接口和消费者服务。在OpenAI创业的过程中，有大量人才选择离职，其中由OpenAI前研究副总裁DarioAmodei等人在2021年创建的Anthropic公司最受关注，该公司还得到了Google、Salesforce和Zoom等公司的投资。此前，Anthropic研发的人工智能聊天机器人Claude，不仅在各项大型语言模型排行榜中名列前茅，甚至有些竞赛成绩胜过了迄今最强的GPT4大模型。与OpenAI明显商业化的趋势不同，Anthropic强调其旨在构建“可靠、可解释和可操纵的人工智能系统”，但这也限制了Anthropic的模型开发速度。Anthropic的创始人之一DanielaAmodei最新表示：“我们一直把重点放在商业化方面，让Claude尽可能地安全，我们也真的认为这是目前为止我们开发的最安全的Claude版本，所以我们非常高兴能把它送到更广泛的企业和个人消费者手中。”不过，Claude2最初只对美国和英国的用户开放，Anthropic计划在未来几个月扩大服务范围。该公司强调，Claude2能够一次性处理大约7.5万个单词的文本，这可能是一本书的长度。用户可以输入大量数据集，并要求以备忘录、信件或故事的形式进行总结。相比之下，ChatGPT可一次性处理3000个单词的文本，而GPT4则可以处理25000个单词的文本。尽管Claude2的各方面性能均有所提高，但Amodei承认，Anthropic和整个行业面临着许多障碍。例如，人工智能聊天机器人编造错误答案的倾向（被一些科技公司称为“幻觉”）是一个长期存在的问题。前景广阔Amodei指出，Anthropic已经投入了至少两个月的时间来开发Claude2，一个由30到35人组成的团队全力开发人工智能模型，总共得到了150位技术人员的支持。她说道，生成式人工智能市场增长如此迅速，有足够的空间让多家公司取得成功。Amodei补充道：“从商业的角度来看，这是一个非常不寻常的时期，因为对大语言模型的需求非常大，而且行业目前却无法提供更多的需求。行业前景非常广阔，许多不同类型和需求的用户也意味着有很大的发展空间。”今年5月，Anthropic便是受邀参加白宫会议的四家人工智能公司之一，四家公司的首席执行官们与美国副总统哈里斯会面，讨论了有关人工智能的一些关键问题，其他三家分别为Alphabet、微软和OpenAI。...PC版：https://www.cnbeta.com.tw/articles/soft/1370371.htm手机版：https://m.cnbeta.com.tw/view/1370371.htm

【谷歌向人工智能公司Anthropic投资3亿美元，Alameda曾向其投资约5亿美元】

【谷歌向人工智能公司Anthropic投资3亿美元，Alameda曾向其投资约5亿美元】2月4日消息，谷歌已向人工智能初创公司Anthropic投资约3亿美元，据三位知情人士透露，谷歌将通过这笔交易获得约10%的股份，交易条款要求Anthropic用这笔钱从谷歌云计算部门购买计算资源。OpenAI和Anthropic都在寻求开发生成式人工智能，即可以在几秒钟内编写脚本和创作艺术的复杂计算机程序。据知情人士透露，虽然微软试图将OpenAI的技术整合到自己的许多服务中，但谷歌与Anthropic的关系仅限于在人工智能军备竞赛中充当该公司的技术供应商。Anthropic开发了一款名为Claude的智能聊天机器人，可与OpenAI的ChatGPT相媲美，但尚未公开发布。此前消息，Alameda/FTX向Anthropic投资约5亿美元。

亚马逊向人工智能初创公司 Anthropic 追加投资 27.5 亿美元

亚马逊向人工智能初创公司Anthropic追加投资27.5亿美元亚马逊正在进行其30年历史上最大的一笔外部投资，希望在人工智能竞赛中获得优势。这家科技巨头表示，它将再斥资27.5亿美元支持人工智能初创公司Anthropic，它的Foundation模型和聊天机器人Claude可与OpenAI和ChatGPT竞争。两家公司在9月份宣布了12.5亿美元的初始投资，当时表示亚马逊将投资至多40亿美元。周三的消息标志着亚马逊提供了第二笔融资。Anthropic此前推出了最新的人工智能模型Claude3，该公司表示，这是迄今为止最快、最强大的人工智能模型。