日本政府：成立“人工智能安全研究所”，将与美英同行合作。

英国将成为首个成立人工智能安全研究所的国家

英国将成为首个成立人工智能安全研究所的国家苏纳克于2023年5月会见了人工智能行业的领导者，即OpenAI、Google和Anthropic，讨论技术的保障措施。与唐宁街代表的会面为确保安全、负责任地发展人工通用智能（AGI）的倡议做了准备。苏纳克说："在安全可靠的情况下，人工智能有可能带来变革和经济增长。"在这一进展之后，英国政府宣布将于11月1日和2日举行人工智能安全峰会。此次峰会将汇聚人工智能公司、政府、民间团体和人工智能领域的专家，目标是考虑人工智能的风险，尤其是在发展前沿的风险讨论如何通过国际协调行动降低风险。此次峰会将重点关注前沿人工智能（FrontierAI），这是一类能力极强的基础模型，其性能与现有模型相当或更胜一筹。就在峰会召开前一周，英国首相在伦敦的一次演讲中宣布成立人工智能安全研究所，这在世界上尚属首次。根据苏纳克的说法，该研究所将"仔细评估和测试新型人工智能，以便我们了解新模型的能力"。英国政府还就前沿人工智能的风险以及人工智能攻击的规模和速度导致的网络安全漏洞发布了两份讨论文件。这两份文件警告说，在未来，我们可能会看到由人工智能进行和防御的网络攻击，而在每一个步骤中，人类的监督都会被最小化。...PC版：https://www.cnbeta.com.tw/articles/soft/1392513.htm手机版：https://m.cnbeta.com.tw/view/1392513.htm

苹果应白宫的要求加入了人工智能安全研究所(AISIC)

亚马逊、谷歌、Meta、微软和英伟达等公司加入了该联盟，以响应拜登总统的行政命令，确保人工智能“安全、可靠和值得信赖”……AISIC是根据白宫去年10月发布的一项行政命令成立的。它提出了一系列要求，旨在确保美国公民免受人工智能系统的潜在风险。标签:#Apple频道:@GodlyNews1投稿:@GodlyNewsBot

英国安全研究所发布人工智能模型安全性测试工具

英国安全研究所发布人工智能模型安全性测试工具在周五宣布这一消息的新闻稿中，安全研究所声称，Inspect标志着"由国家支持的机构主导的人工智能安全测试平台首次被广泛使用"。安全研究所主席伊恩-霍加斯（IanHogarth）在一份声明中说："人工智能安全测试方面的成功合作意味着要有一个共享的、可访问的评估方法，我们希望Inspect能够成为一个基石。我们希望看到全球人工智能社区利用Inspect不仅开展自己的模型安全性测试，而且帮助调整和构建开源平台，以便我们能够全面开展高质量的评估。"众所周知，人工智能基准很难制定--其中最重要的原因是，当今最复杂的人工智能模型几乎都是黑盒，其基础设施、训练数据和其他关键细节都被创建这些模型的公司保密。那么，Inspect如何应对这一挑战呢？主要是通过可扩展的新测试技术。Inspect由三个基本部分组成：数据集、求解器和评分器。数据集为评估测试提供样本。求解器负责执行测试。评分器负责评估求解器的工作，并将测试得分汇总为指标。可以通过用Python编写的第三方软件包来增强Inspect的内置组件。Mozilla研究员、著名人工智能伦理学家德博拉-拉吉（DeborahRaj）在X上发表了一篇文章，称Inspect"证明了对人工智能问责开源工具的公共投资的力量"。人工智能初创公司HuggingFace的首席执行官克莱门特-德朗格（ClémentDelangue）提出了将Inspect与HuggingFace的模型库整合在一起，或利用工具集的评估结果创建一个公共排行榜的想法。Inspect发布之前，美国政府机构--国家标准与技术研究院（NIST）启动了NISTGenAI，该计划旨在评估各种生成式人工智能技术，包括文本和图像生成人工智能。NISTGenAI计划发布基准，帮助创建内容真实性检测系统，并鼓励开发能识别虚假或误导性人工智能生成信息的软件。今年4月，美国和英国宣布建立合作伙伴关系，共同开发先进的人工智能模型测试，这是继去年11月英国在布莱切利公园举行的人工智能安全峰会上宣布承诺之后的又一合作。作为合作的一部分，美国打算成立自己的人工智能安全研究所，广泛负责评估人工智能和生成式人工智能的风险。...PC版：https://www.cnbeta.com.tw/articles/soft/1430544.htm手机版：https://m.cnbeta.com.tw/view/1430544.htm

美国开放人工智能研究中心成立安全委员会

美国开放人工智能研究中心成立安全委员会美国开放人工智能研究中心（OpenAI）28日表示，该公司新成立一个安全委员会，并已开始训练新人工智能模型，以取代其ChatGPT聊天机器人目前所依赖的GPT-4系统。OpenAI在当天发布的一份声明中说，该安全委员会将就其项目和运营的“关键安全决策”向董事会提供建议。委员会成员包括OpenAI首席执行官萨姆・奥尔特曼和董事会主席布雷特・泰勒，以及其他几位技术和决策专家。（新华社）

苹果公司加入美国商务部人工智能安全研究所联盟

苹果公司加入美国商务部人工智能安全研究所联盟雷蒙多在一份声明中说："美国政府在制定标准和开发工具方面可以发挥重要作用，我们需要这些标准和工具来降低人工智能的风险，利用人工智能的巨大潜力。该小组将与该部门的国家标准与技术研究所合作，开展拜登总统人工智能行政命令中列出的优先行动，包括组建红队、能力评估、风险管理、安全保障和合成内容水印的指导方针"。其他科技公司以及民间团体、学术界、州和地方政府官员也将参与其中，以制定有关人工智能监管的安全标准。由于生成式人工智能具有增强创造力、提高效率和推动技术进步的潜力，因此引起了人们的兴奋。然而，围绕着生成式人工智能的担忧包括深度伪造等道德问题、对就业的潜在影响、信息可靠性问题以及确保隐私和有效监管方面的挑战。据说，由于训练大型语言模型需要大量硬件，苹果公司每天要花费数百万美元用于人工智能研究。据一份报告称，到2024年，苹果公司在人工智能服务器上的花费将超过40亿美元。据说苹果公司正在开发自己的生成式人工智能模型"Ajax"。Ajax的设计目标是与OpenAI的GPT-3和GPT-4相媲美，它可以在2000亿个参数上运行，这表明它在语言理解和生成方面具有很高的复杂性和能力。Ajax在内部被称为"AppleGPT"，旨在统一整个苹果公司的机器学习开发，表明了苹果公司将人工智能更深入地融入其生态系统的更广泛战略。该模型的某些方面可能会被整合到iOS18中，例如具有类似ChatGPT的生成式人工智能功能的增强版Siri。TheInformation和分析师杰夫-普（JeffPu）都声称，苹果将于今年晚些时候在iPhone和iPad上推出某种生成式人工智能功能。...PC版：https://www.cnbeta.com.tw/articles/soft/1417041.htm手机版：https://m.cnbeta.com.tw/view/1417041.htm

拜登政府任命新一任人工智能安全研究所所长