苹果公司加入美国商务部人工智能安全研究所联盟

苹果公司加入美国商务部人工智能安全研究所联盟雷蒙多在一份声明中说："美国政府在制定标准和开发工具方面可以发挥重要作用，我们需要这些标准和工具来降低人工智能的风险，利用人工智能的巨大潜力。该小组将与该部门的国家标准与技术研究所合作，开展拜登总统人工智能行政命令中列出的优先行动，包括组建红队、能力评估、风险管理、安全保障和合成内容水印的指导方针"。其他科技公司以及民间团体、学术界、州和地方政府官员也将参与其中，以制定有关人工智能监管的安全标准。由于生成式人工智能具有增强创造力、提高效率和推动技术进步的潜力，因此引起了人们的兴奋。然而，围绕着生成式人工智能的担忧包括深度伪造等道德问题、对就业的潜在影响、信息可靠性问题以及确保隐私和有效监管方面的挑战。据说，由于训练大型语言模型需要大量硬件，苹果公司每天要花费数百万美元用于人工智能研究。据一份报告称，到2024年，苹果公司在人工智能服务器上的花费将超过40亿美元。据说苹果公司正在开发自己的生成式人工智能模型"Ajax"。Ajax的设计目标是与OpenAI的GPT-3和GPT-4相媲美，它可以在2000亿个参数上运行，这表明它在语言理解和生成方面具有很高的复杂性和能力。Ajax在内部被称为"AppleGPT"，旨在统一整个苹果公司的机器学习开发，表明了苹果公司将人工智能更深入地融入其生态系统的更广泛战略。该模型的某些方面可能会被整合到iOS18中，例如具有类似ChatGPT的生成式人工智能功能的增强版Siri。TheInformation和分析师杰夫-普（JeffPu）都声称，苹果将于今年晚些时候在iPhone和iPad上推出某种生成式人工智能功能。...PC版：https://www.cnbeta.com.tw/articles/soft/1417041.htm手机版：https://m.cnbeta.com.tw/view/1417041.htm

美国白宫发布人工智能行政命令 指示各机构制定安全指南

美国白宫发布人工智能行政命令指示各机构制定安全指南一些政府机构的任务是制定标准，防止利用人工智能设计生物材料，建立内容认证的最佳实践，并建立先进的网络安全计划。国家标准与安全研究所（NIST）将负责制定标准，以便在公开发布之前对人工智能模型进行"红队"测试，而能源部和国土安全部则负责应对人工智能对基础设施的潜在威胁，以及化学、生物、辐射、核和网络安全风险。OpenAI的GPT和Meta的Llama2等大型人工智能模型的开发者必须分享安全测试结果。拜登政府的一位高级官员在一次简报会上告诉记者，安全准则主要适用于未来的人工智能模型。这位官员说："我们不会召回公开的现有模型。现有模型仍需遵守已有的反歧视规则"。为了保护用户隐私，白宫呼吁国会通过数据隐私法规。该命令还寻求联邦政府支持开发"隐私保护"技术和科技。该命令的部分内容计划防止利用人工智能进行歧视，包括解决算法歧视问题，并确保在利用该技术进行判刑、假释和监控时的公平性。它还命令政府机构为房东、联邦福利计划和合同提供指导方针，说明如何防止人工智能加剧歧视。白宫还指示各机构解决失业问题，并就人工智能对劳动力市场的影响编写一份报告。白宫还希望鼓励更多工人在人工智能生态系统中工作，并下令启动国家人工智能研究资源，为学生和人工智能研究人员提供关键信息，并为小企业提供技术援助。它还指示政府迅速聘用人工智能专业人员。拜登政府首先发布了《人工智能权利法案》，概述了人工智能模型开发者应遵循的一系列原则。后来，这些原则被转化为白宫与Meta、Google、OpenAI、NVIDIA和Adobe等多家人工智能公司之间的一系列协议。需要注意的是，行政命令并不是永久性法律，一般只能在拜登执政期间有效。立法者仍在讨论如何监管人工智能，不过一些政治家表示，他们希望在今年年底前通过有关人工智能的法律。行业观察家说，行政命令至少在提供有关生成式人工智能的标准方面向前迈出了一步。CredoAI创始人、国家人工智能咨询委员会成员纳夫里娜-辛格（NavrinaSingh）说，行政命令是一个强烈的信号，表明美国对生成式人工智能是重视的。辛格说："这是目前最正确的举措，因为在立法还在讨论的时候，我们不能指望政策一开始就完美无缺。我相信，这确实表明人工智能是政府的重中之重。"...PC版：https://www.cnbeta.com.tw/articles/soft/1393197.htm手机版：https://m.cnbeta.com.tw/view/1393197.htm

英国将成为首个成立人工智能安全研究所的国家

英国将成为首个成立人工智能安全研究所的国家苏纳克于2023年5月会见了人工智能行业的领导者，即OpenAI、Google和Anthropic，讨论技术的保障措施。与唐宁街代表的会面为确保安全、负责任地发展人工通用智能（AGI）的倡议做了准备。苏纳克说："在安全可靠的情况下，人工智能有可能带来变革和经济增长。"在这一进展之后，英国政府宣布将于11月1日和2日举行人工智能安全峰会。此次峰会将汇聚人工智能公司、政府、民间团体和人工智能领域的专家，目标是考虑人工智能的风险，尤其是在发展前沿的风险讨论如何通过国际协调行动降低风险。此次峰会将重点关注前沿人工智能（FrontierAI），这是一类能力极强的基础模型，其性能与现有模型相当或更胜一筹。就在峰会召开前一周，英国首相在伦敦的一次演讲中宣布成立人工智能安全研究所，这在世界上尚属首次。根据苏纳克的说法，该研究所将"仔细评估和测试新型人工智能，以便我们了解新模型的能力"。英国政府还就前沿人工智能的风险以及人工智能攻击的规模和速度导致的网络安全漏洞发布了两份讨论文件。这两份文件警告说，在未来，我们可能会看到由人工智能进行和防御的网络攻击，而在每一个步骤中，人类的监督都会被最小化。...PC版：https://www.cnbeta.com.tw/articles/soft/1392513.htm手机版：https://m.cnbeta.com.tw/view/1392513.htm

拜登政府任命新一任人工智能安全研究所所长

拜登政府任命新一任人工智能安全研究所所长白宫国家经济委员会主任莱尔-布雷纳德（LaelBrainard）在公告中说，凯利"制定了总统的科技和金融监管议程，并努力建立广泛的利益相关者联盟"。新成立的研究所将在促进技术发展方面发挥关键作用。到7月，它将为主要的人工智能开发商创建"红队"测试标准，以确保系统对消费者和企业的安全。政府认为，安全测试是释放快速发展的技术所带来的益处的必要条件，它将为更广泛地采用人工智能创造一定程度的信任。联邦政府最近开始要求人工智能公司对其系统进行测试。但到目前为止，这些测试还缺乏一套通用标准，而该研究所计划在今年夏天最终确定这套标准。凯利毕业于耶鲁大学法学院，根据她的LinkedIn页面显示，她还曾在奥巴马白宫和金融公司CapitalOne工作过。...PC版：https://www.cnbeta.com.tw/articles/soft/1416909.htm手机版：https://m.cnbeta.com.tw/view/1416909.htm

白宫提出围绕人工智能的自愿安全和透明规则

白宫提出围绕人工智能的自愿安全和透明规则白宫今天上午公布了他们之前所描述的"人工智能权利法案"，其目的是围绕人工智能算法的部署方式以及其应用的护栏建立原则。在根据公众、微软和Palantir等公司以及人权和人工智能伦理团体的反馈意见拟定的五个要点中，该文件列出了安全、透明和隐私原则，科学和技术政策办公室（OSTP）--起草了人工智能权利法案--认为这将带来更好的结果，同时减轻现实生活中的有害后果。PC版：https://www.cnbeta.com/articles/soft/1323899.htm手机版：https://m.cnbeta.com/view/1323899.htm

白宫要求每个联邦机构都必须聘请一位首席人工智能官并公开AI使用情况

白宫要求每个联邦机构都必须聘请一位首席人工智能官并公开AI使用情况美国副总统哈里斯在与记者的一次简报会上宣布了新的行政机构人工智能指南，并表示各机构还必须成立人工智能治理委员会，以协调机构内部如何使用人工智能。所有美国联邦机构都必须有一名高管(CAIO)来监督他们使用的所有人工智能系统，因为政府希望确保人工智能在公共服务领域的使用是安全的。各机构还必须向管理和预算办公室(OMB)提交一份年度报告，列出其使用的所有人工智能系统、与之相关的任何风险，以及计划如何降低这些风险。根据新指南，任何政府拥有的人工智能模型、代码和数据都应向公众发布，除非它们对政府运作构成风险。——