欧盟27国代表一致支持《人工智能法案》文本

欧盟27国代表一致支持《人工智能法案》文本欧盟27国代表星期五（2月2日）投票一致支持《人工智能法案》文本，标志欧盟向立法监管人工智能迈出重要一步。新华社报道，欧盟内部市场委员布雷东（ThierryBreton）在社媒平台X发文说，27国一致支持这一法案，说明它们认可“谈判者在创新与安全之间找到了完美平衡”。欧盟委员会于2021年4月提出《人工智能法案》提案的谈判授权草案。2023年12月，欧洲议会、欧盟成员国和欧盟委员会三方就《人工智能法案》达成协议。此后，包括法国、德国在内的一些国家对法案文本表达异议，担忧法案对先进人工智能（AI）模型的严格监管将阻碍欧洲人工智能的发展。为了解决这些担忧，欧盟委员会在人工智能领域推出多项支持创新的措施，建立新的监管机构“人工智能办公室”负责该法案的实施。《人工智能法案》仍需要提交欧洲议会批准。如果获得批准，相关规则将分阶段实施，其中一些禁止性规则将在该法律通过六个月后生效，与通用人工智能模型相关的某些规则将从2025年起适用。2024年2月3日12:02PM

欧洲大型公司发声 称欧盟的人工智能法案可能"危及技术主权"

欧洲大型公司发声称欧盟的人工智能法案可能"危及技术主权"6月14日，欧洲议会批准了人工智能法案草案，经过两年的制定规则，并将其扩展以涵盖最近的人工智能突破，例如大语言人工智能模型(LLM)和基础模型，例如OpenAI的GPT-4。新法律生效之前还需要几个阶段，剩余的机构间谈判预计将在今年晚些时候结束。公开信的签署者声称，目前的《人工智能法案》可能会抑制人工智能技术为欧洲“重新加入技术先锋”的机会。他们认为，批准的规则过于极端，有可能破坏欧盟的技术雄心，而不是为人工智能创新提供合适的环境。这些公司提出的主要担忧之一涉及立法专门针对生成式人工智能系统的严格规则，生成式人工智能系统是人工智能模型的一个子集，通常属于“基础模型”的名称。根据《人工智能法案》，基础人工智能模型的提供者——无论其预期应用如何——都必须在欧盟注册其产品，接受风险评估，并满足透明度要求，例如必须公开披露用于训练其模型的任何受版权保护的数据。公开信声称，开发这些基础人工智能系统的公司将面临不成比例的合规成本和责任风险，这可能会鼓励人工智能提供商完全退出欧洲市场。信中说：“欧洲不能袖手旁观。”信中鼓励欧盟立法者放弃对生成人工智能模型的严格合规义务，转而关注那些能够适应“基于风险的方法中的广泛原则”的模型。LaFamigliaVC的创始合伙人、这封信的签署人之一JeannettezuFürstenberg表示：“我们得出的结论是，当前形式的《欧盟人工智能法案》对欧洲竞争力产生了灾难性影响。欧洲现在正在释放出强烈的创新精神，欧洲的关键人才离开美国公司前往欧洲开发技术。不公平地给年轻的创新型公司带来负担的监管将这种创新精神置于危险之中。”这些公司还呼吁欧盟在人工智能行业内组建一个由专家组成的监管机构，以监督随着技术的不断发展如何应用《人工智能法案》。负责制定《人工智能法案》的欧洲议会议员德拉戈·图多拉什（DragoşTudorache）在回应这封信时表示：“遗憾的是，少数人的激进游说正在占领其他严肃的公司。”图多拉奇声称，签署这封信的公司是“在少数人的刺激下”做出反应，欧盟立法草案提供了“一个由行业主导的流程，用于定义标准、行业治理以及宽松的监管制度”并要求透明度，没有其他。”ChatGPT和Dall-E背后的公司OpenAI游说欧盟修改2022年人工智能法案的早期草案，要求立法者废除一项拟议的修正案，该修正案将使所有通用人工智能系统提供商受到影响——这是一个模糊、广泛的框架法学硕士和基础模型可能属于人工智能类别——《人工智能法案》最严格的限制。该修正案最终从未被纳入批准的立法中。OpenAI首席执行官SamAltman本人签署了一封公开信，警告未来人工智能系统可能带来的潜在危险，此前他警告称，如果无法遵守欧盟法规，该公司可能会退出欧洲市场。Altman后来反悔并表示OpenAI“没有离开的计划”。...PC版：https://www.cnbeta.com.tw/articles/soft/1368331.htm手机版：https://m.cnbeta.com.tw/view/1368331.htm

欧盟就《人工智能法案》谈判22小时未果 周五继续

欧盟就《人工智能法案》谈判22小时未果周五继续欧盟各方代表就具有里程碑意义的人工智能监管法案《人工智能法案》长谈22小时，但仍未达成一致。会议宣布中止，并于新加坡时间星期五（12月8日）下午4时继续进行。综合外电报道，来自欧盟委员会、欧洲议会和27个成员国的代表于当地时间星期三（6日）下午开会并达成折衷方案，希望最终能就《人工智能法案》（AIAct）达成协议。在历经22小时的讨论后，欧盟执委会内部市场执委布雷顿（ThierryBreton）星期四（7日）在社媒平台X上发文说，尽管会议取得了很多进展，在一些关键问题上仍未达成共识；会议将于新加坡时间星期五下午4时继续进行。《人工智能法案》草案于两年前提出后，欧盟各国和立法者一直在努力敲定草案的各种细节，而AI技术发展迅猛，各国难以追赶其步伐，迟迟无法就这项具有开创性意义的监管法案达成一致。根据路透社看到的一份外泄妥协提案，《人工智能法案》可能会免除对开源模型的严格监管，除非相关模型被视为高风险，或被用于已遭禁止的目的。对欧盟来说，《人工智能法案》意义重大。鉴于美国尚未对高速发展的AI技术采取任何有意义的行动，《人工智能法案》若能出台，将为发达国家对生成式AI工具的监管定下基调。该法案也将使欧盟成为亚洲以外第一个对该技术设置严格限制的政府。2023年12月7日9:29PM

马克龙抨击后 欧盟竞争事务主管为人工智能法案辩护

马克龙抨击后欧盟竞争事务主管为人工智能法案辩护欧盟竞争和数字事务主管MargretheVestager为表示，欧盟新公布的人工智能法案将为开发AI技术的初创型科技企业提供“法律确定性”，尽管此前该法案受到包括法国总统马克龙在内的批评者的抨击。这项立法首次为所谓基础模型构建的企业提供了一套明确的规则。Vestager表示，“如果要构建基础模型，或者是应用基础模型，就需要确切地知道一旦投入使用，需要寻求什么。重要的是，监管不能有任何越权，才能促进创新和研究。”基础模型是支撑ChatGPT之类的生成式AI产品的技术，可以在几秒钟内生成类人类文本、图像和代码。

欧盟就《人工智能法案》达成协议

欧盟就《人工智能法案》达成协议欧盟委员会于2021年4月提出《人工智能法案》提案的谈判授权草案，将严格禁止“对人类安全造成不可接受风险的人工智能系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。该草案还要求人工智能公司对其算法保持人为控制，提供技术文件，并为“高风险”应用建立风险管理系统。每个欧盟成员国都将设立一个监督机构，确保这些规则得到遵守。...PC版：https://www.cnbeta.com.tw/articles/soft/1403101.htm手机版：https://m.cnbeta.com.tw/view/1403101.htm

专家警告欧盟人工智能监管法案或严重打击开源工作的积极性

专家警告欧盟人工智能监管法案或严重打击开源工作的积极性针对欧盟拟议的开源人工智能监管新政，无党派智囊团Brookings已于近日表达了明确的反对意见。其在文章中指出——新规强加给通用人工智能系统的法律责任，也将对该领域的技术发展造成严重的破坏。根据欧盟的“人工智能法案”草案，开源开发者也必须遵守风险管理、数据治理、技术文档和透明度、以及准确性和网络安全标准等方面的指导方针。截图（来自：Brookings）布鲁金斯学会分析师AlexEngler断言，若一家公司部署了一套导致某些灾难性后果的开源人工智能系统，那该公司将可通过起诉构建该产品的开源开发人员来试图转移责任，而这样的后果是不堪想象的。这么做或进一步导致未来AI权利被集中到大型科技企业的手中，并对公众想要深入的至关重要的AI研究造成阻碍。最终欧盟对开源领域的监管尝试，可能只会产生一系列危及开源AI贡献者的复杂要求、而无法改进通用AI的使用。2021年的时候，欧盟委员会公示了旨在促进可信赖人工智能的监管草案（AIAct），以期在今秋投票之前广泛征集各行业的意见。尽管该机构原本想要尝试在技术创新与问责之间加以平衡，但据一些专家所述——纸面上的规定，对AI系统的开发工作提出了相当繁重的要求。据悉，该法案包含了对某些类别的开源AI的例外情况，比如专用于研究和控制以防止滥用的那些。但正如AlexEngler所指出的那样，想要无死角封堵这些项目进入商业系统是相当困难的，因为它们很可能被恶意行为者滥用。以“StableDiffusion”这款开源文本转图像AI系统为例，尽管其在发布许可中禁止了某些类型的内容，但社区中还是很快冒出了利用此类工具来实施“深度色情伪造”的案例。艾伦人工智能研究所（AllenInstituteforAI）创始人兼首席执行官OrenEtzioni也赞同了这一观点，即当前人工智能监管草案存在多方面的问题。规则带来的沉重负担，或对开源文本生成系统等开发等领域产生寒蝉效应。毕竟单打独斗的开发人员，很难赶上Google和Meta之类科技巨头的水平。欧盟不曾想到这一点——通向监管地狱的道路，竟是该机构在善意驱使下铺就的。尽管对于开源开发者来说，他们本不该承受与商业软件开发商同等的负担。以学生开发者为例，他们可能出于无力遵守欧盟AIAct的考虑，而被迫选择不分发其辛苦打造的软件，结果对科研成果和学术进步都造成了可重复性的寒蝉效应。有鉴于此，Etzioni认为欧盟监管机构不应寻求广泛监管的人工智能技术、而应专注于AI的特定应用。理由是AI存在快速变化和太多的不确定性，以至于迟缓的监管过程无法发挥作用。相比之下，自动驾驶汽车、机器人或玩具等AI应用，更应成为被监管的对象。PC版：https://www.cnbeta.com/articles/soft/1313583.htm手机版：https://m.cnbeta.com/view/1313583.htm