OpenAI被曝游说欧盟放宽对AI的监管 取消高风险分类

OpenAI被曝游说欧盟放宽对AI的监管取消高风险分类据媒体报道，聊天机器人ChatGPT开发公司OpenAI对欧盟官员进行了游说，旨在影响即将出台的《人工智能法案》，并且取得了成功。上周，欧洲议会全体会议表决通过了《人工智能法案》授权草案，该法案进入欧盟立法严格监管人工智能技术应用的最终谈判阶段。这部草案如正式获得批准，将成为全世界首部有关人工智能的法规。PC版：https://www.cnbeta.com.tw/articles/soft/1366691.htm手机版：https://m.cnbeta.com.tw/view/1366691.htm

美国政府正收集如何对待人工智能的建议 对潜在危害表示担忧

美国政府正收集如何对待人工智能的建议对潜在危害表示担忧美国政府此刻采取这一行动，适逢人工智能工具的使用正在蓬勃发展之际。这些工具可以快速生成类似人类的文字、图像、视频等。一些分析师预计，人工智能实验室OpenAI开发的ChatGPT用户已经达到1亿，比历史上任何消费类应用都要快。美国商务部下属国家电信和信息管理局发出了征求意见的请求，其局长艾伦·戴维森(AlanDavidson)表示：“看到这些工具在相对初期阶段就能做到这些，真是令人惊讶。我们知道，我们需要设置一些护栏，以确保它们得到负责任地使用。”戴维森称，这些意见将被用来协助向美国政策制定者提出关于如何对待人工智能的建议。他补充说，国家电信和信息管理局的法律职责是就科技政策为总统提供建议，而不是撰写或执行法规。目前，科技行业和政府官员已经对人工智能的一系列潜在危害表示担忧，包括利用该技术犯罪或传播虚假信息。上月，科罗拉多州民主党参议员迈克尔·班纳特(MichaelBennet)写信给几家人工智能公司，询问公共实验的事情，孩子的安全是他最关心的问题。在这些实验中，聊天机器人向冒充年轻人的用户提供了令人不安的建议。“关于人工智能可能带来的爆炸性好处和坏处，人们正在进行非常活跃的讨论，”康涅狄格州民主党参议员理查德·布卢门撒尔(RichardBlumenthal)在接受采访时说，“对国会来说，这是一个终极挑战，一个高度复杂和技术性的挑战，事关重大，非常紧迫。”拜登总统上周在白宫与一个科学家顾问委员会讨论了这个话题。当一名记者问及这项技术是否危险时，拜登表示：“仍有待观察。有可能有危险。”这个委员会中的成员包括微软和谷歌的代表。他们和其他发布人工智能系统的公司表示，他们正在不断更新安全护栏，比如通过编程让聊天机器人不回答某些问题。与此同时，包括埃隆·马斯克(ElonMusk)在内的科技领袖最近呼吁暂停开发比GPT-4更强大的系统六个月。GPT-4是OpenAI在大约一个月前发布的新版聊天机器人。他们警告称，OpenAI与谷歌等竞争对手之间正在展开的竞赛，没有对潜在风险进行充分地管理和规划。美国司法部反垄断部门表示，它正在监测AI领域的竞争。美国联邦贸易委员会则警告企业，它们可能会因对人工智能产品做出虚假或未经证实的声明而面临法律后果。...PC版：https://www.cnbeta.com.tw/articles/soft/1354135.htm手机版：https://m.cnbeta.com.tw/view/1354135.htm

新加坡南大研发越狱技术 让聊天机器人互相突破开发者权限

南洋理工大学的电脑科学家利用多个人工智能聊天机器人，制定出可让这些聊天机器人互相突破开发者权限或业界俗称“越狱 […]

AI 女友涌入 OpenAI 的 GPT 商店

AI女友涌入OpenAI的GPT商店OpenAI的GPT商店提供了“定制版”的ChatGPT，在该商店中搜索“女友”，至少会找到八个“女友”人工智能聊天机器人，包括“韩国女友”、“虚拟甜心”、“你的女友斯嘉丽”等。女友机器人违反了OpenAI的使用政策，该公司禁止“致力于培养浪漫伴侣关系或执行受监管活动”的GPT。来源，频道：@kejiqu群组：@kejiquchat

美国参议院建议拨款 320 亿美元支持 AI，透露了哪些监管风向？

美国参议院建议拨款320亿美元支持AI，透露了哪些监管风向？美国AI立法拉开序幕。当地时间5月15日，参议院AI工作组发布《推动美国在AI领域的创新：参议院AI政策路线图》（简称《路线图》），用于指导美国国会监管人工智能，提供立法框架。如文件名所写，这份长达31页的《路线图》提出了大量鼓励性的政策，比如每年划拨320亿美元的研发经费，但几乎没有提到具体的风险治理措施。文件划出了投资的重点应用，包括人工智能研发、半导体、机器人、材料研究、智慧城市和交通系统。参议院领袖查克・舒默在新闻发布会上称，这笔资金用于非国防用途的人工智能，“有助于巩固美国在AI领域的主导地位。”

OpenAI执行长寻求美国会授权开发强大人工智能

OpenAI执行长寻求美国会授权开发强大人工智能美国人工智能公司OpenAI首席执行长星期二（5月16日）在一听证会上向美国国会寻求许可，以支持该公司开发更强大的人工智能（AI）系统。路透社报道，OpenAl创始人奥特曼（SamAltman）的书面证词显示，他将提倡对具有某些能力的人工智能寻求国会的许可或注册要求。这样一来，美国当局便可要求公司遵守安全标准，例如在AI系统发布前进行测试并公布结果。阿特曼说：“对人工智能的监管是至关重要的。”近几个月来，各大AI公司先后将愈发智能化的AI工具推向市场，批评者担忧AI技术的高速发展或对社会和人类构成深远的风险。白宫为此召集了包括奥特曼在内等专家，以商讨人工智能系统的安全性。美国立法者则寻求采取约束行动，旨在不影响技术发展的情况下维护国家安全。据了解，OpenAI一名工作人员曾提议设立一个美国人工智能监管机构，该机构可被称为人工智能安全和基础设施安全办公室，或称“Oasis”。不过，奥特曼并未在书面证词中针对设立AI监管机构作出回应。但他指出，美国应制定“一个足够灵活的治理制度，以适应新的技术发展”，并“定期更新适当的安全标准”。ChatGPT是一种自然语言处理（NLP）技术，使机器能够理解和回应人类对话。它基于GPT-3模型，这是一种深度学习算法，可以对问题和对话生成类似人类的回应。ChatGPT用于各种应用程序，包括客户服务、虚拟助手和聊天机器人。