美国监管机构首次正式调查ChatGPT FTC朝OpenAI“开火”

美国监管机构首次正式调查ChatGPTFTC朝OpenAI“开火”FTC的这份调查，意味着美国监管机构首次正式发起对人工智能聊天机器人带来的风险的审查。由LinaKhan领导的FTC拥有广泛的权力，来监管不公平的和具有欺骗性的商业行为。FTC的调查意味着ChatGPT这一当前全球最火的应用程序面临潜在的法律威胁。FTC在信中写道：请详细描述您在多大程度上采取了措施，来解决或减轻您的大型语言模型产品可能生成有关真实个人的虚假、误导或诽谤性陈述的风险。当前立法者们特别担心所谓的深度伪造视频的风险，这些视频错误地描绘了真实的人采取的令人尴尬的行为或发表令人尴尬的言论。不过相关业内人士认为，FTC管的太宽。媒体援引科技贸易组织进步商会首席执行官AdamKovacevich的话说，“当ChatGPT对某人说错话并可能对其声誉造成损害时，这是FTC管辖权内的问题吗？我认为这根本不清楚。此类事情更多地属于言论领域，属于言论管制范畴，超出了FTC的权限。”FTC还在信中询问有关OpenAI公司数据安全实践和隐私的具体问题，看其是否存在不公平或欺骗性行为。FTC援引了2020年的一次事件，当时OpenAI披露了一个错误，该错误允许用户看到其他人的聊天对话信息和一些与支付相关的信息。FTC的信中总计提出了数十个问题。其他主题包括：ChatGPT设计的技术细节，训练人工智能模型的实践，OpenAI公司的营销工作，对用户个人信息的处理，用户投诉的有关情况，公司如何评估人们对聊天机器人准确性和可靠性的理解等。FTC要求OpenAI公司分享相关的内部材料。FTC此次出手早有征兆。今年5月，FTC便发出警告，称其正在密切关注企业如何选择使用人工智能技术，包括新的生成式人工智能工具，以对消费者产生实际和重大影响。周四当日，LinaKhan在美国众议院司法委员会作证，她因其强硬的执法立场而遭到共和党议员的强烈批评。在听证会上被问及对OpenAI的调查时，Khan拒绝发表评论，但表示：FTC更广泛的担忧包括，ChatGPT和其他人工智能服务被训练了大量数据，而没有检查什么样的数据被这些公司所使用。我们听说有报道称，在回应其他人的询问时，人们的敏感信息被泄露。我们听说，诽谤性言论以及完全不真实的事情正在发生。这就是我们所担心的欺骗。随着火遍全球，生成式人工智能产品越来越成为全球各地监管机构的关注焦点。今年5月，拜登政府寻求制定一项国家人工智能战略，以防范错误信息和该技术的其他潜在缺点。今年3月，意大利监管机构一度禁止ChatGPT，同时检查该公司对个人信息收集的情况等。几周后，在OpenAI提高了其隐私政策的可访问性并推出了验证用户年龄的工具后，ChatGPT在意大利恢复上线。...PC版：https://www.cnbeta.com.tw/articles/soft/1370761.htm手机版：https://m.cnbeta.com.tw/view/1370761.htm

【AI与数字政策中心敦促美国FTC调查OpenAI违反消费者保护规则的行为】

【AI与数字政策中心敦促美国FTC调查OpenAI违反消费者保护规则的行为】专注于人工智能的技术伦理组织AI与数字政策中心（CAIDP）向美国联邦贸易委员会（FTC）投诉，要求FTC调查OpenAI违反消费者保护规则的行为，该组织认为GPT-4具有偏见性、欺骗性、对隐私和公共安全构成风险。CAIDP认为，OpenAI违反了FTC法案第5条，该法案禁止不公平和欺骗性的商业行为。在投诉中，CAIDP要求FTC停止GPT模型的任何进一步商业部署，并要求在未来推出任何模型之前对模型进行独立评估。

AI警报频发：美国副总统约见企业CEO FTC主席撰文呼吁监管

AI警报频发：美国副总统约见企业CEOFTC主席撰文呼吁监管同时，美国联邦贸易委员会（FTC）主席莉娜·汗（LinaKhan）在《纽约时报》撰文称，必须监管人工智能，保护美国人免受不公平或欺诈行为的侵害。美国联邦贸易委员会主席莉娜·汗。继“人工智能教父”杰夫里·辛顿（GeoffreyHinton）发出警报后，微软首席经济学家迈克尔·施瓦茨（MichaelSchwarz）当地时间5月3日表示，相信人工智能将被不良分子利用，造成真正的破坏。英国也对AI市场展开审查彭博社援引一位白宫官员的话称，哈里斯和政府官员计划告诉上述科技企业领导人，他们有责任减轻人工智能工具的潜在危害。这次会面的邀请函称，美国政府正在寻求“坦诚讨论我们每个人在当前和近期人工智能发展中看到的风险、减轻这些风险的行动，以及我们可以共同努力以确保美国人民受益于人工智能的进步，同时免受其危害。”除副总统外，白宫办公厅主任杰夫·齐恩茨、商务部长吉娜·雷蒙多、国家安全顾问杰克·沙利文和拜登的技术顾问阿拉蒂·普拉巴卡尔预计将出席。拜登的经济顾问莱尔·布雷纳德、高级顾问苏珊·赖斯和布鲁斯·里德以及白宫顾问斯图尔特·德勒里也将参加会议。白宫官员说，这次会议是让企业、研究人员和民间社会参与进来的更广泛努力的一部分。在ChatGPT发布后，最近几个月全球生成式人工智能工具的使用激增，批评者对这项技术提出了担忧，包括可能存在的偏见、侵犯隐私、导致错误信息或诈骗蔓延。上周，七国集团数字与技术部长会议同意对人工智能采取“基于风险的”监管。而欧盟立法者也就人工智能法案达成了初步协议。据《金融时报》当地时间5月3日报道，英国竞争和市场管理局（CMA）将对人工智能市场展开审查。该机构负责人萨拉·卡德尔（SarahCarDELL）表示，CMA将审查“基础模型”以及“围绕这些模型的市场如何发展”。CMA将评估“该领域的真正机会”，同时“在确保竞争有效运作和消费者得到保护方面，我们应该制定什么样的护栏措施和原则”。而在美国，商务部4月曾表示正在考虑要求AI模型在发布前经过认证程序的法规。“正面临另一个选择时刻”当地时间5月3日，美国联邦贸易委员会主席莉娜·汗撰文称，“由于生成式人工智能的快速发展，我们中的许多人现在已经体验了这种潜在的革命性技术，它对世界各地人们的生活、工作和交流方式产生了巨大影响。生成式人工智能的全部潜力仍有待商榷，但毫无疑问它将具有高度破坏性。”汗回忆了2000年代中期Web2.0时代的到来，像Facebook和Google这样的新兴创新公司彻底改变了通信方式，并为快速增长的用户群提供了流行的服务。然而，这些创新服务的成本很高。“我们最初设想的免费服务是通过对使用这些服务的人员和企业进行广泛监控而变现的。其结果是出现了在线经济，在这种经济中，越来越多基本服务的获取取决于我们个人数据的广泛囤积和销售。”“这些商业模式驱使企业开发无休止的侵入性方式来跟踪我们，联邦贸易委员会后来找到理由确认其中几家公司违法了。再加上收购或锁定威胁其地位的公司的激进战略，这些策略巩固了少数公司的主导地位。”汗写道，“最初是一组革命性的技术，最终将巨大的私人权力集中在关键服务上，并锁定了以我们的隐私和安全为代价的商业模式。”而现在，正面临另一个选择时刻。“人工智能的广泛采用存在进一步锁定现有大型科技公司市场主导地位的风险。少数强大的企业控制着初创企业和其他公司开发和部署人工智能所需的必要原材料、工具，这包括云服务和计算能力，以及海量数据存储。”汗写道，占主导地位的公司可以利用对这些关键投入的控制来排除或歧视下游竞争对手，与此同时，AI企业用来为各种商品定价的工具可能会助长抬高价格的串通行为，以及精准定位的价格歧视。此外，汗表示，AI可能还没有准备好取代专业作家，但已经可以比骗子更好地制作看似真实的信息，甚至指示机器人使用针对特定群体和社区的单词或短语。例如，诈骗者可以根据个人用户的社交媒体帖子起草针对性很强的网络钓鱼电子邮件。除了创建深度伪造视频和语音克隆的工具外，这些技术还可用于促进大规模欺诈和勒索。汗表示，面对1960年代后期的反垄断审查，计算机巨头IBM将软件从其硬件系统中分离出来，促进了美国软件行业的崛起并创造了数万亿美元的增长。政府行动要求AT&T开放其专利库，同样释放了数十年的创新，并刺激了无数年轻公司的扩张。现在，联邦贸易委员会正在密切关注，如何才能促进公平竞争并保护美国人免受不公平或欺诈行为的侵害。微软经济学家也发声包括Twitter首席执行官埃隆·马斯克在内的一些知名科技领导者，已经呼吁美国联邦政府实施新规定。辛顿5月1日加入批评者行列，称大型科技公司在向公众部署人工智能方面进展太快，人工智能实现类似人类的能力的速度超过了专家预测，很快会对人类构成威胁，他还宣布已辞去Google的研究工作。被称为“人工智能教父”的杰夫里·辛顿。在5月3日的世界经济论坛活动上，微软首席经济学家施瓦茨也发布了警告。他在一个关于生成式人工智能的小组会议上发言称，“在人工智能取代你所有的工作之前，它肯定会在垃圾邮件发送者手中造成很大的损害，这些人想要操纵选举。”施瓦茨的警告值得关注，因为微软2019年就向OpenAI投资了10亿美元，今年1月又宣布对OpenAI进行新的投资。OpenAI依靠微软提供计算能力，这种关系可能会为微软带来高达300亿美元的年收入。但施瓦茨的态度仍然十分缓和，他说，人工智能显然必须受到监管，但立法者应该谨慎行事，等到该技术造成“真正的伤害”。施瓦茨表示，所有新技术，甚至汽车，在首次进入市场时都会带来一定程度的风险。“当人工智能让我们更有生产力时，我们人类应该过得更好。”他说，“因为我们能够生产更多的东西。”彭博社专栏作家帕米·奥尔森（ParmyOlson）当地时间5月3日撰文称，辛顿的警报如果早几年出现会更有效。这一事件凸显了AI研究中的一个长期问题：大型科技公司对AI研究的控制如此之大，以至于就职这些公司的许多科学家害怕表达担忧，因为担心会损害职业前景。2018年，Google前研究经理梅雷迪思·惠特克（MeredithWhittaker）在协助组织2万名Google员工罢工后，不得不花费数千美元聘请律师。两年后，GoogleAI研究人员蒂姆尼特·格布鲁（TimnitGebru）和玛格丽特·米切尔（MargaretMitchell）在发布了一篇强调大型语言模型风险的研究论文后被解雇。2015年，《纽约客》的一篇文章描述了辛顿当时的态度。在被问到为什么还在从事AI研究时，他说，“发现的前景太美好了”，Google在部署人工智能方面表现得“非常负责任”。如今，辛顿的离职和警告，将有望激发大型科技公司的其他研究人员说出自己的担忧。...PC版：https://www.cnbeta.com.tw/articles/soft/1358197.htm手机版：https://m.cnbeta.com.tw/view/1358197.htm

ChatGPT可能泄露商业机密 美国FTC称将重点关注AI违法行为

ChatGPT可能泄露商业机密美国FTC称将重点关注AI违法行为以色列网络安全公司Team8的最新报告显示，使用ChatGPT等生成式人工智能的企业可能会因此泄露客户信息和商业机密。该报告称，新型人工智能聊天机器人和协作工具的广泛普及，可能会令一些公司面临数据泄露和法律风险。他们担心黑客可能会利用聊天机器人获取敏感的企业信息或对企业发动攻击。此外，目前投喂给聊天机器人的机密信息未来也有可能会被人工智能公司利用。Team8在报告中强调，聊天机器人的查询并不会被输入大预言模型来训练人工智能，而与之相悖的是，最近的报告声称这样的提示信息有可能会被其他人看到。美国联邦贸易委员会（FTC）官员周二表示，该机构将重点关注滥用人工智能技术违反反歧视法或存在欺骗行为的公司。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

人工智能政策小组称，FTC 应阻止 OpenAI 推出新的 GPT 模型

人工智能政策小组称，FTC应阻止OpenAI推出新的GPT模型人工智能和数字政策中心(CenterforAIandDigitalPolicy，简称CAIDP)日前提出投诉，要求美国联邦贸易委员会(FederalTradeCommission，FTC)调查OpenAI违反消费者保护规则的行为，认为OpenAI推出的人工智能文本生成工具“有偏见，有欺骗性，并对公共安全构成风险”。CAIDP认为，GPT-4越过了伤害消费者的界限，应该引起监管行动。在投诉中，CAIDP要求FTC停止任何进一步的GPT模式的商业部署，并要求在未来推出任何模式之前对其进行独立评估。FTC已经表达了对人工智能工具的监管兴趣。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot

【又一组织对OpenAI发出控诉，要求FTC调查并暂停其ChatGPT部署】

【又一组织对OpenAI发出控诉，要求FTC调查并暂停其ChatGPT部署】2023年03月31日07点12分老不正经报道，据美国科技媒体TheVerge发文表示，当地时间周四，非营利组织人工智能与数字政策中心(CAIDP)向美国联邦贸易委员会(FTC)投诉，要求FTC调查OpenAI违反消费者保护规则的行为，该组织认为GPT-4“具有偏见性，欺骗性，对隐私和公共安全构成风险”。CAIDP认为，OpenAI违反了FTC对人工智能(AI)产品的指导，并违反了FTC法案第5条，该法案禁止不公平和欺骗性的商业行为。CAIDP敦促FTC对OpenAI进行调查，并暂停其大型语言模型的商业部署，包括ChatGPT的最新版本。