SEC警告人工智能恐将引发“几乎不可避免”的金融危机

SEC警告人工智能恐将引发“几乎不可避免”的金融危机美国证券交易委员会主席加里·詹斯勒(GaryGensler)向英国《金融时报》表示，人工智能系统的日益广泛使用几乎肯定会导致未来十年内金融市场崩溃。Gensler警告说，由于对科技公司开发的人工智能模型的依赖，几乎不可避免的危机将会发生。他还指责金融机构目前用于监控市场、提供建议、自动开户等的人工智能工具缺乏多样性。Gensler表示，解决方案是引入监管，监督生成式人工智能模型以及华尔街实体如何使用它们，这些实体自今年年初以来一直在大量采用该技术。但美国证券交易委员会负责人承认，这将是一个“跨监管挑战”。“坦率地说，这是一个艰巨的挑战，”詹斯勒告诉英国《金融时报》。“这是一个很难解决的金融稳定问题，因为我们的大部分监管都是针对个体机构、个体银行、个体货币市场基金、个体经纪人；这正是我们所做工作的本质。这是一个横向[问题]，许多机构可能依赖相同的底层基础模型或底层数据聚合器。”詹斯勒的情景并不是科技第一次导致金融市场崩溃。早在2010年，一名英国交易员就从其父母位于伦敦的地下室向芝加哥商品交易所发出大量虚假订单，非法操纵市场，引发了一场“闪电崩盘”。这导致美国股市价值蒸发近1万亿美元，然后立即反弹。监管机构表示，高频交易算法是导致崩盘的原因之一。到目前为止，人工智能公司已同意自我监管和管理其技术带来的风险，但政府呼吁加强监管。欧盟正在制定的《人工智能法案》可能会迫使生成型人工智能工具的开发商在全面发布之前将其提交审查。与此同时，美国政府仍在审查该技术，以确定哪些方面需要监管。美国证券交易委员会(SEC)在7月提出了新规则，要求经纪交易商和投资顾问采取某些措施来解决与使用预测分析与投资者互动相关的利益冲突。目的是防止公司将自身利益置于投资者利益之上。虽然摩根士丹利和摩根大通等公司正在使用人工智能模型来帮助交易员和财务顾问，但高盛、德意志银行和美国银行今年早些时候都禁止员工在工作中使用ChatGPT。...PC版：https://www.cnbeta.com.tw/articles/soft/1392029.htm手机版：https://m.cnbeta.com.tw/view/1392029.htm

美国SEC主席再次警告：人工智能可能引发下一场金融危机

美国SEC主席再次警告：人工智能可能引发下一场金融危机他说：“一个日益严重的问题是，（AI）可能会给整个系统带来风险。由于许多金融参与者依赖于中间的一种或两种或三种模型……你创造了单一文化，你创造了羊群。”这种羊群效应可能是危险的，因为如果模型中存在一个缺陷，可能会在紧张时期对市场产生影响，导致市场价格发生突然和不可预测的变化。詹斯勒指出，云计算和搜索引擎等科技产品市场已经迅速被一两个主要参与者所主导。他表示，他担心人工智能技术市场也会出现类似的集中现象。詹斯勒说，由于美国监管机构的分散性，这个问题尤其棘手。美国监管机构依赖SEC监管证券市场，而其他机构则负责银行或大宗商品市场。詹斯勒说：“这更像是一个跨实体的问题。这就是这些新技术面临的挑战。”作为美国SEC主席，詹斯勒在2023年加大了该监管机构对加密货币行业的打击力度，对全球交易量最大的两家数字资产交易所币安和Coinbase提起了诉讼。SEC指控这两家公司在美国经营未经注册的证券交易所，但两家公司表示，它们没有违反证券法。与此同时，詹斯勒正在推进一代人以来最根本的市场结构改革措施。但人工智能是詹斯勒开始敲响警钟的另一个问题。这有点讽刺，因为人工智能的前景在很大程度上是标普500指数在2023年上涨的原因。这位SEC主席表示，他的机构已经在考虑制定新的规则来监管人工智能。例如，SEC今年夏天提出了一项规则，以解决与股票经纪人和投资顾问相关的利益冲突，这些经纪人和投资顾问利用算法通过智能手机应用程序或网络界面预测和指导投资者的决策。该行业正在反对这项提议，辩称现有规则足以防止对投资者造成伤害，而新规则将阻止经纪商利用技术为客户创造更好的体验。詹斯勒在采访中表示，SEC从这些反馈中受益，但仍认为监管机构必须对这些所谓的预测分析工具的影响保持警惕。“如果他们这样做是为了在流媒体应用程序上推荐某部电影，那没关系，”他说，“但如果他们这样做是为了你的经济帮助……我们应该解决这些冲突。”...PC版：https://www.cnbeta.com.tw/articles/soft/1393537.htm手机版：https://m.cnbeta.com.tw/view/1393537.htm

新规渐行渐近 美国SEC主席警告人工智能给金融稳定带来风险

新规渐行渐近美国SEC主席警告人工智能给金融稳定带来风险Gensler将人工智能称为“我们这个时代最具变革性的技术”。他自2021年掌管SEC以来，经常讨论人工智能对金融的影响。他周一表示，随着人工智能领域的最新进展，这些问题变得更加重要。Gensler指出，人工智能可能会加剧金融脆弱性，因为它可能会促使个体们做出类似的决定，原因是他们从基础模型或数据中获得相同的信号。当前的模型风险管理指引是在这一波数据分析新浪潮之前编写的，需要更新，当前并不够。在更微观的层面上，Gensler说企业需要意识到他们对人工智能的使用可能会涉及证券法规。SEC将密切关注：金融欺诈、提高企业回报率、引导投资者选择特定产品等方面的使用。Gensler特别点名上市公司，称他们尤其应该警惕公司声明和有关人工智能可能带来的风险和机遇的披露，是否误导投资者。Gensler表示，财务顾问和券商还可能利用人工智能引导客户购买产品，这其中存在利益冲突，SEC计划对此打击，最早于今年秋天开始考虑有关这些问题的新规则。“当沟通、产品供应和定价能够有效地针对我们每个人时，生产商就更容易找到每个人为购买产品愿意花费的最高价格。”Gensler认为美国SEC的调查人员可以从使用更多的人工智能中受益，包括在监视、分析和执法等方面。对于SEC来说，面临的挑战是，对于其在资本市场中心可能占据主导地位的情况下，促进竞争性和有效性的市场。SEC必须对此进行仔细评估，以便能够继续促进竞争、透明度和公平的市场进入。今年5月Gensler在公开讲话中表示，下一次金融危机可能出现在企业对人工智能的使用上，他对该技术的传播构成的潜在“系统性风险”发出了警告。当前，银行和一些金融机构已经在各种功能中使用人工智能，包括通常涉及评估新客户或检查可疑交易的繁重合规工作。但Gensler说，尽管有可能提高效率，但这些系统应受到严格审查。“你不必理解其中的数学，但你得真正理解风险管理是如何管理的。”他强调了出现有偏见的决定的可能性。随着火遍全球，生成式人工智能产品越来越成为全球各地监管机构的关注焦点。今年5月，拜登政府寻求制定一项国家人工智能战略，以防范错误信息和该技术的其他潜在缺点。上周，美国联邦贸易委员会（FTC）正式调查ChatGPT，为美国监管机构中首次正式调查。FTC调查的重点包括OpenAI旗下聊天机器人ChatGPT是否因发布虚假信息，伤害到相关个人。风险提示及免责条款市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。...PC版：https://www.cnbeta.com.tw/articles/soft/1371515.htm手机版：https://m.cnbeta.com.tw/view/1371515.htm

美国SEC主席提示AI的潜在风险：“羊群效应”或导致金融市场无意间陷入危机

美国SEC主席提示AI的潜在风险：“羊群效应”或导致金融市场无意间陷入危机詹斯勒表示，“在微观层面上，我认为你完全正确，使用人工智能来承保贷款、保险等可能会导致偏见。”他解释说，例如，机器人顾问或经纪自营商必须精心编程，以优化客户的最佳利益，而不是顾问的利益。与此同时，Gensler表示，同样也存在系统性风险，金融公司和投资者都使用相同的人工智能工具可能存在风险。这可能会在市场上产生“羊群效应”，当群体或机构都做同样的事情或依赖同样的工具，而不是独立行动时，就会出现这种情况。“自然经济会导致单一文化，会有基本数据集或基本模型，金融部门的大部分将依赖于它……在此基础上进行交易和承销，”Gensler说。“几十年来，FICO的评分一直就是单一文化，所以我说的这不是什么不寻常的事情，也不是什么新奇的事情。”FICO信用评分是一种量化和评估个人信用度的方法。在美国，90%的抵押贷款申请决策均采用FICO分数。分数范围为300至850，其中670至739范围内的分数被视为“良好”信用分数。Gensler警告说，对于依赖有偏见和缺点的人工智能模型的人来说，“如果你让大部分市场依赖于一个数据集，那么你可能会出现金融不稳定……羊群效应可能会让我们无意中掉下悬崖。”事实上，今年早些时候，Gensler就曾警告说，公司将依赖少数几个占主导地位的人工智能模型，这最终将增加危机的可能性。...PC版：https://www.cnbeta.com.tw/articles/soft/1402893.htm手机版：https://m.cnbeta.com.tw/view/1402893.htm

英国首相顾问警告：人工智能可能在2年内威胁到人类

英国首相顾问警告：人工智能可能在2年内威胁到人类近日，英国政府高级研究与发明局主席兼人工智能特别工作组的马特·克利福德在接受媒体采访时表示，目前的人工智能系统进化速度越来越快，能力也越来越强大。克利福德对此深感不安，他认为，如果人类没能找到控制该技术的办法，或者现在不考虑安全和监管问题，人工智能系统将在两年内变得“非常强大”。他指出，决策者应该作好准备，无论是短期还是长期，都存在许多不同类型的风险，可能出现从网络攻击到制造生物武器等一系列的威胁。“这可能会对人类生存构成非常严重的威胁，仅仅从我们预计两年后会出现的模型来看，可能会杀死很多人，当然，不是所有人。”在克利福德接受采访之前，科技界高管和人工智能科学家联合发布声明称，这项技术带来的灭绝风险堪比疫情和核战。克利福德解释道：“他们谈论的是，一旦我们有效地创造了一个新物种，一种比人类更加聪明的物种，会发生什么情况。”他还表示，乐观地看，我们可能在两年内拥有比人类更聪明的人工智能。这位人工智能专家表示，这听起来像是电影的情节，但确实令人担忧，这也是各国需跨境合作来制定规则的一个原因。根据克利福德的说法，监管机构和开发者的主要关注点应该是了解如何控制这些人工智能系统，然后在全球范围内实施监管。他提醒道：“正在构建最强大人工智能系统的人坦率地承认，他们并不完全理解（人工智能系统）是如何表现出它们所做的行为的，也就是我最担心的事情。”克利福德强调，许多构建人工智能管理组织的领导者也同意，强大的人工智能模型在部署之前必须经过某种审计和评估过程。...PC版：https://www.cnbeta.com.tw/articles/soft/1364265.htm手机版：https://m.cnbeta.com.tw/view/1364265.htm

耶伦警告金融风险，包括人工智能和对冲基金

耶伦警告金融风险，包括人工智能和对冲基金美国财长耶伦周四表示，美国监管机构将把人工智能及其可能构成的威胁作为2024年的首要任务。在美国金融稳定监督委员会发布年度报告之前，耶伦表示，该委员会将专注于监控不断发展的技术和相关风险。该委员会在年度报告中概述了人工智能可能在金融机构引入或放大的一些风险，包括它在贷款中应用歧视性偏见的可能性，尤其是对于像“黑箱”一样运行的人工智能程序，它们的输出结果很难解释。耶伦还提到了该委员会正在密切关注的金融稳定的其他几个风险，从高利率到气候变化和网络威胁。她还特别提到了“金融体系中杠杆率正在上升的领域”，这句话明显指向对冲基金。（环球市场播报）