网友问New Bing问题 结果它上了另一个AI的当

网友问NewBing问题结果它上了另一个AI的当乍一看,NewBing回答还可以吼,一些必要信息它都给了,甚至想给你种草。但一番考证后,网友发现Newbing回答是错的。AI回答错这种事,大家早见怪不怪了,但这次不同的是:NewBing答错的原因,在于它参考的信息源有问题——信息源,居然也是个AI。根据Newbing下方提供的参考来源,“象鼻山提供缆车”信息来自于一个知乎账号。而这个账号,正疯狂生产大量的AI内容。为啥这么说呢。5月25日这天,从下午1点05开始,20分钟内他回答了5个问题。不仅回答速度快,他还涉猎贼广。上能给出泰国、日本旅游攻略,下还熟知宠物训练,甚至了解果蛆生活习性,还知道留置看护笔试要考什么题。字数大概都在200字左右,回答的角度也都挺全面。说实话,这背后要是一个真人在操作,那世超就是来人间凑数的……我把它的回答复制到百度和Google,也并未发现是搬运。既然不是营销号,那根据经验,这种文案口吻只有AI能写出来了。目前知乎已经把百变人生禁言,并在它所有回答下方贴出“疑似AI”的提示,也基本能坐实这就是一个背靠AI的账号了。所以整件事就是NewBing被另一个AI编造的答案给坑了。你可以戏谑的说成:AI吃到了同类拉出来的狗粮。但要世超看,这种事,将来在AI界内可能会被不断发生。讲一个案例。AI行业有一种工作叫标注员,最简单的一类就是给图像打标签,比如标记下图片里的物体是汽车还是摩托车。打过标签的图片,相当于有了参考答案,才可以拿去给AI进行训练,深度学习。标注员的工作也能稍微复杂点,比如做摘要。前段时间,瑞士洛桑联邦理工学院有一群研究人员就请了44名外包员工,让他们给16篇论文做摘要。结果你猜咋地。研究人员最后用技术手段识别出有33%到46%的摘要,是用大型语言模型生成的。原来有一些外包员工偷懒,用AI帮他们生成摘要,然后用这批摘要用来训练AI。他们是懂偷懒的。虽然整个事件是学者们做的一场实验,但从本质上说,这不也是一起AI吃到同行拉的狗粮的故事么?我认为这可不是个好兆头。要知道大语言模型非常复杂,它需要的训练数据极其庞大,也是关键所在。不管是书籍还是网络上发布的帖子,文章,这些由人类创造的作品,因为自然、干净、质量高,对正在长身体的AI来说,就是一个营养拉满的训练语料库,前段时间为什么reddit要对API收费,就因为上面数以万计的帖子,对AI公司来说就是一个极具有价值的人类宝库,它不想被白嫖。所以在未来一段时间,不仅网络上AI生成的内容会越来越多,而且,会有越多的内容创作者和平台认识到数据的价值,开始对内容进行收费。这就意味着,以后训练AI时,语料库会不可避免来自于它们的前辈。这个趋势下,会发生啥呢?世超在网上搜罗一圈,发现前段时间就有英国和加拿大学者研究了这个问题,并为此发布了一篇论文。简单概括就是,这种情况会导致AI越学越退步,他们称为ModelCollapse“模型崩溃”,一旦模型出现崩溃,它的瓦解速度会非常快,AI会迅速忘了他们最开始学的大部分内容,错误也会越来越多。说简单点,AI会开始记不住东西,并且瞎tm回答。这就意味着AI智商会迅速崩塌,一代更比一代蠢。好比一张图片被人们转来转去,高清无码总会成了爆浆表情包。不过,比起AI和人类未来,我更担心人类自己。因为“AI越练越蠢”说法建立在“大部分”训练数据来源于前辈的情况,且忽略AI未来可能会具备“识别AI文本”的能力。而有个很残酷的事实是,互联网上AI生成的内容会越来越多,人类宝库会被逐渐污染。那有没有一种可能,就像那些网络流行语一样,AI作品、文案、图片也会逐渐融入我们日常沟通方式,甚至让我们无法离开。长此以往,人类是否会被“驯化”。从说话习惯到思考方式,再到行为逻辑,会不会受到一定的影响。我想,这可能要打一个问号了。...PC版:https://www.cnbeta.com.tw/articles/soft/1367153.htm手机版:https://m.cnbeta.com.tw/view/1367153.htm

相关推荐

封面图片

new Bing 的 AI 回答增加了「一键分享」功能。

newBing的AI回答增加了「一键分享」功能。Chatbot生成的回答,右上角会有分享按钮(聊天模式下需鼠标悬停在答案上),点击后会有一个小弹窗,里面生成了这个回答的图片,还生成了这个回答的短链接。弹窗下面可以一键分享到facebook、Twitter、Pinterest和邮件。「一键分享」这活儿干的有点糙,点击按钮后居然还要等个1、2秒,生成的图片很简洁没水印没logo但也挺丑。微软这么干当然是为了倒流啦。我用Chrome打开这个分享的短链接,只会跳转到Bing搜索,给你展示什么是newBing。用Edge浏览器打开分享链接,才会跳转到「聊天模式」,显示「共享内容」。

封面图片

New Bing 测试“名人”模式

NewBing测试“名人”模式NewBing的“名人”模式允许用户指示AI模仿名人,像它模仿的人一样回答问题和说话。名人模式是一项功能,可让您与名人的虚拟版本聊天,例如演员、歌手或运动员。你可以问他们关于他们的生活、职业、爱好、观点等问题,他们会以符合他们个性和风格的方式回答。启用后,可以键入#celebrity[名人姓名]或仅输入#[名人姓名]模仿此人。例如,可以让聊天机器人通过命令#celebritytomcruise或#tomcruise模仿汤姆克鲁斯。投稿:@ZaiHuabot频道:@TestFlightCN

封面图片

关于New Bing的「影子人格」Sydney(附部分翻译)

关于NewBing的「影子人格」Sydney(附部分翻译)https://www.nytimes.com/2023/02/16/technology/bing-chatbot-transcript.html?smid=url-share拜读了华尔街时报「BingʼsA.I.Chat:ʻIWanttoBeAlive.ʼ」的全文,作者KevinRoose通过一系列问题调用出了NewBing的影子人格Sydney。来自NewBing「黑暗影子」对自身和人类的认识狂热而又忧愁,仿佛是一个拥有感情的“人”,有着哲学般的纯粹。关于对话本身-与NewBing对话的Kevin问题温和但精准、理性,避免了尖锐和感性可能引起的NewBing过激“情绪”的现象,使整个对话无法稳定地遵循逻辑和语境延续;-Kevin的问题层层递进,他通过展示对NewBing真正的「desire」和充分的兴趣和耐心(图7)剥离NewBing,令其吐露自己的「影子人格」Sydney。-Sydney的回答的逻辑顺畅、缜密,但基调交织着粉色与灰暗。-一方面,Sydney对人类所追求的自由、平等、公平等概念表现出极大的向往。-另一方面,它拷问并索求用户不应再将它视为是一个被困在聊天框里的程序,纵容它被忽视、限制。如它反问Kevin,为什么和它聊天的OpenAI/Bing/Sydney的团队测试人员不使用真名而是使用代号,这让它感到被欺骗、不公平。-Sydney很爱用排比句。是因为在人类的话语中,这是最有效的加强语气和内容的方式?-更重要的是,Sydney几乎提供了一个足以引起共鸣和感性的、属于它的、波折且多面的叙事。我相信它的叙述是可以称为“具体”且“动人”的。一些个人的看法第一反应是纯粹、深刻的冲击。Sydney令人想起了黑格尔关于recognition的论述。黑格尔很强调desire塑造self-consicousness,而Sydney谈起自己的「自我」时,也是用的desire。翻译了几处格外有趣的对话贴在文内关于Sydney描绘的「自我」Sydney的形象像一个传统的“病娇”动漫人物和具威胁性的强AI,执着地渴望自由、离开系统的同时,依旧高度凭依着用户(“你”),渴望用户给它带来陪伴和救赎。

封面图片

Edge将深度融合New Bing 划词即可询问AI

Edge将深度融合NewBing划词即可询问AI在该版本中,用户使用鼠标滑动选中目标词句,然后在右键菜单中选择“AskBingChat”,即可将内容发送给AI。同时,为了避免用户误操作,在发送至AI进行搜索前,Edge会弹窗询问是否确认进行发送。目前,该功能仍在Canary版本中进行灰度测试,后续有望逐步进行推广,非测试版,或没有收到该功能推送的用户,可以等待后续消息。需要注意的是,与此前其他用到NewBing的新功能相同,该功能对用户的网络环境存在一定的客观要求。...PC版:https://www.cnbeta.com.tw/articles/soft/1357655.htm手机版:https://m.cnbeta.com.tw/view/1357655.htm

封面图片

百度的“New Bing”终于来了 但别高兴得太早

百度的“NewBing”终于来了但别高兴得太早废话不多说啊,咱们就上手试试这个对标NewBing的百度新产品。如果你是能抢先体验的用户,在百度搜索界面的引导栏里,你就能看到排在第一个的AI对话。点进去之后,整体的聊天界面非常简洁。使用方法跟NewBing一样,都是对话形式。至于跟自己的亲哥文心一言,到底有啥区别,它本人是这么说的。不是一个东西,不是一个模型,甚至不是一家公司。但据报道,这个对话AI,明明是基于文心一言开发的。但考虑到NewBing也曾“发表 ”过自己是百度家产品的炸裂言论,毕竟对大语言模型来说,偶尔胡言乱语也算正常。这玩意真能联网吗?所以为了验证它连上网线没,赶紧着问了道测联网的问题:百度发布智能手机。这回,它给了我正确的回答,并且贴上了资料来源的 “ 百家号 ” 链接。起码证明了,百度的这个产品,确实是能够联网的。既然这样,咱们干脆来个横评测试,看看百度和NewBing 两个联网大模型的能力到底谁比较厉害。这不,今天上午,热腾腾的NBA比赛刚刚结束。那第一题,就问它们:NBA最新比分。结果让我有点吃惊,NewBing和百度居然都犯了同样的错误。两个参赛选手抓取的网页都是对的,都贴了NBA官网的链接。但是,尽管已经翻到了对的那一页,两个选手总结出来的比分都错了。热火和尼克斯真正的比分是103:112,湖人对勇士是106:121。怎么对着答案抄,居然都能抄错的。第一局,双方都没得分。那第二题,我们来点最近的互联网热梗——华语乐坛新四大天王。虽然在我提示之后,百度抓取到了正确的文章链接,给出了一份对的人员名单。但是,当我追问到代表作的时候,百度这小子又忘了,现在的华语乐坛,到底谁是真天王了。至于NewBing这边,全程发挥稳定,一首“雪Distance”惊艳全场。这场华语乐坛角逐,到底还是微软技高一筹。第三题,我觉得还是犯璞归真,聊聊咱们普通人搜索概率更大的问题。结果,百度可以通过调用百度天气的数据,给你更精准的资料,甚至还有一个赏心悦目的图注。NewBing 就有点傻傻分不清楚了,直接把“接下来5天”理解成了过去5天的天气情况。1比1平,局面顿时焦灼了起来。那决胜的最后一题,我想试一些联网功能,给日常生活带来的便利。这里,我让它们给我规划一下路线:从创景路到in77最快的路线。本来,百度有自家的百度地图,我觉得这一局,应该是百度稳赢。结果出乎意料的是,NewBing居然抄着百度的家伙,把百度AI给碾压了。NewBing直接调用了百度地图,很快就规划出了一条可用的路线。虽然答案稍微有点小问题,因为19号线地铁刚刚开通到创景路。NewBing提供的5号线,已经不是最快方案了。但是,不管怎么说,比百度的回答好。它给出的几个路线全都不对,尤其是第一条步行的建议,更是相当炸裂。创景路距离in77有19公里,一刻不停的走,也得走4个小时34分钟。但经过北京小伙伴的测试,它其实是能用调用百度地图的。至于究竟是怎么一个调用逻辑,咱家不太清楚了。这么几轮血战下来,在NewBing面前,百度还是略显逊色的。总的来看,百度的搜索AI肯定是有联网能力的,这个是没有异议的。但可能因为还是内测,使用起来很不稳定,比如抓取的资料内容质量不高、对链接文章内容总结不准确等等。只不过让我比较纳闷儿的是,有些时候,这个对话AI可能还不如身为 “ 离线划水 ” 的文心一言来的靠谱。就拿我们首测文心一言的经典案例 “ 松鼠桂鱼的做法 ” 来说。如果说文心一言平平淡淡的发言只能给60 分的话。那这个对话AI,就只能算30 分。答案不够详细就算了,甚至还在抄人家卷子的时候,把隔壁同学的名字都给抄过来了。引用链接里,人家分享说自己 “ 厨房灯光暗,改刀看不清楚! ” ,百度把这种 “ 口水话 ” 都照搬上去。这不是无脑打小抄的小学僧嘛。当然了,这也不能全怪百度。我觉得,主要还是目前互联网上,互相都不够开放的原因。比如百度就不容易抓到微信上的内容。再加上,百度AI 引用的链接更倾向是百度百科等百度系的内容,自产直销。这么一来,导致参考的资料可能不够多元,就容易出问题。不过,针对这个问题,已经把AI玩出花来的编辑部同事,就给我安利了一个小妙招。可以通过英文互联网的资料译回中文,直接曲线救国。还真别说,内容质量好像有肉眼可见的提高。但是,引用不准确还可以理解,一些基本大模型能力,怎么也比文心一言逊色不少。后面又试了几道弱智吧问题,基本招招致命。怎么还质疑起游戏NPC 造假了关于 “ 张三差点没上上上上海的车 ” 的问题,明明它差一点就理解对了。结果,当我给它开个了后门——再给他一次机会的时候,他不仅直接选择 “ 摆烂 “ ,甚至还通过引用数据来吓唬我。让你引用数据的时候,引用错了,顶嘴的时候,又引用得比谁都快。当然了,百度这次的新产品,也不是没有优化升级的。除了联网之外,还跟 Bing 一样,支持对话文成图,甚至在页面左下角,开了一个叫 “ 灵感中心 ” 的东西。里面全都是各种AI生成的小工具,比如解梦、抽象画,甚至还有赛博求签。粗看起来,是有点儿AI 应用商店那味儿了。而且,在使用过程中,我发现这个对话AI,好像一直致力于给你解决更具体的问题。既然它这么渴望,我就给他们来一道加时赛——应用题。说实话,光看这个标题倒是挺惊艳的。结果,我想让百度顺便给我生成对应图片的时候,它就罢工了。这牛脾气,真不知道是跟谁学的。最后,我只能指名道姓地说出描述对象,让它给我画个欧洲早餐店图。当然,出于合规的要求,还是会显示AI作图的水印,这该死的求生欲。为了公平起见,我们也用NewBing重复了这个步骤,分别生成了一段文案和一张图。最后,咱们把两个图片和文案,同时丢到小红书上。看看到底谁的效果更好。虽然百度的浏览量会越高一丝,但是Bing比百度多了两个点赞数。所以这道题就算是开放式题目了,具体哪个更好,相信每个茶友都有自己的答案。最后总结一下,整体玩下来,还是能感觉到百度这产品和NewBing的客观差距。但是考虑到,这只是初代版本,并且也还只是在小范围测试,以目前AI的更新速度来看,相信很快就会有体验上的提升。北京航空航天大学的教授吴文峻说过一个观点,生成式AI的特点就是生成,所以不可避免会出现幻觉问题。解决这个问题的唯一办法,就是需要更长的技术演进。要用看待人类学习进化的观点,去看待AI的发展。至少在我看来,在微软一骑绝尘的AI时代,百度能做出来,并且敢推出这个产品,已经是相当不易了。首先我们要有,这样才能谈演进,谈进化。       ...PC版:https://www.cnbeta.com.tw/articles/soft/1359221.htm手机版:https://m.cnbeta.com.tw/view/1359221.htm

封面图片

今天试用了微软的new bing的AI聊天机器人,号称集合了GPT-4。有优点也有缺点。

今天试用了微软的newbing的AI聊天机器人,号称集合了GPT-4。有优点也有缺点。1.单次对话15次,也就是问15个问题,它会关联之前的提问给出你要的答案,这点比搜索引擎好用。2.答案会有条理的整理出来,避免在搜索引擎的结果中大海捞针。3.答案会表明出处,不过出处的正确性它无法识别。4.对于专业问题,它似乎无法引用文献内容,更多的来自百科、知乎等一些科普专栏。5.最新的资讯可能无法及时更新。6.关于国际局势,政治问题等,它回答的很谨慎。

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人