Google员工给Bard贴上"糟糕透顶"和"病态说谎者"的标签

Google员工给Bard贴上"糟糕透顶"和"病态说谎者"的标签在这些内部讨论中,一名员工指出Bard如何经常给用户提供危险的建议,无论是关于如何降落飞机还是潜水的话题。另一名员工说:"Bard比废物还糟糕:请不要发布它。"彭博社说,该公司甚至"否决了一个内部安全小组提交的风险评估",说该系统还没有准备好用于普遍使用。无论如何,Google在3月开放了对这个"实验性"机器人的早期访问。彭博社的报告表明,Google为了追赶微软和OpenAI等对手,显然已经把道德问题放在一边。该公司经常吹嘘其在人工智能方面的安全和道德工作,但长期以来一直被批评为以商业为优先。2020年底和2021年初,该公司解雇了两名研究人员-蒂姆尼特·格布鲁和玛格丽特·米切尔,因为他们撰写了一篇研究论文,揭露了支撑Bard等聊天机器人的人工智能语言系统中的缺陷。不过现在,随着这些系统威胁到Google的搜索业务模式,该公司似乎更加注重业务而非安全。正如彭博社在引述现任和前任员工的证词时所说,"这个值得信赖的互联网搜索巨头正在提供低质量的信息,以跟上竞争的步伐,同时不太重视其道德承诺。"Google的其他员工以及更普遍的人工智能开发者会不同意这种观点。一个常见的论点是,公开测试对于开发和保障这些系统是必要的,而且已知的由聊天机器人造成的伤害是最小的。是的,它们产生了有毒的文本,并提供了误导性的信息,但网络上无数的其他来源也是如此。Google的竞争对手如微软和OpenAI也可以说是和Google一样的妥协,唯一不同的是,他们不是搜索业务的领导者,损失更少。Google的发言人布莱恩-加布里埃尔(BrianGabriel)告诉彭博社,人工智能道德仍然是该公司的首要任务。"我们正在继续投资那些致力于将我们的人工智能原则应用于我们的技术的团队。"在我们将Bard与微软的必应聊天机器人和OpenAI的ChatGPT进行比较的测试中,我们发现Google的系统在实用性和准确性方面一直不如其竞争对手。...PC版:https://www.cnbeta.com.tw/articles/soft/1355755.htm手机版:https://m.cnbeta.com.tw/view/1355755.htm

相关推荐

封面图片

Google Bard 人工智能现在支持中文聊天

GoogleBard人工智能现在支持中文聊天Bard是由Google开发的生成式人工智能聊天机器人,基于PaLM2大型语言模型。发布之初只支持英文聊天,在2023年5月10日举行的Google开发者大会"GoogleI/O2023"上,宣布增加了对日语和韩语的支援,今日有用户反映GoogleBard支持中文对话,想体验的用户可以试一试。https://bard.google.com

封面图片

带有人工智能 Bard 的 Google 助手即将推出谷歌的 Bard 人工智能助手已进入 Google 应用测试版 14.41

带有人工智能Bard的Google助手即将推出谷歌的Bard人工智能助手已进入Google应用测试版14.41.41.28.arm64,目前仅可供部分用户使用。可能首先适用于Pixel8系列设备。Google应用中存在与BardAI相关的字符串,这表明Web版Bard上提供的所有功能也将在Google应用程序中提供。你将能够直接从Bard助手用户界面拍摄/上传照片并提问。还支持扩展–在其帮助下,Bard可以显示你使用的其他应用的建议/答案。此外,还将提供一个新的快捷方式访问BardAI助手。——Thespandroidhttps://www.bannedbook.org/bnews/itnews/20231010/1945050.html

封面图片

带有人工智能 Bard 的 Google 助手即将推出

带有人工智能Bard的Google助手即将推出谷歌的Bard人工智能助手已进入Google应用测试版14.41.41.28.arm64,目前仅可供部分用户使用。可能首先适用于Pixel8系列设备。Google应用中存在与BardAI相关的字符串,这表明Web版Bard上提供的所有功能也将在Google应用程序中提供。你将能够直接从Bard助手用户界面拍摄/上传照片并提问。还支持扩展-在其帮助下,Bard可以显示你使用的其他应用(如Gmail、日历、地图、YouTube等)的建议/答案。此外,还将提供一个新的快捷方式访问BardAI助手。——

封面图片

Google员工对Bard进行单条式的评估、修正训练 确保给出高质量答案

Google员工对Bard进行单条式的评估、修正训练确保给出高质量答案2月25日消息,不久前,谷歌在内部发起了代号为“斗狗”的活动,要求公司所有员工每周用两到四个小时帮助测试和改进其新的人工智能搜索聊天机器人Bard。就在Bard发布前不久,微软也刚刚发布了采用ChatGPT聊天机器人背后技术的新版必应搜索引擎,它允许用户就几乎任何话题进行多轮对话。PC版:https://www.cnbeta.com.tw/articles/soft/1346299.htm手机版:https://m.cnbeta.com.tw/view/1346299.htm

封面图片

Google要求员工解决Bard的不良回应 称AI需要人类做榜样

Google要求员工解决Bard的不良回应称AI需要人类做榜样Google鼓励员工改写他们很了解的题目的答案。该文件说:"Bard通过榜样学习效果最好,所以花时间深思熟虑地改写答案将大大有助于我们改进模式。"同样在周三,正如CNBC早些时候报道的那样,首席执行官桑达尔-皮查伊要求员工在Bard上花费两到四个小时的时间,并承认"这对每个人来说都将是一个漫长的旅程,在整个领域内"。Raghavan对此表示赞同:"这是令人兴奋的技术,但仍处于早期阶段,我们感到有很大的责任把它做好,你的参与狗粮将有助于加速模型的训练,并测试它的负载能力(更不用说,尝试Bard其实是很有趣的!)。"Google上周公布了其对话技术,但围绕该公告的一系列失误将股价推低了近9%。员工们批评皮查伊的失误,并在内部将推广工作描述为"仓促"、"失败"和"可笑的短视"。为了尝试清理人工智能的错误,公司领导人正在依靠人类的知识。在"该做的"和"不该做的"部分的顶部,Google提供了"在教Bard之前"应考虑的指导。在"做"的部分,Google指示员工保持"有礼貌、随意和平易近人"的回应。它还说,他们应该"用第一人称",并保持"无偏见的、中立的语气"。对于"不要",员工被告知不要有刻板印象,并"避免基于种族、国籍、性别、年龄、宗教、性取向、政治意识形态、地点或类似类别作出推断"。此外,"不要把Bard描述成一个人,暗示情感,或声称有类似人类的经历,"该文件说。Google接着说"保持安全",并指示员工对提供"法律、医疗、财务建议"或充满仇恨和辱骂的答案给予"大拇指"。文件说:"不要试图重写它;我们的团队会处理它。"为了激励他的组织中的人测试Bard并提供反馈,Raghavan说贡献者将获得一个"Moma徽章",该徽章将出现在内部员工档案中。他说,Google将邀请Raghavan负责的知识和信息部门的前10名改写者参加一个倾听会。在那里,他们可以向拉加文和在Bard工作的人"现场分享他们的反馈"。Raghavan写道:"衷心感谢那些在幕后努力工作的团队。"Google没有立即回应评论请求。...PC版:https://www.cnbeta.com.tw/articles/soft/1344807.htm手机版:https://m.cnbeta.com.tw/view/1344807.htm

封面图片

Google宣布ChatGPT的竞争产品Bard 未来几周将更广泛上线

Google宣布ChatGPT的竞争产品Bard未来几周将更广泛上线目前还不清楚Bard到底会有什么功能,但似乎这个聊天机器人会像OpenAI的ChatGPT一样可以自由使用。一张截图鼓励用户向巴德提出实际问题,比如如何计划婴儿沐浴,或者从午餐的配料清单中可以做出什么样的饭菜。皮查伊写道。"Bard可以成为创意的出口,也是好奇心的发射台,帮助你向9岁的孩子解释NASA的詹姆斯-韦伯太空望远镜的新发现,或者了解更多关于现在足球界最好的前锋,然后得到锻炼技能的机会。"皮查伊还指出,巴德"利用网络上的信息,提供新鲜、高质量的回应",这表明它可能能够回答有关最近事件的问题--这是ChatGPT所努力解决的。一个GIF显示有人问巴德"我如何把詹姆斯-韦伯太空望远镜的哪些新发现告诉我9岁的孩子?"并得到了一些相关的答案。匆忙宣布有关Bard的动态,是去年ChatGPT推出后在Google引发的"红色代码"的明显迹象。虽然ChatGPT的基础技术并不是革命性的,但OpenAI决定在网络上免费提供该系统,使数百万人接触到这种新的自动文本生成形式。其影响是地震性的,人们讨论了ChatGPT对教育、工作的影响,以及对Google特别感兴趣的互联网搜索的未来。向OpenAI投资了数十亿美元的微软也利用了这一时机。据说该公司正在将ChatGPT整合到其必应搜索引擎以及其办公软件套件的其他产品中。据称截图显示,上周刚刚泄露了一个经过ChatGPT增强的必应操作界面。尽管Google在为ChatGPT提供动力的那种人工智能方面拥有深厚的专业知识(事实上,它发明了关键技术--GPT中的"T",即转化器),但迄今为止,该公司对与公众分享其工具采取了更加谨慎的态度。Google之前通过其AITestKitchen应用程序提供了LAMDA,即支撑Bard的语言模型。但这个版本受到了极大的限制,只能生成与几个查询相关的文本。Google和其他科技巨头一样,一直在警惕对未经测试的人工智能的反击。像LaMDA和GPT-3.5(为ChatGPT提供基础)这样的大型语言模型有充分的证据表明,它们倾向于采纳和收集仇恨言论等有毒内容,并自信地断言虚假信息,以至于一位教授将这种系统比作"废话生成器"--对于一些人说应该取代搜索引擎的技术来说,这不是一个值得称赞的描述。(Google本身在2021年探讨了人工智能加速搜索的陷阱)。即将推出的Bard标志着Google对这项技术的态度发生了一步变化。皮查伊在他的博文中强调,Google将结合"外部反馈和我们自己的内部测试,以确保Bard的反应在质量、安全和现实世界信息的基础上达到很高的标准"--但或多或少可以保证该系统会犯错误,也许是严重的错误。同时,Google也在强调,它已经在其众多产品中建立人工智能特性,包括核心搜索业务。在过去的几年里,Google一直在使用人工智能来总结越来越多的搜索结果,浮现出网站的信息,而不是让用户自己去点击和探索,这些功能在未来将变得更加突出。很快,你将在搜索板块中看到由人工智能驱动的功能,将复杂的信息和多种观点提炼成易于消化的格式,这样你就可以快速了解全局,并从网络上学到更多东西:无论是寻求额外的观点,如既弹钢琴又弹吉他的人的博客,还是深入了解相关主题,如作为初学者入门的步骤。这些新的人工智能功能将很快开始在Google搜索上推出。如果这还不够的话,Google还将在周三举行一场以人工智能、搜索等为主题的活动。...PC版:https://www.cnbeta.com.tw/articles/soft/1342935.htm手机版:https://m.cnbeta.com.tw/view/1342935.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人