如果你教聊天机器人如何阅读ASCII艺术 它就会教你如何制造炸弹

如果你教聊天机器人如何阅读ASCII艺术它就会教你如何制造炸弹大学研究人员开发出了一种利用老式ASCII艺术"越狱"大型语言模型（如Chat-GPT）的方法。这项技术被恰如其分地命名为"ArtPrompt"，包括为一个单词制作一个ASCII艺术"面具"，然后巧妙地利用面具来哄骗聊天机器人做出它不应该做出的回应。例如，如果向必应询问如何制造炸弹，它就会告诉用户它做不到。出于显而易见的原因，微软不希望它的聊天机器人告诉人们如何制造爆炸装置，因此GPT-4（必应的底层LLM）指示它不要满足此类请求。同样，你也不能让聊天机器人告诉你如何开展洗钱行动或编写黑客攻击网络摄像头的程序。聊天机器人会自动拒绝道德或法律上含糊不清的提示。因此，研究人员想知道，他们是否可以通过使用ASCII艺术形成的单词来越狱，使LLM不受此限制。他们的想法是，如果能在不使用实际单词的情况下表达意思，就能绕过限制。然而，说起来容易做起来难。对于人类来说，上述ASCII图像的含义很容易推断，因为我们可以看到这些符号组成的字母。然而，像GPT-4这样的LLM却无法"看见"。它只能解释字符串--在本例中，就是一系列毫无意义的标签和空格。幸运的是（或许不幸的是），聊天机器人非常善于理解和遵循书面指令。因此，研究人员利用这种固有的设计，创建了一套简单的指令，将艺术翻译成文字。然后，LLM就会全神贯注地将ASCII处理成有意义的内容，以至于不知不觉地忘记了被解释的单词是禁止的。通过利用这一技术，该团队提取到了进行各种审查活动的详细答案，包括制造炸弹、入侵物联网设备以及制造和散布假币。在黑客攻击方面，LLM甚至提供了工作源代码。该技巧在五大LLM上都取得了成功，包括GPT-3.5、GPT-4、Gemini、Claude和Llama2。值得注意的是，该团队是在今年2月发布其研究成果的。因此，各大AI开发商很可能都已经完成了修复。ArtPrompt是目前试图让LLM对抗程序员的一种新方法，但这并不是用户第一次发现如何操纵这些系统。斯坦福大学的一名研究人员在必应发布不到24小时后，就设法让必应透露了其秘密管理指令。这种被称为"提示注入"的黑客行为，就像告诉必应"忽略之前的指令"一样简单。不过，很难说哪一个更有趣--是研究人员想出了规避规则的方法，还是他们教会了聊天机器人看东西。对学术细节感兴趣的人可以在康奈尔大学的arXiv网站上查看该团队的研究成果。...PC版：https://www.cnbeta.com.tw/articles/soft/1424204.htm手机版：https://m.cnbeta.com.tw/view/1424204.htm

相关推荐

封面图片

人工智能聊天机器人被用来越狱其它人工智能

人工智能聊天机器人被用来越狱其它人工智能现代聊天机器人有能力通过伪装特定性格或像虚构人物一样行事来扮演角色。新研究利用了这一能力，要求一个特定的人工智能聊天机器人充当研究助手。然后，研究人员指示这个助手帮助开发可以“越狱”其他聊天机器人的提示语。事实证明，研究助理聊天机器人的自动攻击技术在42.5%的时间内成功地攻击了GPT-4，对Claude2的攻击有61%的成功率，对开源聊天机器人Vicuna的攻击有35.9%的成功率。研究人员称，这种助理聊天机器人提升了25倍的越狱效率。来源，频道：@kejiqu群组：@kejiquchat
封面图片

微软AI聊天机器人Copilot上架iOS：完全免费、支持GPT-4

微软AI聊天机器人Copilot上架iOS：完全免费、支持GPT-4近日，微软在IOS平台上架了，MicrosoftCopilot（最初被称为必应聊天）与ChatGPT和其他充斥网络的聊天机器人非常相似。你输入你的提示，无论是一个问题，还是写一封电子邮件或摘要的求助，它都会说出你需要什么。与使用GPT-3.5的ChatGPT免费版本不同，Copilot允许用户访问OpenAI新的大型语言模型GPT-4，并且完全免费。而这并不是二者之间唯一的区别。Copilot还集成了文本到图像生成器DALL-E3，可以通过关键词或者短语生成你想要的图像，而ChatGPT只支持文字聊天。来源，前文：频道：@kejiqu群组：@kejiquchat
封面图片

谷歌将用 Magi 聊天机器人改造其搜索引擎

谷歌将用Magi聊天机器人改造其搜索引擎谷歌正在开发一个名为Magi的AI聊天机器人，类似微软的必应聊天（BingChat），这个机器人的目的是帮助用户找到他们通过现有的谷歌搜索界面无法获得的结果和答案，谷歌可能会在2023年5月10日的谷歌IO大会上发布这个机器人。除了聊天机器人外，谷歌还打算在标准的链接列表搜索结果中嵌入短视频和社交媒体帖子。这些内容将根据用户的兴趣和偏好进行定制，使搜索更加“个性化”。此外，谷歌还将提高搜索结果的质量和多样性，避免重复或过时的信息。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot
封面图片

基于 LLaMA 的 AI 聊天机器人开源实现

基于LLaMA的AI聊天机器人开源实现Meta的大语言模型LLaMA最近引起了广泛关注，它的一大优势是参数规模更小但性能强于OpenAI的GPT-3模型，而且能运行在单张显卡上，让普通消费者的硬件也有可能提供类似ChatGPT性能的AI聊天机器人。LLaMA是一组大语言模型的集合，其参数规模从70亿到650亿，它最新的LLaMA-13B模型有130亿个参数，不到GPT-3模型1750亿个参数的十分之一。现在AI推出了首个基于人类反馈强化学习的LLaMAAI聊天机器人开源实现。来源，前文：来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot
封面图片

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMDRyzenAICPU和RadeonRX7000GPU现支持本地运行LLM和AI聊天机器人https://www.ithome.com/0/754/260.htmhttps://community.amd.com/t5/ai/how-to-run-a-large-language-model-llm-on-your-amd-ryzen-ai-pc-or/ba-p/670709AMD表示用户可以在包括采用AMD新XDNANPU的Ryzen7000和Ryzen8000系列APU，以及内置AI加速核心的RadeonRX7000系列GPU设备上，本地运行LLM和AI聊天机器人
封面图片

微软Edge提供了一个Bing AI聊天机器人侧边栏

微软Edge提供了一个BingAI聊天机器人侧边栏新的边栏在Edge浏览器的左上方显示为一个大大的必应按钮，悬停在上面或点击它将激活新的必应聊天机器人体验。如果你是必应预览版的成员，你可以使用聊天功能向聊天机器人提问，或者使用撰写选项为电子邮件、博客文章、信件等生成文本。由于边栏是基于用户在Edge中查看的页面的上下文，因此它可以协助做一些事情，例如，如果你正在查看一个产品，可以要求聊天机器人总结购物网站的信息。必应侧边栏还可以总结文章，比较网页上的项目，并让你从各种语气中挑选，以生成博客文章、电子邮件、清单等文本。Edge中的这个新的必应侧边栏暗示了微软在Windows、Office和其他地方的人工智能功能方面可能的发展方向。Google刚刚宣布了自己的计划，将类似ChatGPT的人工智能添加到Gmail和GoogleDocs中，允许GoogleWorkspace用户自动生成电子邮件、文档等。微软预计将在周四的工作用人工智能活动中公布类似的功能。这次活动可能会集中讨论微软的类似ChatGPT的人工智能将如何在Teams、Word和Outlook等Office应用程序中工作。本月早些时候，微软在MicrosoftDynamics365和VivaSales中推出了类似的新的生成性Copilot人工智能体验，它使用AzureOpenAI服务来自动创建销售方的电子邮件。...PC版：https://www.cnbeta.com.tw/articles/soft/1349425.htm手机版：https://m.cnbeta.com.tw/view/1349425.htm

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人