Nightshade用向图像“投毒”的方法以阻止AI训练并帮助保护艺术家

Nightshade用向图像“投毒”的方法以阻止AI训练并帮助保护艺术家《麻省理工科技评论》重点介绍了由芝加哥大学研究人员创建的名为Nightshade的新工具。它的工作原理是在上传图像之前对图像像素进行非常小的更改，这些更改是肉眼无法看到的。这会毒害DALL-E、StableDiffusion和Midjourney等工具使用的训练数据，导致模型以不可预测的方式崩溃。生成式人工智能如何错误地解释被茄属植物毒害的图像的一些例子包括将狗变成猫，将汽车变成牛，将帽子变成蛋糕，将手提包变成烤面包机。它也适用于提示不同的艺术风格：立体派变成动漫，卡通变成印象派，概念艺术变成抽象派。研究人员最近在arXiv上发表的论文将Nightshade描述为一种特定提示的中毒攻击。Nightshade不需要毒害数百万张图像，而是可以用大约50个样本破坏稳定扩散提示，如下图所示。研究人员写道，该工具不仅可以毒害“狗”等特定提示术语，还可以“渗透”到“小狗”、“猎犬”和“哈士奇”等相关概念。它甚至会影响间接相关的图像；例如，中毒“幻想艺术”会将“一条龙”、“指环王中的一座城堡”和“迈克尔·惠兰的一幅画”的提示变成不同的东西。领导了Nightshade创建团队的芝加哥大学教授赵本表示，他希望该工具能够对不尊重艺术家版权和知识产权的人工智能公司起到威慑作用。他承认存在恶意使用的可能性，但要对更大、更强大的模型造成真正的损害，攻击者需要毒害数千张图像，因为这些系统是在数十亿数据样本上进行训练的。生成式人工智能模型训练者还可以使用针对这种做法的防御措施，例如过滤高损失数据、频率分析和其他检测/删除方法，但赵本说它们不是很稳健。一些大型人工智能公司让艺术家可以选择不将他们的作品用于人工智能训练数据集，但这可能是一个艰巨的过程，并且无法解决任何可能已经被废弃的作品。许多人认为艺术家应该可以选择加入而不是必须选择退出。...PC版：https://www.cnbeta.com.tw/articles/soft/1392263.htm手机版：https://m.cnbeta.com.tw/view/1392263.htm

新的数据污染工具让艺术家有了防止自己作品被用于AI训练的能力

新的数据污染工具让艺术家有了防止自己作品被用于AI训练的能力一种新工具可以让艺术家在将作品上传到网上之前对其艺术作品中的像素添加不可见的更改，这样，如果它被用于构建AI训练数据集，可能会导致生成的模型以混乱且不可预测的方式崩溃。该工具名为Nightshade，旨在反击人工智能公司在未经创作者许可的情况下使用艺术家的作品来训练模型的行为。使用它来“毒害”这些训练数据可能会损害图像生成人工智能模型的未来迭代，例如DALL-E、Midjourney和StableDiffusion，因为它们的一些输出变得无用——狗变成了猫，汽车变成了牛等等。《麻省理工科技评论》独家预览了该研究，该研究已提交计算机安全会议Usenix进行同行评审。OpenAI、Meta、Google和StabilityAI等人工智能公司面临着来自艺术家的一系列诉讼，这些艺术家声称他们的受版权保护的材料和个人信息在未经同意或补偿的情况下被窃取。——

Adobe 今日推出了一系列新的人工智能工具，名为 Firefly，这是一个新的创造生成性 AI 模型系列，首先专注于图像生成和

Adobe今日推出了一系列新的人工智能工具，名为Firefly，这是一个新的创造生成性AI模型系列，首先专注于图像生成和文本效果，旨在帮助创意专业人士和艺术家生成图像和艺术文字。目前Firefly只能在Adobe的网站上使用，但公司计划将其集成到其软件中，从其Photoshop图像编辑软件、Illustrator设计软件和AdobeExpress快速视频制作软件开始。该公司尚未透露新工具的定价。

三位艺术家起诉AI作画公司：抓取50亿张图像 侵犯“数百万艺术家”版权

三位艺术家起诉AI作画公司：抓取50亿张图像侵犯“数百万艺术家”版权这起诉讼的原告包括萨拉·安德森（SarahAndersen）、凯莉·麦科南（KellyMcKernan）和卡拉·奥尔蒂斯（KarlaOrtiz），他们声称，这些组织在“未经原始艺术家同意”的情况下，利用从网上抓取的50亿张图像对其AI工具进行训练，侵犯了“数百万艺术家”的作品版权。他们委托的律师名为马修·巴特里克（MatthewButterick）以及约瑟夫萨维里律师事务所，巴特里克曾在去年11月份起诉微软、GitHub和OpenAI，理由是他们的AI编程模型GitHubCopilot侵犯了GitHub众多程序员的版权。在通报最新诉讼的博客文章中，巴特里克将此案描述为“让AI确保公平和惠及所有人的又一步。”他说，像StableDiffusion这样的AI艺术工具可能会“让市场上涌入近乎无限数量的侵权图像，这将对艺术市场和艺术家造成永久性的伤害”。在过去一年里，AI作画工具大受欢迎，这在艺术界引发强烈反响。虽然有些人认为这些工具可能会提供帮助，就像Photoshop和Illustrator等软件那样，但更多人反对使用他们的作品来培训这些赚钱工具。所谓的生成式AI艺术模型利用从网络上收集的数十亿张图片进行训练，而且通常是在创作者不知情或没有获得他们同意的情况下进行。然后，这些AI艺术生成器可以生成符合特定艺术家风格的艺术作品。专家表示，这些AI系统是否违反了版权法是个相当复杂的问题，需要由法官裁决。但AI艺术工具的创建者通常辩称，这种软件利用受版权保护的数据进行培训符合“合理使用”的原则，至少在美国是这样。不过，当涉及到AI艺术生成器时，增加了许多复杂因素。这些因素包括支持这些AI工具的公司所在地，因为欧盟和美国对数据抓取的法律许可略有不同；以及这些公司的目的，例如StableDiffusion利用LAION数据集进行培训，后者由一家总部位于德国的非营利研究机构创建，在合理使用案例中，非营利组织可能比普通公司更容易获得优待。然而，这起诉讼也因措辞不够严谨而受到批评。例如，诉讼称，AI艺术模型“存储了受版权保护的训练图像的压缩副本”，然后将它们“重新组合”，充当了“21世纪的拼贴工具”。然而，AI艺术模型实际上根本不存储图像，而是存储从这些图像中收集的图像的数学表示方式。这类软件也不会以拼贴的形式拼凑图像，而是根据这些数学表示方式从头开始创建图片。...PC版：https://www.cnbeta.com.tw/articles/soft/1339657.htm手机版：https://m.cnbeta.com.tw/view/1339657.htm

谷歌 DeepMind 推出了人工智能生成图像的水印工具

谷歌DeepMind推出了人工智能生成图像的水印工具谷歌DeepMind推出了一款新的水印工具，可以标记图像是否是由人工智能生成的。该工具名为SynthID，最初仅供Google人工智能图像生成器Imagen的用户使用，该生成器托管在GoogleCloud的机器学习平台Vertex上。用户将能够使用Imagen生成图像，然后选择是否添加水印。希望它可以帮助人们辨别人工智能生成的内容何时被冒充为真实内容，或者帮助保护版权。ViaHuaHua投稿：@ZaiHuaBot频道：@TestFlightCN

【Adobe发布名为“Firefly”的图像生成人工智能模型】

【Adobe发布名为“Firefly”的图像生成人工智能模型】2023年03月22日11点03分3月22日消息，Adobe公司发布名为“Firefly”的图像生成人工智能模型，目前主要专注于图像生成和文本效果，如文字生成矢量/笔刷/模板、根据自定义风格生成图像、指定纵横比扩展图像、据3D模型生成图像、为黑白图像上色、使用画笔修改图像并用文字描述的风格进行填充等。未来，Firefly将被实装在Adobe全家桶中。该模型的学习数据来源于Adobe旗下AdobeStock数据库、经授权的作品以及版权已过期的公共内容。据Adobe表示，用户的内容不会被用来训练Firefly。