狡猾的人工智能模型故意破坏训练图像以规避版权问题

狡猾的人工智能模型故意破坏训练图像以规避版权问题AmbientDiffusion是一种文本到图像的人工智能模型,它通过使用严重破坏的图像来保护艺术家的版权。文本到图像生成器的一个大问题是,它们能够复制用来训练它们的原创作品,从而侵犯艺术家的版权。根据美国法律,如果你创作了原创作品并将其"固定"为有形的形式,你就拥有了它的版权--字面意思是复制它的权利。在大多数情况下,未经创作者授权,不得使用受版权保护的图片。今年5月,Google母公司Alphabet遭到一群艺术家的集体版权诉讼,声称Google未经许可使用了他们的作品来训练其人工智能图像生成器Imagen。StabilityAI、Midjourney和DeviantArt(它们都使用了Stability的StableDiffusion工具)也面临着类似的诉讼。为了避免这个问题,德克萨斯大学奥斯汀分校和加州大学伯克利分校的研究人员开发了一种基于扩散的生成式人工智能框架,该框架只对已损坏到无法识别的图像进行训练,从而消除了人工智能记忆和复制原创作品的可能性。扩散模型是一种先进的机器学习算法,它通过向数据集逐步添加噪声来生成高质量的数据,然后学习逆转这一过程。最近的研究表明,这些模型可以记忆训练集中的示例。这显然会对隐私、安全和版权产生影响。这里有一个与艺术品无关的例子:人工智能需要接受X光扫描训练,但不能记住特定病人的图像,否则就会侵犯病人的隐私。为了避免这种情况,模型制作者可以引入图像损坏。研究人员利用他们的环境扩散框架证明,只需使用高度损坏的样本,就能训练扩散模型生成高质量的图像。根据"干净"(左)和损坏(右)的训练图像生成的环境扩散输出结果上图显示了在使用损坏时图像输出的差异。研究人员首先用CelebA-HQ高质量名人图片数据库中的3000张"干净"图片对模型进行了训练。根据提示,该模型生成的图像与原图几乎完全相同(左图)。然后,他们使用3000张高度损坏的图像对模型进行了重新训练,其中多达90%的单个像素被随机屏蔽。虽然模型生成的人脸栩栩如生,但结果却大相径庭(右图)。UT奥斯汀分校计算机科学教授亚当-克里万斯(AdamKlivans)是这项研究的共同作者,他表示:"从黑洞成像到某些类型的核磁共振成像扫描,基本上任何昂贵或不可能拥有全套未损坏数据的研究都会如此。"与现有的文本到图像生成器一样,其结果并非每次都完美无缺。关键是,艺术家们知道像AmbientDiffusion这样的模型不会记住并复制他们的原创作品,就可以稍稍放心了。它能阻止其他人工智能模型记住并复制他们的原始图像吗?不会,但这就是法院的职责所在。研究人员已将他们的代码和环境扩散模型开源,以鼓励进一步的研究。可在GitHub上查阅。该研究发表在预印本网站arXiv上。...PC版:https://www.cnbeta.com.tw/articles/soft/1431886.htm手机版:https://m.cnbeta.com.tw/view/1431886.htm

相关推荐

封面图片

研究发现:用人工智能生成的图像训练出的人工智能产生了糟糕的结果。

研究发现:用人工智能生成的图像训练出的人工智能产生了糟糕的结果。斯坦福大学和莱斯大学的研究人员发现,生成式人工智能模型需要“新鲜的真实数据”,否则输出的质量就会下降。这对摄影师和其他创作者来说是个好消息,因为研究人员发现,训练数据集中的合成图像会放大人工痕迹,使人工智能画出的人类看起来越来越不像真人。研究小组将这种状况命名为“模型自噬障碍”。如果自噬循环的每一代都没有足够的新鲜真实数据,未来的生成模型注定会逐渐降低其质量或多样性。如果该研究论文是正确的,那么这意味着人工智能将无法开发出无穷无尽的数据源。人工智能仍然需要真实、高质量的图像来不断进步,而不是依赖自己的输出。这意味着生成式人工智能将需要摄影师。——

封面图片

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃用于训练大型语言模型的数据最初来自人类来源,如书籍、文章、照片等,这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容,一个明显的问题出现了:当人工智能生成的内容在互联网上扩散时,人工智能模型开始对其进行训练。研究人员发现,“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布,得出结论:“从其他模型产生的数据中学习会导致模型崩溃——这是一个退化的过程,并且随着时间的推移,模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快:模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移,表现越来越差,错误越来越多。来源,来自:雷锋频道:@kejiqu群组:@kejiquchat投稿:@kejiqubot

封面图片

盖蒂图片公司打造尊重版权的人工智能工具

盖蒂图片公司打造尊重版权的人工智能工具盖蒂图片公司CEO称,为了证明人工智能制造商有可能尊重艺术家的版权,盖蒂建立了一个只使用授权数据的人工智能工具。该公司表示,目前他们还没有一种工具,可以在每次生成人工智能图像时评估哪位艺术家应该获得奖励,但他们会采用一种固定的模型,该模型将决定你的内容在训练集中占多大比例,在生成图像中表现如何,然后根据该模型来奖励创作者。之前,盖蒂起诉StabilityAI,指控该公司的图像生成器“稳定扩散”是在1200万张盖蒂图片上训练出来的。来源,频道:@kejiqu群组:@kejiquchat

封面图片

【Adobe发布名为“Firefly”的图像生成人工智能模型】

【Adobe发布名为“Firefly”的图像生成人工智能模型】2023年03月22日11点03分3月22日消息,Adobe公司发布名为“Firefly”的图像生成人工智能模型,目前主要专注于图像生成和文本效果,如文字生成矢量/笔刷/模板、根据自定义风格生成图像、指定纵横比扩展图像、据3D模型生成图像、为黑白图像上色、使用画笔修改图像并用文字描述的风格进行填充等。未来,Firefly将被实装在Adobe全家桶中。该模型的学习数据来源于Adobe旗下AdobeStock数据库、经授权的作品以及版权已过期的公共内容。据Adobe表示,用户的内容不会被用来训练Firefly。

封面图片

Getty开发的人工智能生成器只对拥有版权图片的进行训练

Getty开发的人工智能生成器只对拥有版权图片的进行训练GettyImages的GenerativeAI仅在庞大的GettyImages图库(包括高级内容)上进行训练,用户可获得完全的版权保护。盖蒂公司承诺,这意味着任何使用该工具并将其创建的图片进行商业发布的人都将受到法律保护。盖蒂公司与NVIDIA合作,使用NVIDIA的生成式人工智能模型库Picasso上的Edify模型。该公司表示,使用该工具创建的任何照片都不会被收录到GettyImages和iStock的内容库中。如果使用创作者的人工智能生成图像来训练当前和未来版本的模型,盖蒂公司将向创作者支付报酬。它将分享该工具产生的收入,"按比例分配每个文件的份额和基于传统许可收入的份额"。盖蒂图片公司首席产品官格兰特-法豪尔(GrantFarhall)在一份声明中说:"我们倾听了客户对生成式人工智能迅猛发展的意见--既有兴奋也有犹豫--并尝试有意识地开发我们自己的工具。"Getty工具限制了用户可以生成的图片类型。它不允许我创建一张乔-拜登在白宫前的照片,或者一只安迪-沃霍尔或杰夫-昆斯风格的猫。任何带有真实人名的提示都被禁止。在要求创建美国总统的图片时,我看到了美国国旗前的男女照片,其中一些还是有色人种。该模型"不知道谁是安迪-沃霍尔(AndyWarhol)、乔-拜登(JoeBiden)或任何其他现实世界中的人",因为它不想操纵或再现现实生活中的事件。用户可以通过GettyImages网站访问GettyImages的GenerativeAI。该公司表示,该工具将与标准的GettyImages订阅分开定价,定价基于提示量。不过,该公司没有具体说明价格。盖蒂图片公司表示,用户将获得他们所创作图片的永久、全球和无限版权。(尽管如此,人工智能生成的图片在技术上的版权地位仍然模糊不清)。盖蒂公司表示,这类似于客户从其资料库中获得内容授权,公司拥有文件所有权,但授权用户使用。用户可以编写自己的提示,也可以使用提示生成器来指导自己。用户还可以通过API将该工具集成到自己的工作流程中。按照惯例,盖蒂公司会在通过该工具创建的照片上打上水印,以识别照片是由人工智能生成的。盖蒂公司涉足人工智能图片领域并不奇怪,毕竟它拥有最大的图片库之一。但该公司曾与其他文本到图像的人工智能生成器开发商交过手,起诉StabilityAI侵犯版权,指控其图像生成器StableDiffusion未经许可使用了Getty的照片。通过建立自己的生成式人工智能图像平台,盖蒂公司可以压制其他希望使用其图像库来训练模型的公司。使用其授权数据建立人工智能图像平台的公司远不止盖蒂一家。Adobe在其创意套件和创意云服务中发布了萤火虫(Firefly)模型,该模型是在其稳定的授权图片上训练出来的。使用受版权保护的资料来训练大型语言模型和文本到图像系统一直是许多创意界人士非常关注的问题。三位艺术家曾起诉StabilityAI、Midjourney和艺术网站DeviantArt,指控它们未经许可使用他们的艺术作品来训练模型。盖蒂表示,客户最终可以添加自己的数据来训练模型,生成具有自己品牌风格的图片。这项功能和其他服务将于今年晚些时候推出。...PC版:https://www.cnbeta.com.tw/articles/soft/1386273.htm手机版:https://m.cnbeta.com.tw/view/1386273.htm

封面图片

美国版权局表示,由人工智能Midjourney生成的图像不受版权保护。

美国版权局表示,由人工智能生成的图像不受版权保护。漫画家克里斯·卡什塔诺娃(KrisKashtanova)使用Midjourney创作了漫画《黎明之曙光》。版权局21日给卡什塔诺娃的律师致信称,作者拥有书中文字和编排部分的版权。对于图像部分,由于并非“人类创作之产物”,“Midjourney的具体输出结果无法被用户预测”而不可视作普通的创作工具,因此予以取消版权。卡什塔诺娃把该结果视为好消息,因为文字和编排已涵盖许多人工智能艺术家使用生成图像的方式。同时她坚持这些图像是”我创造力的直接表达,因此可获得版权“。(,)

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人