DeepMind 与 Google Cloud 合作为人工智能生成的图像添加水印

DeepMind与GoogleCloud合作为人工智能生成的图像添加水印谷歌Deepmind与谷歌云合作，推出了一款用于添加水印和识别人工智能生成图像的工具SynthID。但仅限于谷歌自己的图像生成模型创建的图像。SynthID的水印对于人类来说是难以察觉的，并且能够适应常见的图像操作，比如在添加滤镜、更改颜色和高度压缩图像等修改之后，SynthID仍然保持不变。虽然SynthID提供了强大的防御能力，但仍需要不断创新和适应，才能在对抗生成式AI欺骗的斗争中领先于黑客和开发人员。——、、

谷歌 DeepMind 推出了人工智能生成图像的水印工具

谷歌DeepMind推出了人工智能生成图像的水印工具谷歌DeepMind推出了一款新的水印工具，可以标记图像是否是由人工智能生成的。该工具名为SynthID，最初仅供Google人工智能图像生成器Imagen的用户使用，该生成器托管在GoogleCloud的机器学习平台Vertex上。用户将能够使用Imagen生成图像，然后选择是否添加水印。希望它可以帮助人们辨别人工智能生成的内容何时被冒充为真实内容，或者帮助保护版权。ViaHuaHua投稿：@ZaiHuaBot频道：@TestFlightCN

【Adobe发布名为“Firefly”的图像生成人工智能模型】

【Adobe发布名为“Firefly”的图像生成人工智能模型】2023年03月22日11点03分3月22日消息，Adobe公司发布名为“Firefly”的图像生成人工智能模型，目前主要专注于图像生成和文本效果，如文字生成矢量/笔刷/模板、根据自定义风格生成图像、指定纵横比扩展图像、据3D模型生成图像、为黑白图像上色、使用画笔修改图像并用文字描述的风格进行填充等。未来，Firefly将被实装在Adobe全家桶中。该模型的学习数据来源于Adobe旗下AdobeStock数据库、经授权的作品以及版权已过期的公共内容。据Adobe表示，用户的内容不会被用来训练Firefly。

麻省理工学院开发“面具”来保护图像免遭人工智能操纵

麻省理工学院开发“面具”来保护图像免遭人工智能操纵麻省理工学院的科学家们创造了一种本质上是防护罩的东西，能够防止这些模型操纵图像。这些遮罩对于人眼来说是不可见的，当与生成人工智能图像模型交互时，会导致输出出现扭曲。研究人员在一篇论文中写道:“通过在对手访问原始图像之前对其进行免疫，我们破坏了他们成功执行此类编辑的能力。”PhotoGuard可以在MIT许可下通过GitHub访问——这意味着它可以用于商业用途，但需要保留版权和许可声明。图片来源:麻省理工学院据了解，PhotoGuard的目的是改进Deepfake检测。其背后的团队认为，虽然水印方法确实有效，但它们并不能保护图像免遭“首先被操纵”。PhotoGuard旨在补充水印保护，以“破坏人工智能扩散模型的内部运作”。随着DALL-E和稳定扩散等人工智能图像模型的使用变得越来越普遍，滥用的情况似乎也越来越多，尤其是在社交媒体中。罗恩·德桑蒂斯的选举团队使用人工智能处理的前总统特朗普拥抱福奇博士的图像的案例显示了可能出现问题的早期迹象。检测人工智能生成的作品的需求正在不断增加——虽然对于那些受过训练的人来说，人工智能生成的图像很容易被发现，但一些研究团队正在努力让它变得更容易。以DALL-E和ChatGPT制造商OpenAI为例，该公司本周承诺继续研究确定一段音频或视频内容是否由人工智能生成的方法，尽管该承诺是在其因性能不佳而关闭其文本检测工具后做出的。...PC版：https://www.cnbeta.com.tw/articles/soft/1373793.htm手机版：https://m.cnbeta.com.tw/view/1373793.htm

Google图像生成人工智能Imagen 3迎来升级

Google图像生成人工智能Imagen3迎来升级Google人工智能研究部门DeepMind负责人德米斯-哈萨比斯（DemisHassabis）说，与前代产品Imagen2相比，Imagen3能更准确地理解文字提示，并将其转化为图像，而且在生成图像方面更具"创造性和细节"。此外，该模型产生的"干扰人工智能"和错误也更少。哈萨比斯补充说："这也是我们目前渲染文本的最佳模型，而渲染文本一直是图像生成模型面临的挑战。"为了消除人们对深度伪造可能性的担忧，Google表示，Imagen3将使用DeepMind开发的SynthID方法，在媒体上应用隐形加密水印。在Google的ImageFX工具中可以注册Imagen3的私人预览版，Google表示，该模型将"很快"提供给使用Google企业生成式人工智能开发平台VertexAI的开发人员和企业客户。Google通常不会透露太多用于训练人工智能模型的数据来源，这次也不例外。这是有原因的。大部分训练数据来自网络上的公共网站、资源库和数据集。而其中的一些训练数据，特别是未经内容创作者许可的受版权保护的数据，是知识产权相关诉讼的源头。Google的网站发布者控制功能允许网站管理员阻止搜索引擎与AI爬虫从他们的网站上获取数据，包括照片和视频。但是，Google并没有提供"退出"工具，而且与某些竞争对手不同的是，Google并没有承诺对权利人（在某些情况下是在不知情的情况下）为训练数据集做出的贡献进行补偿。缺乏透明度并不令人惊讶，但令人失望的尤其是像Google这样拥有丰富资源的公司。...PC版：https://www.cnbeta.com.tw/articles/soft/1430907.htm手机版：https://m.cnbeta.com.tw/view/1430907.htm

研究显示为人工智能生成图像添加水印以打击虚假信息和深度伪造可能毫无意义

研究显示为人工智能生成图像添加水印以打击虚假信息和深度伪造可能毫无意义这样做的目的是，人工智能生成的材料将被巧妙地标记，以便在有人试图将其内容冒充为人类制作的内容时，能够被检测和识别出来。但学者们警告说，图像中的数字水印——在创建内容时添加噪声，然后在图像数据集中检测该噪声模式的存在——可能并不能提供多少安全保证。日前来自马里兰大学的研究团队取得了重大突破，他们制定了一种绕过嵌入在AI生成图像中的所有水印保护的方法。在接受Wired采访时，计算机科学教授SoheilFeizi表示，目前没有可靠的方法可以为AI生成的图像加上水印，他的团队成功地绕过了“所有方法”。就目前而言，恶意行为者绕过水印仍然太容易。而且，还可以将水印添加到人工制作的图像中，从而触发误报。数字水印已被各种AI公司推崇为一种功能，使用户能够知道图像是否是借助AI生成的。问题是我们仍然没有万无一失、无法被操纵的水印技术。Feizi和他的团队在一份预印本论文中详细记录了他们的研究结果。在论文中，研究人员表示，使用微妙的图像扰动的水印方法可以轻松地通过扩散净化攻击来破解。这种方法的工作原理是，在使用AI生成图像时，会对其应用一种人眼不可见的特定噪声模式。问题在于，这种模式可以很容易地被修改或移除，而对整体图像的更改很小。同样，使用大量扰动的水印技术，即对图像进行重大更改的技术，可以通过易于移除水印的模型替代对抗攻击来破解。此外，恶意行为者可以使用水印技术来针对真正的艺术家，将他们的图像标记上会导致它们被错误地识别为由AI生成的模式。这可能会损害艺术家的声誉。...PC版：https://www.cnbeta.com.tw/articles/soft/1388565.htm手机版：https://m.cnbeta.com.tw/view/1388565.htm