OpenAI宣布将在数字内容中加入不可见水印以便可以检测AI生成内容

OpenAI宣布将在数字内容中加入不可见水印以便可以检测AI生成内容今年早些时候OpenAI已经在DALL-E3图像生成模型中接入了C2PA相关标准,即生成的图像会标记来自该模型,也就是证明这是由人工智能创作的图像。OpenAI称当Sora文本生成模型视频广泛推出时也会为Sora生成的视频内容添加C2PA元数据,可以识别视频来自Sora生成而不是真实拍摄等。值得注意的是C2PA标准元数据是可以删除的,一个简单的例子就是对于DALL-E3生成的图像只需要修改图片元数据甚至直接截图就可以抹掉C2PA信息,所以OpenAI还准备了不可见的水印。不可见水印俗称盲水印,这种水印肉眼无法识别,但一些特殊的工具对图片进行处理后是可以读取盲水印的,OpenAI的计划就是在后续实施盲水印,用难以删除的不可见信号标记音频等数字内容。既然添加盲水印那OpenAI也会提供对应的检测工具,OpenAI已经开发了用于检测AI模型生成内容的检测分类器,该分类器从今天开始向一些研究人员提供,该工具主要可以检测DALL-E3生成的图像,准确率为98%,大约会有不到0.5%的非AI生成的图像也会被标记为AI生成,这个后续OpenAI还会继续优化。...PC版:https://www.cnbeta.com.tw/articles/soft/1430006.htm手机版:https://m.cnbeta.com.tw/view/1430006.htm

相关推荐

封面图片

OpenAI开始为DALL-E 3添加新水印

OpenAI开始为DALL-E3添加新水印OpenAI的图像生成器DALL-E3将在图像元数据中添加水印。随着更多公司支持内容真实性和来源联盟(C2PA)的标准,这一功能得到推广。这些水印将出现在ChatGPT网站和DALL-E3模型的API生成的图像中,手机端用户将在2月12日获得水印功能。水印包括不可见的元数据组件和可见的CR符号,后者将出现在每张图像的左上角。通过像ContentCredentialsVerify这样的网站,人们可以检查由OpenAI平台生成的任何图像的来源,不论该图像是用了哪个AI工具制作的。目前,只有静态图像可以携带水印,视频或文本则不行。OpenAI在其网站上表示,“我们相信,采用这些方法来确定来源并鼓励用户去识别,是提高数字信息可信度的关键。”投稿:@TNSubmbot频道:@TestFlightCN

封面图片

OpenAI正在为DALL - E3添加新的水印

随着越来越多的公司推出对内容来源和真实性联盟(C2PA)标准的支持,OpenAI的图像生成器dall-e3将在图像元数据中添加水印。该公司表示,C2PA的水印将出现在ChatGPT网站和DALL-E3模型的API生成的图像中。手机用户将在2月12日之前获得水印。它们将包括一个不可见的元数据组件和一个可见的CR符号,它将出现在每个图像的左上角。人们可以通过contentCredentialsVerify等网站检查OpenAI平台生成的任何图像的来源——使用哪个人工智能工具制作内容。到目前为止,只有静态图像,而不是视频或文本,可以携带水印。OpenAI表示,在图像中添加水印元数据“对延迟的影响可以忽略不计,也不会影响图像生成的质量”。对于某些任务,它还会略微增加图像大小。标签:#OpenAI频道:@GodlyNews1投稿:@GodlyNewsBot

封面图片

OpenAI为DALL-E 3模型生成的图像元数据添加水印

OpenAI为DALL-E3模型生成的图像元数据添加水印人们可以通过内容凭证验证(ContentCredentialsVerify)等网站核实由OpenAI平台生成的任何图像的出处(即使用了哪种人工智能工具制作内容)。到目前为止,只有静态图像可以带有水印,视频或文本都不行。OpenAI表示,在图像中添加水印元数据"对延迟的影响可以忽略不计,也不会影响图像生成的质量"。对于某些任务来说,它还会略微增加图像尺寸。由Adobe和微软等公司组成的C2PA组织一直在推动使用"内容证书"水印来识别内容的出处,并显示其是人工制作的还是人工智能制作的。Adobe创建了一个内容凭证符号,OpenAI正在将其添加到《DALL-E3》的创作中。Meta最近宣布将在其社交媒体平台上为人工智能生成的内容添加标签。识别人工智能生成的内容是拜登政府关于人工智能行政命令的主要指令之一。但水印并不是阻止错误信息的万全之策。OpenAI指出,C2PA的元数据"很容易被意外或有意删除",尤其是大多数社交媒体平台通常会删除上传内容中的元数据,截图行为也会省略图中的元数据。OpenAI在其网站上表示:"我们相信,采用这些方法确定出处并鼓励用户识别这些信号,是提高数字信息可信度的关键。"...PC版:https://www.cnbeta.com.tw/articles/soft/1416651.htm手机版:https://m.cnbeta.com.tw/view/1416651.htm

封面图片

OpenAI 将推出检测 DALL-E 3 图像的工具

OpenAI将推出检测DALL-E3图像的工具当地时间5月7日,人工智能公司OpenAI宣布推出一款工具,可以检测其文本转图像生成器DALL-E3创建的图像。该公司表示,该工具在内部测试中大约98%的时间都能正确识别DALL-E3创建的图像,并且可以处理压缩等常见的修改,裁剪和饱和度变化对识别的影响极小。OpenAI还计划添加防篡改水印,以难以删除的信号标记照片或音频等数字内容。此外,DotdashMeredith已与OpenAI签署了内容许可协议,以训练人工智能模型,并允许ChatGPT使用美国最大的数字和印刷出版商的摘要来回答查询。DotdashMeredith是美国最大的数字和印刷出版商,作为一家品牌管理公司,旗下有包括《人物》、《美好住宅与庭院》、《Verywell》等在内的40多个品牌。——、

封面图片

OpenAI 将推出新工具 能识别由 AI 生成器 DALL-E 3 创建的图像

OpenAI将推出新工具能识别由AI生成器DALL-E3创建的图像在人们越来越担心人工智能生成的内容会影响今年的全球选举之际,OpenAI宣布正推出一款工具,可以检测由其文本到图像生成器DALL-E3创建的图像。该公司表示,在内部测试中,该工具有约98%的概率能正确识别的由DALL-E3创建的图片,并能识别出处理压缩、裁剪和饱和度变化等常见的小修改。OpenAI还计划添加防篡改水印,用难以去除的信号标记照片或音频等数字内容。作为努力的一部分,OpenAI还加入了一个包括谷歌、微软和Adobe在内的行业组织,并计划提供一个有助于追踪不同媒体来源的标准。

封面图片

准确率 98%,OpenAI 推出专用AI工具:能识别DALL·E 3 生成的图片

准确率98%,OpenAI推出专用AI工具:能识别DALL·E3生成的图片OpenAI公司今天发布新闻稿,宣布推出专用的AI检测工具,能够识别某张图片是否由DALL·E3模型生成,且准确率高达98%。OpenAI公司在博文中表示,之所以推出这项新工具,主要是为了帮助研究人员研究内容真实性,此外该公司还宣布加入C2PA(内容来源和真实性联盟)的指导委员会。OpenAI表示该工具的内部测试结果显示,在区分非AI生成图像与DALL·E3生成的图像方面成功率很高,成功率能够接近98%,同时只有少于0.5%的非AI图像被错误地标记来自DALL·E3。关注频道@TestFlightCN频道投稿@ZaiHuabot

🔍 发送关键词来寻找群组、频道或视频。

启动SOSO机器人