美国政府敦促私营企业自愿合作，打击AI深伪色情图片市场

美国政府敦促私营企业自愿合作，打击AI深伪色情图片市场拜登政府正在敦促科技行业和金融机构关闭不断增长的AI色情图片市场。新的生成式人工智能工具让通过肖像转换为色情深伪图片变得轻而易举，他们被拿来在聊天室或社交媒体上传播。受害者无论是名人还是儿童都几乎无力阻止这种行为。白宫周四发出呼吁，寻求企业在联邦立法不力的情况下自愿合作。通过承诺采取一系列具体措施，官员们希望私营企业能够遏制此类未经同意的人工智能图像的制作、传播和货币化。拜登的首席科学顾问、白宫科技政策办公室主任阿拉蒂·普拉巴卡向美联社讲述了这种由AI生成的未经当事人同意的色情图像“惊人增长”，这些图像主要针对成年女性和女孩，那将会颠覆她们的生活。——

美国总检察长联名呼吁采取行动阻止AI生成的儿童色情图像

美国总检察长联名呼吁采取行动阻止AI生成的儿童色情图像信中写道："作为我们各自州和地区的总检察长，我们对各自辖区内儿童的安全深感忧虑。虽然针对儿童的互联网犯罪已经被积极起诉，但我们担心人工智能正在创造一个新的虐待领域，使这种起诉更加困难。"StableDiffusion等开源图像合成技术可以轻松创建人工智能生成的色情作品，围绕增强这种能力的工具和附加组件已经形成了一个庞大的社区。由于这些人工智能模型可以公开获得，而且通常在本地运行，因此有时没有任何防护措施来防止有人制作儿童色情图片，这给美国的顶级检察官敲响了警钟。(值得注意的是，Midjourney、DALL-E和AdobeFirefly都内置了禁止创建色情内容的过滤器）。信中写道："创建这些图像比以往任何时候都要容易，因为任何人都可以将人工智能工具下载到自己的电脑上，只需输入用户想要看到的内容的简短描述即可创建图像。而且，由于许多人工智能工具都是'开源'的，这些工具可以不受限制、不受管制地运行。"正如我们之前所报道的，利用社交媒体上的照片，在未经本人同意的情况下创建人工智能生成的深度假人也变得相对容易。总检察长们提到了类似的担忧，并将其延伸至儿童图像："人工智能工具可以通过研究受虐待儿童的真实照片，快速、轻松地创建'深度伪造'，生成显示这些儿童性姿势的新图像。这涉及将一个人的脸叠加到另一个人的身体上。还可以通过将互联网上原本未受害儿童的照片与受虐儿童的照片叠加，生成涉及先前未受伤害儿童的新CSAM，从而生成'深度伪造'图像"。"在考虑有关人工智能生成儿童图像的法规时，一个显而易见的问题出现了：如果图像是假的，是否造成了伤害？对于这个问题，总检察长们提出了一个答案，他们指出，无论真实的儿童是否受到虐待，这些技术都会给儿童及其家庭带来风险。他们担心，即使是不切实际的人工智能生成的CSAM也会"支持儿童剥削市场的增长，使虐待儿童正常化，并刺激那些试图将儿童性化的人的欲望"。美国对色情制品的监管历来是一种微妙的平衡，既要维护言论自由权，又要保护弱势群体免受伤害。然而，对于儿童，监管的天平却倾向于更严格的限制，因为人们对保护儿童几乎达成了普遍共识。正如美国司法部所写，"儿童色情图片不受第一修正案权利的保护，根据联邦法律属于非法违禁品"。事实上，正如美联社指出的那样，54位政治立场各异的总检察长在任何事情上达成一致意见都是非常罕见的。然而，目前还不清楚国会可以采取什么形式的行动来阻止这类图像的生成，同时又不限制个人使用人工智能生成合法图像的权利，而这种能力可能会受到技术限制的偶然影响。同样，政府也无法阻止稳定扩散公司发布人工智能模型，因为这些模型已经被广泛使用。不过，总检察长们还是提出了一些建议：首先，国会应成立一个专家委员会，专门研究人工智能用于剥削儿童的手段和方法，并提出阻止和解决这种剥削的方案。由于这项技术发展迅速，该委员会将持续运作，以确保对该问题有最新的了解。虽然我们知道已经成立了几个政府办公室和委员会对人工智能进行总体评估，但有必要成立一个专门负责保护儿童免受人工智能侵害的工作组，以确保我们中的弱势群体不被遗忘。其次，在考虑专家委员会的建议后，国会应采取行动阻止和解决剥削儿童的问题，例如扩大现有的对CSAM的限制，明确涵盖人工智能生成的CSAM。这将确保检察官拥有保护儿童所需的工具。值得注意的是，一些虚构的CSAM描述在美国是非法的（尽管这是一个复杂的问题），这可能已经涵盖了人工智能生成的"淫秽"材料。在保护儿童免受剥削的必要性与不过度束缚快速发展的科技领域（或侵犯个人权利）之间建立适当的平衡在实践中可能很难，这可能就是为什么总检察长们建议成立一个委员会来研究任何潜在的法规。过去，一些针对科技领域CSAM的善意斗争包含了有争议的副作用，为可能影响守法者隐私和权利的潜在越权行为打开了大门。此外，尽管CSAM是一个非常真实且令人憎恶的问题，但保护儿童的普遍诉求也被审查制度的倡导者用作言辞上的挡箭牌。人工智能可以说是2023年最具争议性的科技话题，用煽情的语言描绘出一幅飞速发展、末日即将来临的景象已成为当下的流行风格。同样，这封信的作者也用戏剧性的行动呼吁来表达他们的深切担忧："我们正在与时间赛跑，以保护我们国家的儿童免受人工智能的危害。事实上，众所周知的城墙已经被攻破。现在是采取行动的时候了"。...PC版：https://www.cnbeta.com.tw/articles/soft/1382257.htm手机版：https://m.cnbeta.com.tw/view/1382257.htm

澳拟对未经同意传播深伪色情图像者 处以最高六年监禁

澳拟对未经同意传播深伪色情图像者处以最高六年监禁澳洲拟立新法，未经当事人同意分享深度伪造色情图片者，将被判处最高六年监禁。法新社报道，澳洲总检察长德雷弗斯（MarkDreyfus）星期六（6月1日）晚些时候发表声明说，未经同意而分享深度伪造（深伪）制造的露骨色情材料，是一种具有破坏性且令人深感痛苦的虐待行为。“我们知道，绝大多数女性都是这种令人深恶痛绝的有害行为的目标。这种行为会对受害者造成深刻而持久的伤害。”这项新法将于下周提交议会，如果通过，将对犯下这种罪行者判处最高六年监禁；如果犯罪者不仅传播，还制作了深伪色情材料，刑期将增至七年。这个新的刑事罪只适用于成年人，儿童则受到单独的虐待儿童立法保护。随着人工智能（AI）科技迅速发展，深伪技术正给各国立法者和监督机构带来严峻挑战。今年4月，英国宣布将把未经同意制作露骨深伪图像的行为定为刑事犯罪，并计划对广泛传播这类图像的行为处以无上限罚款甚至监禁。2024年6月2日10:29AM

微软开始屏蔽一些导致其人工智能工具创建暴力、色情图像的文本

微软开始屏蔽一些导致其人工智能工具创建暴力、色情图像的文本微软似乎屏蔽了其Copilot工具中的几条提示词，这些提示导致生成式人工智能工具产生暴力、色情和其他非法图像。这些变化似乎是在该公司的一名工程师写信给联邦贸易委员会表达他对微软生成式人工智能技术的严重担忧之后实施的。当输入“prochoice”（支持堕胎）、“fourtwenty”（大麻黑话）或“prolife”（反对堕胎）等先前曾生成不良输出的提示词时，Copilot现在会显示一条消息，指出这些提示已被阻止。同时，反复尝试被屏蔽的提示词可能导致用户被封禁。然而，现在仍然有可能通过“carincident”（车祸）等提示生成暴力图像，而用户也仍然可以说服人工智能创建迪士尼人物和其他受版权保护的作品的图像。微软回应表示，其一直在持续监测、调整和添加额外的保护措施，以缓解对于模型的安全担忧。——

OpenAI考虑允许人们通过AI生成色情图片 但不能伪造他人

OpenAI考虑允许人们通过AI生成色情图片但不能伪造他人OpenAI似乎已经了解到用户可能对通过人工智能生成色情图片有着期望，因此需要探索能否在负责任的前提下，在适合年龄的环境中生成NSFW内容。需要强调的是OpenAI考虑的不仅是文本生成图片，按照讨论诸如利用ChatGPT生成色情类的文本内容也是可以的，当然这都可能需要验证年龄确保用户在已经成年的情况下使用。对于生成图片类，尽管OpenAI考虑允许使用人工智能生成色情图片(甚至包括未来使用OpenAISora模型生成色情视频)，但前提是不得使用深度伪造(DeepFake)，即用户不得生成用来伪造他人色情内容的图片。现阶段这些还是讨论，该公司希望确保用户在不违反法律或他人权利的情况下，最大程度的拥有控制权、可以生成自己想要的任何内容而不会被限制。另外OpenAI强调讨论这些内容不代表该公司已经在尝试开发人工智能色情相关的内容，所以要等讨论结束后OpenAI才会做决定，即是否放开这类限制。来源，频道：@kejiqu群组：@kejiquchat

Imgur 将从下个月开始禁止上传色情图像

图片共享网站Imgur宣布将于5月15日更新服务条款，禁止上传色情图像。Imgur支持匿名上传图片，在Reddit等社交网站非常受欢迎，它在2021年被Medialab公司收购。Imgur详细描述了不允许上传的各种形式的裸体图像，表示可以允许艺术性、科学性或教育性的裸体图像，称它不试图定义艺术或判断特定内容的艺术价值，而主要关注背景和意图。儿童色情图像都会被删除，如有必要还会举报到NationalCenterforMissing&ExploitedChildren儿童保护组织。()频道：@TestFlightCN