美国总检察长联名呼吁采取行动阻止AI生成的儿童色情图像

来源：cnBeta 　2023-09-07 16:47:29

本周三，美国 50 个州和 4 个地区的总检察长致信国会，敦促立法者成立一个专家委员会，研究如何利用人工智能生成儿童性虐待材料（CSAM）来剥削儿童。他们还呼吁扩大打击儿童性虐待的现有法律，明确涵盖人工智能生成的材料。

信中写道："作为我们各自州和地区的总检察长，我们对各自辖区内儿童的安全深感忧虑。虽然针对儿童的互联网犯罪已经被积极起诉，但我们担心人工智能正在创造一个新的虐待领域，使这种起诉更加困难。"

Stable Diffusion等开源图像合成技术可以轻松创建人工智能生成的色情作品，围绕增强这种能力的工具和附加组件已经形成了一个庞大的社区。由于这些人工智能模型可以公开获得，而且通常在本地运行，因此有时没有任何防护措施来防止有人制作儿童色情图片，这给美国的顶级检察官敲响了警钟。(值得注意的是，Midjourney、DALL-E 和 Adobe Firefly 都内置了禁止创建色情内容的过滤器）。

【资料图】

信中写道："创建这些图像比以往任何时候都要容易，因为任何人都可以将人工智能工具下载到自己的电脑上，只需输入用户想要看到的内容的简短描述即可创建图像。而且，由于许多人工智能工具都是"开源"的，这些工具可以不受限制、不受管制地运行。"

正如我们之前所报道的，利用社交媒体上的照片，在未经本人同意的情况下创建人工智能生成的深度假人也变得相对容易。总检察长们提到了类似的担忧，并将其延伸至儿童图像：

"人工智能工具可以通过研究受虐待儿童的真实照片，快速、轻松地创建"深度伪造"，生成显示这些儿童性姿势的新图像。这涉及将一个人的脸叠加到另一个人的身体上。还可以通过将互联网上原本未受害儿童的照片与受虐儿童的照片叠加，生成涉及先前未受伤害儿童的新 CSAM，从而生成"深度伪造"图像"。"

在考虑有关人工智能生成儿童图像的法规时，一个显而易见的问题出现了：如果图像是假的，是否造成了伤害？对于这个问题，总检察长们提出了一个答案，他们指出，无论真实的儿童是否受到虐待，这些技术都会给儿童及其家庭带来风险。他们担心，即使是不切实际的人工智能生成的 CSAM 也会"支持儿童剥削市场的增长，使虐待儿童正常化，并刺激那些试图将儿童性化的人的欲望"。

美国对色情制品的监管历来是一种微妙的平衡，既要维护言论自由权，又要保护弱势群体免受伤害。然而，对于儿童，监管的天平却倾向于更严格的限制，因为人们对保护儿童几乎达成了普遍共识。正如美国司法部所写，"儿童色情图片不受第一修正案权利的保护，根据联邦法律属于非法违禁品"。事实上，正如美联社指出的那样，54 位政治立场各异的总检察长在任何事情上达成一致意见都是非常罕见的。

然而，目前还不清楚国会可以采取什么形式的行动来阻止这类图像的生成，同时又不限制个人使用人工智能生成合法图像的权利，而这种能力可能会受到技术限制的偶然影响。同样，政府也无法阻止稳定扩散公司发布人工智能模型，因为这些模型已经被广泛使用。不过，总检察长们还是提出了一些建议：

首先，国会应成立一个专家委员会，专门研究人工智能用于剥削儿童的手段和方法，并提出阻止和解决这种剥削的方案。由于这项技术发展迅速，该委员会将持续运作，以确保对该问题有最新的了解。虽然我们知道已经成立了几个政府办公室和委员会对人工智能进行总体评估，但有必要成立一个专门负责保护儿童免受人工智能侵害的工作组，以确保我们中的弱势群体不被遗忘。
其次，在考虑专家委员会的建议后，国会应采取行动阻止和解决剥削儿童的问题，例如扩大现有的对CSAM的限制，明确涵盖人工智能生成的CSAM。这将确保检察官拥有保护儿童所需的工具。

值得注意的是，一些虚构的 CSAM 描述在美国是非法的（尽管这是一个复杂的问题），这可能已经涵盖了人工智能生成的"淫秽"材料。

在保护儿童免受剥削的必要性与不过度束缚快速发展的科技领域（或侵犯个人权利）之间建立适当的平衡在实践中可能很难，这可能就是为什么总检察长们建议成立一个委员会来研究任何潜在的法规。

过去，一些针对科技领域 CSAM 的善意斗争包含了有争议的副作用，为可能影响守法者隐私和权利的潜在越权行为打开了大门。此外，尽管 CSAM 是一个非常真实且令人憎恶的问题，但保护儿童的普遍诉求也被审查制度的倡导者用作言辞上的挡箭牌。

人工智能可以说是 2023 年最具争议性的科技话题，用煽情的语言描绘出一幅飞速发展、末日即将来临的景象已成为当下的流行风格。同样，这封信的作者也用戏剧性的行动呼吁来表达他们的深切担忧："我们正在与时间赛跑，以保护我们国家的儿童免受人工智能的危害。事实上，众所周知的城墙已经被攻破。现在是采取行动的时候了"。

推荐DIY文章