.png?width=48&height=48&name=image%20(3).png)](https://blog.avast.com/author/emma-
mcgowan) 2024年1月30日
在泰勒·斯威夫特的AI生成色情图像在X（前身为推特）上迅速传播后，我们不禁要问：这对AI的未来意味著什么？
最近，AI生成的在X平台上疯传，这揭示了AI技术的阴暗面。这些图片据信是使用微软设计器创作的，引起了广泛关注，并突显出AI生成的假冒色情内容日益严峻的挑战。
随著这些图片在平台上迅速传播，事件不仅引发了粉丝和隐私倡导者的不满，也提出了关于AI在媒体创作中道德使用的重大问题。
Avast威胁情报总监米哈伊·萨拉特对此时的讨论提供了丰富的知识和专业见解。萨拉特专注于技术、安全和伦理的交汇点，为AI生成内容的影响提供了细致的观点。
在接下来的部分中，我们将深入探讨他的见解，回顾影像操控的历史平行，分析AI技术带来的伦理困境以及对数位信任和安全在日益驱动的AI世界中的更广泛影响。
假色情不再是新问题
萨拉特将当前AI生成逼真图像的能力与过去的Photoshop技术进行比较。正如Photoshop数年前彻底改变了图像处理方式一样，AI如今也让创建逼真图像变得更加简单。然而，操控图像的概念并不新颖；AI只是这场持续剧情中的最新工具。
“这在某种程度上只是一种不同的照片编辑软件，”他解释道，强调操控图像的问题已经困扰了十多年。如今的关键区别在于AI技术带来的便利性和可及性。这一转变引发了人们对社会如何适应和规范这些新工具的重要问题，因为这些工具使得创建逼真图像变得比以往任何时候都更容易。
AI与露骨内容的伦理困境
其中一个最紧迫的问题是使用AI生成露骨图像的伦理影响，特别是未经特定个体同意的情况下。尽管生成普通的裸体图片可能不会引发太多伦理问题，但真正的问题出现在轻易地创建可识别人物的露骨图像上。
“对于AI生成的色情内容，可能本身并没有什么内在的错误或伦理问题，”萨拉特表示。“但对我来说，伦理问题在于你可以相对轻松地生成带有某个特定面孔的图片。”
这种能力不仅限于像泰勒·斯威夫特这样的名人，还可能扩展到任何人，强调了需要制定伦理指导方针和立法的必要性：虽然所谓的“报复色情”（或未经同意分享裸体图片）在48个州是，但AI生成的深度伪造色情目前
AI公司如何防止创建深伪色情？
或许因为生成式AI的使用相对较新，对于未经主体同意创建露骨内容的管理的保护措施少之又少。然而，萨拉特表示，对于AI公司而言，实施这些措施并不会太困难：例如，不允许生成特定人物的图像或使用客户提交的图像作为素材来源，将能为绝大多数人提供足够的障碍。
“当然，有些人会设法打破这些限制，强迫模型执行其不应该执行的任务，”萨拉特说。“就我而言，目前几乎不可能完全避免这些问题——你只能让它变得更加困难。我想要表达的是，提供这些服务的公司应该更努力地去避免这种情况。”
还存在创建没有任何限制的色情生成模型的可能性。然而，萨拉特指出，即使可能，但这样做需要_大量_的技术知识和_大量_的计算能力。
“能够自己创建生成裸体的AI的人并不多，”萨拉特说。“因此，这更像是使用Photoshop，你需要有一定的技能水平才能做到。”
萨拉特将当前AI发展的状况与安全产业的演变作了比较。他观察到，我们正见证安全产业“在AI上重新开始”。这一比较强调了将AI发展视为一个持续过程的重要性，在此过程中识别和修复漏洞是技术成熟的关键。
泰勒·斯威夫特在X上的AI生成图像强调了负责任的AI使用的重要性。随著AI不断进步，平衡技术能力与伦理考量及安全措施至关重要。通过向像米哈伊·萨拉特这样的专家学习并反思过去的挑战，我们可以以更具备识别的和谨慎的方法来应对这一复杂的局面。
