Emma McGowan 2024年1月30日

在泰勒斯威夫特的AI生成淫秽图像在X前身为Twitter上广泛传播后，我们不禁要问：这对AI的未来意味着什么？

最近发生了一起令人不安的事件，AI生成的著名歌手泰勒斯威夫特的露骨图像 在X平台上泛滥，突显了AI能力的阴暗面。这些图像被认为是使用Microsoft Designer创作的，迅速引发了广泛的关注，并突出了AI生成假色情内容日益严峻的挑战。

随着这些图像在平台上迅速传播，此事件不仅引发了粉丝和隐私倡导者的愤怒，也提出了关于AI在媒体创作中伦理使用的关键问题。

Avast威胁情报总监Michal Salt在这个时机恰当的话题上提供了丰富的知识和专业见解。他敏锐地关注技术、安全与伦理的交叉点，就AI生成内容的影响提供了深刻的见解。

在接下来的部分中，我们将深入探讨他的见解，探索图像操控的历史平行、AI能力所提出的伦理困境，以及在这个日益由AI驱动的世界中，数字信任和安全的更广泛含义。

假色情并不是新问题

Salt指出，当前AI生成逼真图像的能力与过去使用Photoshop的情况相似。正如Photoshop多年前对图像处理的颠覆，AI现在使创建现实图像变得更加容易。然而，操控图像的概念并不新鲜；AI只是这个持续故事中的最新工具。

“在某种程度上，这只是不同的图像编辑软件，”他解释道，强调操控图像的概念已经为人们所担忧超过十年。现在的关键区别在于AI技术带来的便利性和可及性。这一变化引发了关于社会如何适应和监管这些新工具的重要问题，因为这些工具使得创建逼真图像比以往更为轻松。

AI与露骨内容的伦理困境

最迫切的关注之一是使用AI生成露骨图像的伦理影响，特别是未经特定个体同意的情况下。虽然生成通用的裸露图像可能不会引发如此多的伦理问题，但真正的问题出现在轻易地创建带有可识别人脸的露骨图像上。

“AI生成的色情内容本身可能没有什么本质上的错误或伦理问题，”Salt表示。“但伦理问题，至少对我来说，正是可以相对容易地生成带有已知或特定面孔的图像。”

这种能力不仅限于像泰勒斯威夫特这样的名人，可能会扩展到任何人，这强调了需要伦理指导和立法的重要性：尽管所谓的“报复色情”或未成年人共享裸图在48个州是非法的，但目前AI生成的深度伪造色情图像只有在10个州被禁止。这一显著差异强调了立法需要追赶技术的必要性。

AI公司如何能防止深度伪造色情的生成？

也许由于生成型AI的访问相对较新，因此在没有主体同意的情况下创建露骨内容的防护措施相对较少。然而，Salt表示，实施这些措施对AI公司来说并不会太困难：例如，不允许生成特定人的图像或使用客户提交的图像作为素材，就能够为绝大多数人提供足够的屏障。

“当然，有些人可能会打破这些限制，强迫模型做一些它本不该做的事，”Salt说。“我认为，目前几乎不可能完全避免这种情况只能让它更困难。我想要表达的是，提供这些服务的公司应该更努力地去避免这种情况。”

也有可能有人创建自己的色情生成模型，不受任何限制。Salt指出，尽管可能，但这需要大量的技术知识和计算能力。

“并不是很多人能够自己创建一个生成裸体图像的AI，”Salt说。“所以，这更像是使用Photoshop，你需要具备一定的技能才能做到这一点。”

Salt将目前AI发展的状态与安全行业的演变进行了比较。他观察到，我们正在见证安全行业“通过AI重新开始”的过程。这一比较强调了将AI发展的视为一个持续过程的重要性，在该过程中，识别和修复漏洞是使技术成熟的关键。

在X上关于泰勒斯威夫特的AI生成图像突显了负责任使用AI的重要性。随着AI的不断进步，平衡技术能力与伦理考虑及安全措施将至关重要。通过向像Michal Salt这样的专家学习并反思过去的挑战，我们能够以更明智和谨慎的方式应对这一复杂的局面。