Emma McGowan 2024年1月30日
随著AI生成的泰勒斯威夫特色情图像在X平台前Twitter上病毒式扩散,我们不禁要问:这对AI的未来意味著什么?
最近,生成的泰勒斯威夫特 明星色情图像在X上广为流传,显示出AI技术的黑暗面。这些图像据信是使用Microsoft Designer创作的,引起广泛关注,突显出AI生成假色情内容的挑战日益严峻。
随著这些图像迅速在平台上扩散,这一事件不仅引发了粉丝和隐私倡导者的愤怒,还提出了关于AI在媒体创作中伦理使用的重大问题。
Avast的威胁情报主管Michal Salt拥有丰富的知识和专业能力,可以就此进行深入讨论。Salt关注科技、安全和伦理的交集,为AI生成内容的影响提供了细致的见解。
在接下来的部分中,我们将探讨他的洞见,实地了解影像操作的历史平行、AI能力带来的伦理困境,以及在这个愈加由AI驱动的世界中,数字信任和安全的更广泛影响。
Salt将目前AI生成逼真图像的能力与过去Photoshop的使用相提并论。正如Photoshop在多年之前彻底改变了图像操作,现在AI则显著简化了创建现实图像的过程。然而,操作图像的概念并不新鲜;AI只是此漫长故事中的最新工具。
“某种程度上,这只是另一种照片编辑软件,”他解释道,强调过去十多年来操作图像的问题一直存在。现在的关键区别在于AI技术带来的便利性和可获得性。这一转变引发了社会如何适应和规范这些新工具的重要问题,因为它们使得创建逼真图像比以往任何时候都更容易。
其中一个最具紧迫性的问题是利用AI生成明确图像的伦理含义,尤其是针对特定个体未经同意的情况下。虽然生成一般的裸体图像可能不会引发太多伦理问题,但真正的问题在于轻易地创建可识别个体的色情图像。
“AI生成的色情内容本身可能并没有内在的道德问题,”Salt表示,“但对我来说,伦理问题在于,您可以相对轻松地生成一个带有已知或特定面孔的图像。”
这一能力不仅限于像泰勒斯威夫特这样的名人,实际上可以扩展到任何人,这强调了针对这些问题需要伦理指导和立法:虽然所谓的“报复色情”或未经同意的裸照分享在48个州都是非法的,但目前AI生成的深伪色情仅在10个州被禁止。这一明显的差异突显了立法跟上技术的必要性。
或许因为获取生成AI的途径相对较新,因此在未经当事人同意的情况下创建明确内容的保障措施仍然非常少。根据Salt的说法,然而,对于AI公司来说,实施这些措施并不会非常困难:像禁止生成特定人物的图像或使用用户提交的图像作为素材这样简单的措施,就能为绝大多数人提供足够的屏障。
“当然,某些人仍然能够突破这些限制,强迫模型做一些它不应该做的事情,”Salt说。“我认为目前的状况是,几乎无法避免这一情况您只能使其变得更难。我想要表达的观点是,提供这些服务的公司应该更加努力去避免这种情况。”
此外,还有可能有人创造自己的生成色情图像的模型,没有任何限制。然而,Salt指出,尽管这是可能的,但实现这一目标需要 大量的技术知识和 大量的计算能力。
“不是很多人能够自己创建生成裸体图像的AI,”Salt说。“因此,这更类似于使用Photoshop,您需要具备一定的技能才能做到这一点。”
Salt将目前的AI发展状态与安全行业的演变相提并论。他观察到,我们正见证安全行业“从AI开始重新启动”。这一比较突显了将AI发展视为一个持续进程的重要性,而发现和修复漏洞是使技术成熟的关键。
在X上的泰勒斯威夫特的AIgenerated影像强调了负责任地使用AI的重要性。随著AI的不断进步,在技术能力、伦理考量和安全措施之间取得平衡将至关重要。我们可以通过向像Michal Salt这样的专家学习,并反思以往的挑战,以更具知识性和谨慎的方式,驶过这一复杂的海域。