AI假照片泛滥为监管敲响警钟

最近几天，美国前总统特朗普被全副武装的纽约防暴警察按倒在地的这种细节丰富、耸人听闻的图片淹没了推特网等社交媒体平台。

但它们与事实一点都不沾边。这些图片——以及散布在社交媒体上的众多大同小异的类似照片——出自人工智能(AI)驱动的日益先进并广泛普及的图像生成技术。

专家警告说，这些图片预示着一个新的现实：在重大新闻事件发生后，一波又一波虚假照片和视频充斥社交媒体，在关键时刻进一步混淆事实。关注错误信息传播的华盛顿大学教授杰文·韦斯特说：“这的确在危机事件中增加了噪音，也加剧了人们的愤世嫉俗程度。你会开始对这个体系以及你所接收到的信息失去信任。”

虽然处理照片并生成假图片的技术并不新鲜，但如今各种AI图像生成工具变得更加触手可及。它们可以在用户发出简单指令后，迅速生成海量栩栩如生的图片。

“见证”是设在纽约的一个注重视觉证据的人权组织，该组织的媒体技术专家希琳·汉伦说，很多时候，视觉资料在没有提供关键背景的情况下被快速地反复转发．事实上，社交平台Instagram上一个分享关于特朗普的虚假图片的帖子获得点赞数超过了7.9万。

专家说，随着合成图像越来越难辨真假，对抗错误视觉信息的最佳方式是提高公众的意识并加强这方面的教育。社交媒体公司可以把重点放在开发能够辨别AI生成图像的新技术上，并将这种技术融人自己的平台。

2019年，时任美国众议院议长南希·佩洛西的一段失真视频在社交媒体上迅速传播后，主要科技公司加强了打击“深度伪造”的政策。第二年，元宇宙平台公司(Meta)禁止用户发布高度修改的视频，但仍允许发布旨在模仿或讽刺的修改视频。推特还推出了一项新规定，禁止用户分享可能造成伤害的欺骗性和操纵性媒体内容，例如可能导致暴力、广泛内乱或威胁个人隐私的推文。

“监督美国媒体组织”主席安杰洛·卡鲁索内说：“从那以后，技术变得更加复杂，但更难监测。而且这些互联网巨头都没有在如何发现这些问题，以及如何执行针对这些问题的政策方面做出任何重大投资。”

布鲁金斯学会AI和新兴技术计划主任梅瑟罗指出，“特朗普被捕”的照片或许无法让人相信，但仍可以挑动公众的情绪，如果特朗普的支持者或反对者受到画面的刺激，可能做出冲动之举。“这一事件再次表明，目前缺乏企业标准或政府法规来解决使用人工智能制造和传播谎言的问题。”