纽约——前总统唐纳德·特朗普遭到穿着防暴装备的纽约市警察的群殴。俄罗斯总统弗拉基米尔·普京 (Vladimir Putin) 在灯光昏暗的混凝土牢房的铁栅栏后身着灰色监狱服。
最近几天，这些非常详细、耸人听闻的图片淹没了推特和其他平台，有消息称特朗普可能面临刑事指控，国际刑事法院已对普京发出逮捕令。
但这两种视觉都不是真实的。这些图像——以及散布在社交媒体上的大量变体——是使用由人工智能提供支持的日益复杂和广泛使用的图像生成器制作的。
错误信息专家警告说，这些图片预示着一个新的现实：重大新闻事件后社交媒体上涌现出大量虚假照片和视频，并在社会的关键时刻进一步混淆事实和虚构。
“它确实在危机事件期间增加了噪音。这也增加了愤世嫉俗的程度，”西雅图华盛顿大学教授杰文韦斯特说，他专注于错误信息的传播。“你开始对系统和你得到的信息失去信任。”
虽然操纵照片和创建假图像的能力并不新鲜，但 Midjourney、DALL-E 和其他公司的 AI 图像生成工具更易于使用。他们可以快速生成具有详细背景的逼真图像，只需来自用户的简单文本提示即可。
最近的一些图像是由本月发布的Midjourney 文本到图像合成模型的新版本驱动的，除其他外，该模型现在可以生成令人信服的图像，模仿新闻机构照片的风格。
在一个广为流传的 Twitter 帖子中，总部位于荷兰的调查性新闻团体 Bellingcat 的创始人埃利奥特希金斯使用该工具的最新版本来想象特朗普虚构被捕的大量戏剧性画面。
这段被分享和点赞数万次的视频显示，一群穿制服的警察抓住这位共和党亿万富翁，并粗暴地将他拉倒在人行道上。
希金斯也是一组普京被捕、受审和入狱照片的幕后黑手，他说他发布这些照片并没有恶意。他甚至在他的 Twitter 帖子中明确表示这些图像是 AI 生成的。
尽管如此，根据希金斯的说法，这些图像足以让他被锁定在 Midjourney 服务器之外。这家位于旧金山的独立研究实验室没有回复寻求评论的电子邮件。
希金斯在一封电子邮件中写道：“特朗普被捕的照片实际上只是随意地展示了 Midjourney 在渲染真实场景方面的好坏。” “当我将提示插入 Midjourney 时，这些图像开始形成一种叙事，所以我将它们串成一个叙事，并决定完成这个故事。”
他指出这些图像远非完美：在一些图像中，奇怪的是，特朗普戴着警用腰带。在其他人身上，脸和手明显扭曲了。
总部位于纽约、专注于视觉证据的人权组织 Witness 的媒体技术专家 Shirin Anlen 表示，像希金斯这样的用户在他们的帖子中明确声明这些图像是人工智能生成的并且仅供娱乐是不够的。
她说，很多时候，在没有关键背景的情况下，这些视觉效果很快就会被其他人转发。事实上，一篇 Instagram 帖子分享了希金斯的一些特朗普照片，就好像它们是真的一样，获得了超过 79,000 个赞。
“你只是看到了一幅图像，一旦你看到了什么，你就无法将它视而不见，”安伦说。
在最近的另一个例子中，社交媒体用户分享了一张合成图像，据称是普京跪下亲吻中国领导人习近平的手。这张照片在俄罗斯总统本周欢迎习近平访问克里姆林宫时流传开来，很快就变成了一个粗俗的模因。
目前尚不清楚这张照片是谁制作的，也不清楚他们使用了什么工具，但一些线索可以证明是伪造的。例如，两位领导人的头和鞋子略有变形，房间内部与实际会面的房间不符。
专家说，随着合成图像越来越难以与真实事物区分开来，打击视觉错误信息的最佳方法是提高公众意识和教育。
韦斯特说：“制作这些图像变得如此容易，而且成本如此低廉，我们应该尽一切努力让公众了解这项技术的进步。”
希金斯建议社交媒体公司可以专注于开发技术来检测人工智能生成的图像并将其集成到他们的平台中。
Twitter 制定了一项政策，禁止可能具有欺骗或伤害性的“合成、操纵或断章取义的媒体”。Twitter 的众包事实核查项目 Community Notes 的注释附在一些推文上，以包含特朗普图像是人工智能生成的上下文。
当周四联系到该公司征求意见时，该公司仅通过电子邮件回复了自动回复。
Facebook 和 Instagram 的母公司 Meta 拒绝置评。通过其第三方事实核查程序，一些捏造的特朗普图像被标记为“虚假”或“缺失上下文”，美联社是该程序的参与者。
Arthur Holland Michel 是纽约卡内基国际事务伦理委员会的研究员，专注于新兴技术，他说他担心世界还没有为即将到来的洪水做好准备。
他想知道涉及普通人的深造假——例如，前合伙人或同事的有害假照片——将如何受到监管。
“从政策的角度来看，我不确定我们是否准备好应对社会各个层面的这种规模的虚假信息，”米歇尔在一封电子邮件中写道。“我的感觉是，要彻底阻止这种情况，还需要一项迄今为止无法想象的技术突破。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“真相网”用户上传并发布，本平台仅提供信息存储服务。
评论跟贴
网友评论仅供其表达个人看法，并不表明本站立场。