职贝云数AI新零售门户

标题: 眼见不为实——AIGC深度合成时代,我们还能置信什么? [打印本页]

作者: 8PSoKs86y 时间: 3 天前
标题: 眼见不为实——AIGC深度合成时代,我们还能置信什么?
(, 下载次数: 1)

（点击上图跳转视频）

(, 下载次数: 1)

如今，AI生成的动画和虚拟影像早已浸透日常生活，从文娱短片到商业广告，人们好像对此曾经习以为常。但若将工夫倒回两年多前——2024年终，一桩围绕英国凯特王妃的“失踪疑云”及其后续视频风波，曾以惊人的冲击力，将深度伪造技术的伦理困境与信任危机推至全球言论的中心。

2024年年终，沸沸扬扬的「凯特王妃失踪案」在发酵了三个月后，凯特王妃再次现身，不过这次依然是在屏幕背后——2024年3月22日，她发布视频回应公众对本人现状的关切和猜疑。但这条视频随即遭到了言论的鞭挞，人们质疑该条视频运用AIGC深度合成，视频并非凯特本人，也进一步加剧了人们关于凯特王妃生命安全的猜疑。

人们从细节中发掘出AI合成的证据——时隐时现的戒指、不对劲的条纹衫、僵硬的表情——许多人坚信屏幕前的凯特是AIGC技术合成的「假人」，凯特王妃遇害的阴谋论甚嚣尘上。「仿生人」凯特王妃会梦见电子威廉吗？

无论坐在花园长椅上的凯特能否为真，AIGC 逼真的虚拟才能正在重塑当下每个人的「真相观」。一切的视频、音频、照片都能够是 AI 虚拟的，在庞大的幻觉世界中，我该不该置信？我应该置信谁？

与此同时，如今的受众在看法到 AIGC 深度合成技术极具诈骗性的手腕后，一部分人则会「矫枉过正」，导致怀疑一切，「眼见不为实」。生成式技术越来越多地创造出令大众眼花纷乱、真假难辨的内容并流入旧事场域紧缩真相的存在空间，越来越多的假象和幻觉充斥；而另一个方面也是在瓦解真相在传播范畴的影响力、瓦解受众对媒体对信息的信任。

(, 下载次数: 2)

深度合成技术，是指应用以深度学习、虚拟理想为代表的生成合成类算法制造文本、图像、音频、视频、虚拟场景等信息的技术。2017 年，一位名叫「Deepfakes」的用户在美国 Reddit 网站上分享了 AI 合成技术篡改人脸的色情视频，将深度合成技术带到了大众面前。

顺应市场的需求，深度合成技术在影视文娱、传媒、教育等多范畴落地发展，深度合成内容数量和关注度呈现迸发式的增长。2024 年 2 月 15 日，美国人工智能研讨公司 OpenAI 正式发布人工智能文生视频工具——Sora。这一深度合成影像工具生成的视频一经发布就刷爆了微博、冤家圈等社交平台。

在感慨于Sora生成的视频以假乱真的同时，我们的人眼对于AI生成的视频或是文章的辨识才能又有多高呢？在以下的图片对照组中，你能区分出哪一边是真实的，而哪一边是AI合成的吗？

(, 下载次数: 2)

(, 下载次数: 3)

(, 下载次数: 2)

(, 下载次数: 2)

(, 下载次数: 2)

经过下面的测试，你能否准确分辨出了每一组影像的真伪？正如测试中所呈现的，AIGC 的造假技术在不断的更新迭代之下，诈骗性进一步加强。AIGC 经过数年来的退化演化，其呈现的内容类型不断丰富、内容质量不断提升、技术的通用性和工业化程度越来越强。得益于生成算法的提高，AIGC 如今曾经可以生成文字、代码、图像、语音、视频、3D 物体等各种类型的内容和数据，支撑着传媒、电商、文娱、影视等范畴的内容需求。算法的退化也意味着应用 AIGC 停止内容消费、交互的门槛降低——曾经需求电脑日夜工作56小时的人脸合成，如今普通的家用电脑也能应用AIGC停止作业，这也是深度伪造的风险相比起以前更应惹起注重的一大缘由。

虚伪信息战在和平中是一门陈旧的「艺术」，应用虚伪图片或信息影响军事或者政治决策由来已久，但 AIGC 技术使得虚伪信息的制造「大众化」，其技术难度大大降低的同时逼真度也大幅提高。技术与硬件门槛的降低、AIGC 深度合成才能的提升也引发了更为广泛的成绩和担忧。AIGC 深度合成技术的恶意运用在过去几年内激增，曾经有诸多案例表明其恶意的应用会形成国家安全和社会言论的危机。

(, 下载次数: 2)

在 AIGC 构建的虚幻但是"真实"的世界中，人们沉浸其中，AIGC 借深度学习和大数据技术在言语、图像辨认、自然言语处理等方面的功能，可伪造肖像、语音、形体、指纹等特征并生成指定图片、音频、视频，在 AIGC 加持下进一步混淆视听，令人真假莫辨。

美国众议院常设情报特别委员会主席亚当·希夫在其掌管的「人工智能对国家安全的应战」听证会上，曾经得出这样的结论：「让深度伪造和其他虚伪信息形式变得真正有害的是社交媒体的无处不在，以及虚伪信息传播的速度。」当高度仿真的虚伪信息与无处不在的社交媒体叠加，AIGC 深度伪造的危害进一步放大，其创造的虚伪信息借助数字平台，使虚伪信息的影响力扩展，用户遭到算法影响，平台会向用户展现与其信仰相符的信息，进一步巩固他们对虚伪信息的决计，并构成对其纠正的抵制，因此也会形成传媒行业与旧事真实危机的愈演愈烈。

传媒业在旧事场景中不慎重地采用 AIGC 则会形成自动、积极、无看法地「粉饰」与「造假」，以「眼见为实」的陈述制造「以假乱真」的现象，这种更容易影响言论的现象是风险的。

(, 下载次数: 2)

(, 下载次数: 3)

相比起 AIGC 所制造的虚伪信息所带来的直接要挟，更深层次也更为细思极恐的是——也许AIGC深度合成技术带来的最大的要挟不是人们会被诈骗，而是人们会末尾将一切都视为诈骗。深度伪造最具毁坏性的方面能够不是虚伪信息本身，而是不断接触虚伪信息，导致公众觉得包括视频在内的很多信息根本不可信。就如纽卡斯尔大学网络法律威望专家莉莲·爱德华兹教授说：「成绩能够不在于虚伪的理想，而在于真实的理想似乎变得不置可否。」

在习气于 AIGC 伪造的信息充斥之后，人们面对一切信息时都习气性思索其造假的能够性，即便一段视频完全真实，人们也会怀疑其能否为假。又或者人们将 AIGC 的高度造假的才能特性作为扫除观念异己的武器，只需求把一切不符合本身立场的旧事和信息打为「AI 合成」就可以粉饰太平天下大吉了。

浙江大学非传统安全与和平发展研讨中心教授刘国柱提出：「深度伪造最深入的影响在于它创造了「骗子的红利」——对从个人、社会、国家和国际社会不同层面的信任关系形成毁坏，从而给社会、国家乃至全球管理制造更多、更持久的困难。」社会信任的根基被动摇，真相与谎言的效能末尾等同，真实与虚拟的边界彻底混淆，这或许是最终的崩塌。

这也是凯特王妃事情「AI 合成阴谋论」所呈现的图景，面对鲜活高清的视频图像，人们照旧不置可否，不愿随便交出本人的信任。与凯特王妃事情相似的状况曾经发生过，最为典型的是 2018 年发生在摩洛哥的政变：加蓬总统阿里·邦戈于 10 月中风、久未出面，但 12 月 31 日他忽然「出现」在电视中，在摩洛哥向国民发表新致辞。邦戈的政治对手立刻指摘该「邦戈的新年致辞」视频为「深度伪造」、「加深了人们对总统继续实行其职责才能的怀疑」，触发了一周后的加蓬军队的政变，政变最后以失败告终。

真实的图像可以被质疑为虚拟，虚拟的图像也许会被以为是真实——AIGC的深度伪造技术或许正在蛀空社会信任的基石，社会言论的混乱、媒体话语权的减弱、对旧事真实的解构、对国家安全的扰乱等负面效应随之而来。正如斯坦福大学民主、发展与法治中心主任弗朗西斯·福山所说的那样：「‘后理想’世界兴起，人们正走进不信任的死胡同」。

(, 下载次数: 1)

凯特王妃的疑云终将散去，无论真相如何，这一事情都在引发着我们关于 AIGC 时代旧事真实的新思索。

「深度学习三巨头」之一、2018 年图灵奖得主 Geoffrey Hinton 于去年 5 月离任谷歌，他表示本人的离任是由于对人工智能技术的担忧。Hinton 担忧 AI 所带来的危机之一是虚伪信息的传播：虚伪图像和文字大量充斥在网络中，导致大家难以分辨什么是真实什么是虚拟。

新华网融媒体将来研讨院的相关文章中提出了相似的观点：「一旦媒体在错误的场域（旧事报道、知识解答、实况节目、纪录片摄制等），以错误的方式（虚拟消费、混合理想、神经刺激等技术）、错误的主体（人或智能机器），在错误的机制（缺乏明白标注、缺失流程管控、短少纠错与核查等）等状况下运用 AIGC，那么就极能够模糊真相与虚拟，放大幻觉形成的社会影响，而带来不可想象的悲剧。」

AIGC 的虚拟内容错误地传播到不恰当的范畴时，导致谣言、虚伪信息、误导和成见的产生。真伪难辨的信息海洋中，部分受众从自觉信任转变为怀疑一切，人们对信息的信任危机愈发显现，这无疑是 AIGC 时代多方共同面临的一场「狼来了」的危机。

目前，虽然 AIGC 的深度生成和虚拟技术尚未达到完全混淆真假、沟通真假的科幻程度，但我们不能忽视它能够形成的社会信任危机、冲击媒体话语权以及毁坏真相等危害。该当预防性地对 AIGC 深度合成技术地运用加以限制和管束。生成式人工智能的虚拟合成才能在全球范围内都惹起了警觉，多国政府也出台了相关法律法规予以规范。

也有专家提出，除了法律的硬性规定，还需求在已有国家立法的基础上，涵盖深度合成技术的数据搜集、数据处理、算法运转等环节的全过程各方的运用行为，制定一系列可操作性强的相关标准和规范，完善具有操作性的管理要求和合规指引，公权利部门和网络平台特别是社交网络平台，经过技术研发，遏制不道德、非法或恶意内容深度伪造作品的传播。在信息传播的场域中，媒体采用 AIGC 提升消费效率的同时，也要尽量避免 AIGC 的错位运用，警觉 AIGC 的臆造现象，厘清创作与纪实的边界；也更应慎重分辨信息的真伪虚幻，避免成为谣言与假象分布的帮凶。

AIGC 深度合成技术，像其他技术一样，具有双重性质，既能促进社会经济发展和提升消费生活程度，也带来一定风险。为有效监管深度合成技术的运用风险，应对技术发展应战，需求仔细研讨新技术和将来发展趋向，随着技术运用的演进不断调整和完善政策措施，确保技术在遵照原意的基础上得到合理运用。

欢迎光临职贝云数AI新零售门户 (https://www.taojin168.com/cloud/)