职贝云数AI新零售门户

标题: YEF2025 | AIGC安全:生成内容的伪造监测与防护 [打印本页]

作者: mwQIzsAK2 时间: 昨天 19:16
标题: YEF2025 | AIGC安全:生成内容的伪造监测与防护
(, 下载次数: 0)

（扫码报名）

伪造内容在各范畴影响日益加剧，如何辨认和应对伪造（如电信诈骗），已成为亟待处理的理想应战。本论坛聚焦AI生成内容的伪造技术，特别是人脸图像和视频伪造与检测。

1. AI伪造技术：分析深伪技术在虚伪图像、视频生成中的运用，及其在社交媒体、旧事、文娱等范畴的影响。

2. 伪造检测技术：讨论基于深度学习的图像视频分析与反制技术的创新及有效性。

3. 内容安全防护：讨论如何经过数字水印、认证机制等提升生成内容的安全性与可追溯性，防止滥用。

核心成绩包括：

AI伪造技术对社会信任和隐私安全的影响？

存在的技术破绽与滥用风险如何防备？

如何提升伪造检测的准确性与实时性？

论坛安排

顺序	主题	主讲嘉宾	单位
1	数字人脸生成与可控编辑	王伟	北京交通大学
2	学习退化：面向动态复杂系统的机器学习	李皓亮	香港城市大学
3	生成式人工智能安全	赫然	中国迷信院自动化研讨所
4	面向开放集深度伪造的检测技术研讨停顿与思索	何沛松	四川大学
5	人工智能安全	桂杰	东南大学
6	数字水印技术在新兴三维表征中的运用与停顿	万人杰	香港浸会大学
7	基于底层失真模型的文档图像安全研讨	陈昌盛	深圳大学

论坛主席

(, 下载次数: 0)

王伟

北京交通大学教授

北京交通大学计算机迷信与技术学院教授，国家高层次青年人才基金获得者。次要研讨方向为人脸图像视频的生成与编辑，以及序列模型架构研讨。在IEEE Trans.和CCF A类会议和期刊上发表论文40余篇，担任ICIP、ICMR等国际会议的Area Chiar，曾获ACM MultiMeida最佳论文提名奖，ICCV 优博奖，和意大利计算机视觉形式辨认和机器学习协会优博奖等。

报告标题：数字人脸生成与可控编辑

报告摘要：当前，数字人脸生成与可控编辑技术在学术研讨和实践运用中获得了分明停顿。基于2D和3D的人脸生成算法提供了多种处理方案。2D人脸生成算法次要依赖于基于深度学习的图像生成模型，可以生成高分辨率、细节丰富的图像。3D人脸生成算法则经过三维建模技术，准确捕捉人脸的几何结构和动态表情，完成愈加逼真的效果。结合2D和3D方法，研讨人员可以生成和编辑具有高度真实感的人脸图像，停止多维度的调整如表情姿态等。随着算法和计算才能的不断提升，数字人脸生成与编辑技术在虚拟理想、影视制造和社交媒体等范畴展现出广阔的运用前景。本报告将引见最新的研讨停顿，讨论2D和3D人脸生成算法与编辑方法的交融运用及其将来发展方向。

共同主席

(, 下载次数: 0)

李皓亮

香港城市大学电机工程学系助理教授

2018年获新加坡南洋理工大学博士学位，现任香港城市大学电气工程系助理教授，研讨方向包括人工智能安全、多媒体取证与迁移学习。曾获2019年瓦伦堡-南大校长博士后奖学金、2019年博士创新奖、2020年VCIP最佳论文奖、2022年度"AI+X"中国50位35岁以下青年精英学者称号，延续三年（2022-2024）当选斯坦福大学"全球前2%顶尖迷信家"榜单。现任《IEEE信息取证与安全汇刊》副主编、《机器学习研讨汇刊》执行编辑，担任NeurIPS 2024-2025范畴主席及ICASSP 2024程序委员。

报告标题：基于可解释人工智能与大言语模型的虚伪信息鲁棒检测技术停顿

报告摘要：多模态虚伪信息是指经过文本、图像等多种渠道传播的虚伪内容。此类信息在社交媒体平台上尤为猖獗，因其制形成本低且能疾速触达海量受众。现有检测方法普遍存在鲁棒性不足、可解释性完善等成绩，而这些特性恰恰是人工智能系统成功运用于虚伪信息检测实际的关键要素。本次演讲将系统引见若干基于深度学习的新型处理方案。所提出的方法植根于两大基础研讨：经过神经符号算法设计的可解释人工智能，以及大言语模型（LLM）技术。此外，我将深化讨论多模态虚伪信息检测在泛化才能与可迁移性方面的将来研讨方向。

论坛讲者

(, 下载次数: 0)

赫然

中科院自动化所多模态人工智能系统全国重点实验室研讨员

中科院自动化所多模态人工智能系统全国重点实验室研讨员，IAPR/IEEE Fellow。从事人工智能、形式辨认和计算机视觉研讨。承担国家青年迷信基金ABC类以及北京杰出青年迷信基金等项目。在本范畴国际主流期刊TPAMI和IJCV上发表论文23篇，第一作者11篇论文援用过百；研讨工作获CAAI技术发明一等奖、CSIG自然迷信一等奖、北京市科技提高二等奖等。指点先生获得IEEE SPS最佳青年论文奖、ICPR最佳迷信论文奖、北京市优秀博士论文、中科院优秀博士论文、IEEE生物特征理事会优秀博士论文。曾/现任IEEE TIFS副主编、TIP资深编委、TPAMI\TCSVT\TBIOM\IJCV\PR\TMLR和自动化学报等国内外期刊编委，以及NIPS\ICML\ICCV\CVPR\ECCV\ICLR\AAAI\IJCAI等会议范畴主席。

报告标题：生成式人工智能安全

摘要：生成式人工智能经过机器学习从数据中学习特征并生成全新数据，标志着AI从感知世界向创造世界的跃迁。但是，随着生成式人工智能的疾速发展，网络攻击、虚伪信息传播等安全成绩日益凸显，为网络空间安全带来了新的应战。本报告将引见针对生成式人工智能系统的多模态内容检测与安全的研讨现状，重点讨论高风险范畴生成式人工智能系统生成内容的安全隐患、检测评价目的体系以及生成内容全生命周期的生成、鉴别与取证技术等。

(, 下载次数: 0)

何沛松

四川大学副教授

四川大学网络空间安全学院副教授、硕导，CSIG数字媒体取证与安全专委会委员。次要研讨方向为多媒体取证、信息隐藏。以第一/通讯作者发表包括IEEE TIFS在内的高质量学术论文30余篇，先后掌管或参与多项国家自然迷信基金项目、重点研发计划青年迷信家项目、中国博士后迷信基金面上资助等。

报告标题：面向开放集深度伪造的检测技术研讨停顿与思索

摘要：近年来，深度伪造技术已表现出分明的多样性和持续迭代等特点。当前深度伪造检测技术多聚焦于从封闭数据集中构造泛化的二分类检测模型，仍存在对开放集深度伪造的检测局限。本报告次要引见，针对现有深伪检测模型的硬标签依赖、人物身份可知场景下的身份分歧性分析易受干扰、以及可扩展深伪检测中新旧义务的域偏移和知识遗忘等成绩，课题组近期展开的一系列工作，以及对将来本范畴研讨难题的思索。

(, 下载次数: 0)

桂杰

东南大学青年首席教授、智能安全系主任

东南大学青年首席教授，国家青年高层次人才（国家级四青人才）。现任东南大学网络空间安全学院智能安全系主任、区块链运用与监管教育部工程研讨中心副主任，曾任东南大学网络空间安全学院教师支部书记。先后在美国罗格斯大学和密西根大学从事研讨工作。目前次要从事形式辨认、机器学习、图像处理、计算机视觉及人工智能安全等方面的研讨，更详细来说，次要包括生成式人工智能、对抗攻击和防御、自监督学习、哈希学习、图像复原等。

报告标题：人工智能安全

摘要：报告引见课题组在人工智能安全方向的研讨，涵盖对抗攻击与防御、生成式人工智能、图像复原与自监督学习等方面。针对水下图像与雾霾图像，我们提出多种图像加强算法并展开综述研讨。在生成式AI方面，探求其在图像复原、视觉问答与文本生成中的运用，并停止实际与算法层面调研。我们还研讨了图像加强模型的对抗鲁棒性，提出疾速对抗训练的改进方法。在自监督学习方面，改进对比学习与掩码建模范式，提升语义了解才能。

(, 下载次数: 0)

万人杰

香港浸会大学助理教授

香港浸会大学计算机迷信系助理教授。博士毕业于新加坡南洋理工大学（Nanyang Technological University, Singapore），曾获南洋校长博士后基金（Presidential Postdoctoral Fellowship), ICCV 2019 最佳审稿人奖以及 VCIP 2020 最佳论文奖，在 PAMI/IJCV/CVPR/NIPS/TIFS/ICCV 等顶级期刊或会议上发表多篇论文。

报告标题：数字水印技术在新兴三维表征中的运用与停顿

摘要：神经辐射场(NeRF)和三维高斯散射(3D Gaussian Splatting)作为新兴的三维表征技术，其疾速发展带来了数字资产版权保护的迫切需求。针对这一应战，一系列创新性的水印技术方案已被提出。CopyRNeRF经过设计新型颜色表征机制，初次完成了NeRF模型的版权保护。这一基础工作随后拓展为NeRFProtector框架，完成了水印的即插即用嵌入。为应对NeRF模型在实践运用中的重着色成绩，GeometrySticker方法创新性地将水印信息嵌入几何特征，保证了重着色后的版权追踪才能。进一步地，基于码本的NeRF Signature方案在水印的不可感知性和鲁棒性方面获得了分明提升。随着三维高斯散射技术的兴起，基于不确定性的GaussianMarker方法扩展了水印技术的运用范围。同时，Geometry Cloak经过巧妙的几何扰动设计，有效防止了受保护图像的未授权三维重建。这些技术停顿不只丰富了数字水印的运用场景，也为新兴三维表征的版权保护提供了片面的技术支撑。

(, 下载次数: 0)

陈昌盛

深圳大学副教授

博士，深圳大学副教授，IEEE/CCF/CSIG高级会员。本科与博士分别毕业于中山大学、新加坡南洋理工大学。在IEEE Trans. 系列汇刊与CCF A类会议发表高程度学术论文20余篇，掌管国家自然迷信基金面上项目等3项。获得2022年教育部优秀成果奖（迷信技术）“自然迷信奖-二等奖”、2024年中国图象图形学会自然迷信奖-二等奖、2024年广东省计算机学会优秀论文奖一等奖、2024 ICME最佳论文提名奖。现任IEEE TIFS编委，2024及2025年PRCV范畴主席。

报告标题：基于底层失真模型的文档图像安全研讨

摘要：随着AIGC工具的普及，文档图像面临愈加隐蔽、低成本的篡改要挟，传统取证方法的有效性持续遭到应战。本报告聚焦翻拍场景下文档图像的安全成绩，基于底层成像失真机理，提出面向色度伪影、摩尔纹失真与半颜色噪声特征的一致建模与特征设计策略，结合频域加强与参数高效微调方法，系统提升文档图像在翻拍与篡改攻击下的检测与定位功能。研讨强调结合设备失真了解与深度模型优化，打造具有可解释性与鲁棒性的文档图像安全技术。

会议引见

由CCF主办的YEF2025将于2025年5月22-24日在珠海&横琴召开。此次大会由CCF会士、副理事长，华中科技大学教授金海担任大会主席，以“智辟新径”为主题，汇聚了中国计算机范畴的青年精英及知名专家，共同讨论科技前沿，开启智慧新篇章。在三天的工夫里，估计将组织7场特邀报告、2场大会论坛、1场思想秀、1场优秀大先生学术秀及22场专题论坛。

(, 下载次数: 0)

(, 下载次数: 0)

(, 下载次数: 0)

(, 下载次数: 0)

点击“阅读原文”，立刻报名。

欢迎光临职贝云数AI新零售门户 (https://www.taojin168.com/cloud/)