学术报告报告主题: 生成式人工智能安全
报 告 人: 任文琦教授
报告时间：2026年 4月20日（星期一）下午16:30
报告地点：清清文理楼3A01
邀 请 人: 郑驻军教授
欢迎广大师生前往！
数学学院
2026年4月15日
报告摘要：
随着生成式人工智能技术的快速发展与广泛部署，生成模型在赋能产业的同时，面临着物理退化导致的“不可控”、虚假生成导致的“不可信”以及恶意诱导导致的“不安全”三大核心挑战。本报告将围绕生成式人工智能安全这一核心议题，从可控增强、伪造检测和模型安全三个维度进行探讨。在可控增强方面：报告将探讨真实复杂物理干扰下生成模型恢复能力受限的问题，重点介绍基于成像规律的可控生成建模方法，展示如何缓解物理干扰条件下的特征混淆，提升生成内容的清晰度与可控性。在伪造检测方面：报告将系统梳理跨生成范式与网络传输环境下的伪造检测技术，探讨如何挖掘跨不同生成模型、不同传输退化率的伪造通用表征，提升检测器泛化性的同时增强抗压缩鲁棒性。在模型安全方面：报告深入分析多模态大模型在高维特征空间下的安全防御失效原因，针对越狱攻击与对抗补丁等开放场景下的恶意诱导，分享基于跨模态语义解耦的模型防御技术，实现高鲁棒的自适应防御。本报告旨在通过对上述三大维度的深入探讨，总结当前生成式人工智能安全领域的最新进展。
报告人介绍：
任文琦，中山大学网络空间安全学院教授/博导，中山大学“百人计划”引进人才，信息技术教育部重点实验室副主任，国家优青获得者，从事图像处理、计算机视觉、人工智能安全领域的研究。在CCF-A类和中科院一区发表学术论文100余篇（8篇ESI高被引论文，2篇热点论文），Google学术引用26000余次，第一作者单篇最高被引2300余次，近三年连续入选爱思唯尔中国高被引学者，入选2024年ScholarGPS全球前0.05%顶尖科学家榜单。多次担任CVPR、ICCV、NeurIPS等AI和CV领域重要学术会议的领域主席，担任IEEE Transactions on Image Processing编委(Associate Editor)。主持国家自然科学优秀青年基金、联合重点项目及华为、腾讯、美团等多项企业合作项目。获中国计算机学会优博论文奖、吴文俊人工智能优秀青年奖、中国电子学会自然科学一等奖（第二完成人）、中国图象图形学学会自然科学一等奖（第三完成人）、中共中央办公厅科技进步一等奖（第四完成人）。