我中心主任吕建成教授受邀参加首届国产优秀空天智能数据集发布会暨《中国图象图形学报》创新发展会议并作主题报告

5月23日，由中科院空天信息创新研究院和《中国图象图形学报》编辑部主办的首届国产优秀空天智能数据集发布会暨《中国图象图形学报》创新发展会议在四川大学（望江校区）东三演播厅成功举行。会议汇聚了来自中山大学、北京交通大学、哈尔滨工业大学、香港科技大学等全国知名高校，以及中科卫星科技集团有限公司等头部企业的专家学者与行业代表，围绕空天智能数据集建设、图像图形学前沿发展等议题展开深入交流。我中心主任吕建成教授应邀参加会议，并作题为《多模态大模型内容安全》的主题报告。

图一：吕建成教授在现场作报告

吕建成教授指出，”十五五”规划纲要首次在国家五年规划层面将大模型安全治理纳入顶层设计，明确提出”坚持促进发展和规范管理相统筹，加强数据基础制度规则建设和人工智能治理”，标志着我国大模型发展进入”发展与安全并重”的新阶段。

随后，吕建成教授阐述了大模型安全的核心内涵。他指出，大模型是当前最成功的人工智能技术路线，其发展呈现模型系统化、物理智能化、人机交互拟人化和社会治理规范化四大趋势，安全性贯穿其训练、部署、使用的全生命周期。其中，内容安全旨在确保生成内容符合法律法规与伦理价值观，防止技术被滥用。

在虚假图像治理方面，吕建成教授分析了当前面临的挑战。他将图像安全治理手段归纳为”主动治理”与”被动治理”两大路径：前者通过显式标识、隐式水印等方式对生成内容进行标注，后者利用技术手段对图像进行后检测。但主动治理存在标识脆弱、需供应方配合等局限，传统被动检测则难以应对日益多样化的伪造技术。

针对这一难题，吕建成教授介绍了其团队在全要素伪造图像检测领域的研究进展。他提出了”伪造图像检测（FID）”新任务，并构建了全球首个统一评测基准平台ForensicHub（NeurIPS 2025），涵盖Deepfake、AIGC、图像篡改和文档篡改四大领域，集成23个数据集与42个基线模型，已被多所顶尖高校论文跟进，并作为2025全球AI攻防大赛的基准平台。

图二：团队对“伪造图像检测（FID）”任务定义

图三：ForensicHub成果介绍

吕建成教授进一步揭示了统一伪造检测的核心瓶颈——”跨域样本负迁移”现象，即加入其他领域训练数据会导致模型自身性能下降，其机理在于梯度冲突引发特征空间坍缩。团队据此提出了SICA方法，通过低秩更新在未坍缩的特征空间上精准捕捉伪造伪影，有效避免了特征退化。在首个FID数据集OpenMMSec（约33万张图片）上的评测表明，SICA在四大检测领域均取得最优或次优性能，首次实现了统一伪造图像检测目标。

图四：SICA方案核心思想

基于SICA方案，团队荣获数字中国创新大赛（DCIC）相关赛道第一名（1/173），相关技术已应用于蚂蚁鉴伪大模型DefakerOne及中电科10所等实际业务场景，两名研究生入选蚂蚁”星计划”。

报告结束后，与会专家学者围绕多模态大模型内容安全的技术路线、产业应用和治理策略等话题展开了热烈讨论。吕建成教授的报告立足国家战略需求，紧扣”十五五”规划纲要关于人工智能治理的顶层设计，结合团队最新科研成果，为在场高校师生和企业代表呈现了一场内容翔实、视野开阔的学术盛宴，获得了与会人员的高度评价。

图五：活动现场动态

此次报告不仅展示了我中心在多模态大模型安全领域的深厚研究实力和前沿创新成果，也进一步加强了中心与空天信息、图像图形学等相关领域学术共同体和产业界的交流合作，为推动我国大模型安全技术的发展贡献了智慧和力量。