2023 年6月21日，CSIG图像图形中国行来到深圳大学，本次研讨会旨在定位于人工智能安全威胁与知识产权保护等前沿技术，展示该领域最新的研究成果，并讨论研究中面临的难题与挑战。活动主办单位包括中国图象图形学学会（CSIG）、广东省图象图形学会，承担单位包括CSIG 数字媒体取证与安全专委会、深圳大学电子与信息工程学院（广东省智能信息处理重点实验室）、中山大学网络空间安全学院。本次会议得到了广泛关注，吸引了来自香港城市大学、重庆邮电大学、海南大学、湾区大学、中山大学、深圳大学等高校师生前来参会。
会议开幕式由深圳大学李斌教授主持，深圳大学电子与信息工程学院执行院长黄磊特聘教授致开幕词。李斌教授、陈昌盛副教授、杨文元助理教授分别为来访专家主持学术报告。
图 1 李斌教授主持开幕式
图 2 黄磊教授致辞
图 3 陈昌盛副教授主持报告
图 4 杨文元助理教授主持报告
图 5 微众银行范力欣博士作报告
来自微众银行范力欣博士作了题目为“模型版权认定——进展与挑战”的报告。报告回顾了人工智能模型的发展，展示了生成模型的结果，以及AI生成侵害版权的案例，并由此引出了模型版权认定的机遇与挑战。报告主要集中在模型生命周期与知识产权保护这个主题上。范力欣博士首先介绍了模型版权保护系统包含的实体，分析了各个实体之间在模型版权保护过程中扮演的角色。报告还引出了模型版权保护的一些存在的问题，包括可证明安全缺失、全生命周期测试框架缺失、AIGC模型版权保护挑战、联邦学习版权保护挑战、Trade-off:恶意投毒或者水印嵌入、LLM版权版权保护挑战、IPR功能多样化挑战以及法律社会相关等。
图 6 暨南大学夏志华教授作报告
暨南大学夏志华教授作了题目为“人工智能隐私与取证”的报告。报告从人工智能数据隐私角度出发，介绍了AI隐私相关技术以及协议，由此引出了基于秘密共享的非线性函数sigmoid和tanh的安全两方协议，基于此提出基于分治策略的指数协议，并将其应用于sigmoid和tanh函数中；接着夏志华老师介绍了鲁棒GAN模型水印方案，从已有的GAN模型水印工作出发，引出了夏教授团队的基于预训练水印解码器的GAN模型水印方法；以及ChatGPT生成摘要检测方法等相关工作。
图 7 清华大学深圳国际研究生院夏树涛教授作报告
清华大学深圳国际研究生院夏树涛教授作了题目为“信息论、机器学习与AI 安全初探”的报告。报告回顾了深度学习的发展历史，引出了第三次AI浪潮下模型大规模应用面临的机遇和挑战。接着夏教授介绍了机器学习与信息论的关系，阐述了信息论相关知识对机器学习模型安全的启示和指导。夏教授重点介绍了AI数据压缩存在的问题，并提供了相关的解决思路和方法，主要采用了非对称压缩和边信息技术提升了数据压缩效率，相比JPEG压缩提升了压缩率。最后，夏教授介绍了纠错码在AI模型安全中的应用。
图 8 哈尔滨工业大学（深圳）陈斌助理教授作报告
哈尔滨工业大学（深圳）陈斌助理教授作了题目为“面向多媒体检索系统的安全与版权保护”的报告。报告首先介绍了多媒体检索的背景知识和相关方法，主要包括最近邻搜索及其替代方案。接着从香农信息论出发介绍了信源编码的原理，引出了基于深度学习的多媒体检索方法，具体包括了深度量化和深度哈希两类方法。此外，报告对多媒体检索方法抵抗对抗攻击的能力进行了分析，探讨了对抗噪声在视频检索的版权保护中可能的应用。报告最后总结了深度检索系统未来面临的机遇和挑战。
图 9 南京航空航天大学薛明富副教授作报告
南京航空航天大学薛明富副教授作了题目为“深度学习模型的主动授权控制”的报告。报告从深度模型版权保护的角度出发，对相关方法根据嵌入主体和嵌入方式等角度进行了分类。报告接着介绍了主动式模型版权保护的概念、需要解决的问题以及注意事项。报告具体对基于参数扰动加密的模型版权保护方法、基于多触发模型的后门攻击方法、基于隐蔽后门和用户身份认证的主动授权方法、罕见对抗样本作为模型指纹的方法、基于样本相关后门的主动授权控制以及用户指纹追踪方法和基于可逆空间域对抗样本的数据集授权控制方法。最后对面向主动授权控制的模型版权保护方法进行了总结。
图 10 香港中文大学（深圳）吴保元副教授作报告
香港中文大学（深圳）吴保元副教授作了题目为“对抗机器学习的统一视角和最新进展”的报告。报告首先介绍了对抗机器学习的概念和机理，包括对抗样本攻击、后门攻击和权重攻击的区别和联系；并且对对抗机器学习范式进行了定义。报告接着对后门攻击方法进行了分类总结和归纳，从一种不可见后门攻击方法出发，介绍了一种鲁棒的后门攻击方法；另外，针对目标跟踪任务，介绍了相应的后门攻击方法，并且取得了很好的视觉效果和鲁棒性；报告还介绍了面向3D点云分类任务的后门攻击方法。报告接着介绍了后门攻击相应的防御方法，包括了从模型训练过程、特征空间和训练数据角度出发的相关方法。最后，报告对后门攻击和防御方法进行了梳理总结，提供了相关的开源工具。
图 11 上海大学吴汉舟副教授作报告
上海大学吴汉舟副教授作了题目为“频域可解释性黑盒模型水印”的报告。报告首先对模型水印基于验证方式的不同进行了分类，重点介绍了黑盒模型水印的基本框架。报告针对在空域嵌入水印方案的鲁棒性不强的问题，提出了在频域嵌入水印的新方案，方法首先分析了频域扰动对模型鲁棒性/泛化能力的影响，得出低频扰动更适合用于黑盒模型水印的结论。接着利用聚类方法找到扰动频率集并添加高斯扰动，并且模型在具体任务上具有较好的保真性，在水印验证上具有较好的鲁棒性。
图 12 会议现场
在提问环节，现场参会人员就自己感兴趣的问题向报告的专家进行了提问，各位报告专家分别进行了详细的解答，使他们加深了对学科的发展前沿的了解。
会后，各位专家和老师同学就人工智能安全威胁与模型保护主题展开圆桌讨论，各位专家分别给出了自己对未来可能面临的机遇和挑战给出了独到的见解和指导，同学们从中受益良多。至此，“CSIG图像图形中国行”在深圳大学取得了圆满的成功！
图 13 与会人员积极讨论
图 14 会后合影
科研动态