日前,公司2019级在读硕士研究生谢懿,以第一作者身份在2021年第32届英国机器视觉会议(British Machine Vision Conference)上发表题为“Object Re-identification Using Teacher-Like and Light Students”的学术论文。该项工作的指导老师为公司的曾焕强教授和朱建清教授,得到了国家自然科学基金的资助。
该文章提出了一种有效的联合蒸馏与剪枝(JDP)的模型压缩方法对目标再识别(Re-ID)模型进行压缩。首先,JDP目的是生成一个轻量的类教师(teacher-like and light, TLL)网络的Re-ID模型,从而能够让员工网络与教师网络之间的语义差异较小。具体来说,我们设计了一个pruner-convolution-pruner(PCP)模块来替代员工网络的K×K卷积层。在员工网络训练阶段,由KD损失和group LASSO损失共同监督员工网络的学习。由于多个线性卷积层可以等价地合并为一个卷积层,因此在测试阶段,员工网络可以将PCP模块简化为一个轻量的卷积层。最终获得了一个TLL员工网络。在DukeMTMC-reID、MTMC-reID、Veri-776三个数据集上的实验表明,JDP方法在精度和计算量上都有明显的优势。
据悉,英国机器视觉会议(BMVC)是英国机器视觉协会(BMVA)的年度机器视觉、图像处理和模式识别会议。它是在英国举办的计算机视觉及相关领域的主要国际会议之一,本次会议共收到1206篇有效论文投稿,经过匿名评审、打分、辩驳、再打分后最终确定接收论文。该会议在《清华大学计算机学科推荐学术会议和期刊列表》中评级为B类会议。