近日,我院徐扬老师团队在CCF-A类期刊 《ACM Transactions on Information Systems 》上发表题为“EffiPOI: A Product Quantization Framework Based on Knowledge Distillation for Efficient POI Recommendations”的研究论文,本研究创新性地提出了基于知识蒸馏与乘积量化的高效兴趣点推荐方法。2022级博士生彭成美为该论文第一作者,徐扬老师为唯一通讯作者。

图1 基于知识蒸馏与乘积量化的高效兴趣点推荐方法框架图
在本研究中,针对大规模兴趣点推荐任务中推荐精度与计算效率难以兼顾的问题,提出了一种基于知识蒸馏与乘积量化的高效兴趣点推荐框架。该方法首先构建了面向服务的多模态兴趣点表示,从空间覆盖范围、时间活跃模式以及语义属性等多个维度对兴趣点进行全面建模,增强了兴趣点表征的语义丰富性与判别能力。在此基础上,设计了一种教师-学生式的知识蒸馏框架:教师模型采用混合专家结构,能够生成高质量、语义表达能力强的兴趣点表示,用以为学生模型提供精细且可靠的监督信号。学生模型则引入乘积量化机制,将高维兴趣点表示编码为紧凑、计算友好的向量形式,在显著降低存储与推理成本的同时,尽可能保留关键判别信息,从而在表示紧凑性与预测精度之间实现良好平衡。针对量化过程可能带来的性能退化问题,研究进一步提出了一种混合知识蒸馏策略,同时从预测响应层面与特征表示层面向学生模型传递知识,有效缓解了量化带来的信息损失。该研究为面向大规模场景的高效兴趣点推荐系统设计提供了新的思路,对实际部署具有重要的应用价值。
近年来,徐扬老师团队致力于兴趣点推荐研究,取得了一系列高水平的研究成果,部分成果发表在The Web Conference (WWW), ACM Transactions on Information Systems (TOIS),IEEE Transactions on Multimedia (TMM)等多个相关领域TOP会议和期刊上。
图文:彭成美
编辑:徐扬
审核: