智简科技申请多分支对齐知识蒸馏专利，能让学生更容易理解教师知识

金融界2025年4月18日消息，国家知识产权局信息显示，重庆智简科技有限公司申请一项名为“一种多分支对齐知识蒸馏方法”的专利，公开号CN119808913A，申请日期为2024年12月。

专利摘要显示，本发明公开了一种多分支对齐知识蒸馏方法，涉及计算机视觉和深度学习技术领域。本发明在学生特征空间维度小于教师特征空间维度时，为了更全面地学习教师特征，MBAKD使用上采样操作让学生特征向教师特征对齐；在通道维度上，MBAKD的目标是在教师特征和学生特征之间建立多个映射分支，使得学生可以从不同角度与教师特征对齐；其中，多分支的设计为学生特征与教师特征之间增加了“柔性”的桥梁，让学生更容易理解教师知识，并且还能够减缓教师的过度置信。

本文源自：金融界

作者：情报员