Proposal of Multi-Granular Trajectory Alignment (MTA) 事件

BREAKTHROUGH影响: medium

本文提出了Multi-Granular Trajectory Alignment (MTA)框架,通过层自适应策略对齐教师和学生模型的表示,以改善知识蒸馏中的知识迁移效果。