
个人介绍:孙恺蔚,出生于山东烟台,本科就读于南京大学(2020-2024),现硕士就读于南京大学ISCL实验室。研究方向:快速卷积算法,边缘端深度学习算法部署框架,大模型剪枝压缩算法,具身智能算法。
研究课题:基于混合专家机制的软性 Token 剪枝算法,通过自适应的剪枝策略,为模型构建不同参数规模的全连接层。该方法利用混合专家结构,使得不同的 Token 能够动态选择最合适的全连接层进行计算,从而根据信息量的差异分配计算路径。这样既能充分保留重要 Token 的表达能力,又能压缩冗余计算,实现性能与效率的平衡。

E-mail:sunkaiwei13791222268@gmail.com