个人介绍：张智恒，出生于河南商丘，本科就读于武汉理工大学（2021-2025），本科毕业设计题目为多模态大语言模型推理加速方法研究，现硕士就读于南京大学ISCL实验室。研究方向：MLLM推理加速、高性能多卡互联系统。曾获国家奖学金、全国大学生新一代信息通信技术大赛全国一等奖、全国大学生集成电路创新创业大赛全国二等奖、全国大学生嵌入式芯片与系统设计竞赛全国三等奖。
研究课题：1：MLLM推理加速。首先分析出MLLM推理过程中所存在的Token冗余现象，根据自注意力机制中不同类型Token之间的注意力分数将Token进行打分排名，剪枝掉排名靠后的部分Token以此加速模型的推理。2：高性能多卡互联系统。构建具有在网计算功能的多芯AI加速器FPGA原型验证系统，负责系统中多卡互联架构方面的探索。
E-mail：zhz@smail.nju.edu.cn