新学期伊始，组里传来一则振奋人心的好消息！近日，组内博士生李京烨的论文《ESWD: Entropy-Stratified Sliding-Window Decoding for Efficient Diffusion Language Models》正式被国际权威期刊 IEEE Transactions on Audio, Speech and Language Processing（TASLP）接收，得到了同行专家的高度认可。这是李京烨同学博士期间的第一篇 IEEETransactions 长文，从选题、攻关到投稿、返修，每一步都来之不易，殊为可贵。
论文题目：ESWD: Entropy-Stratified Sliding-Window Decoding for Efficient Diffusion Language Models
作者：Jingye Li, Binquan Wu, Xidi Cai, Qianli Ma*
论文简介：扩散式大语言模型（dLLMs）凭借并行生成文本的潜力，正成为自回归模型之外一条颇具前景的技术路线。然而，其实际推理效率往往受制于解码策略，现有方法仅能将并行解码限制在固定的token块内，导致生成过程中的并行度起伏不定、不够稳定。针对这一瓶颈，我们提出了 ESWD：一种无需额外训练的高效解码策略。该方法首先引入滑动窗口候选选择机制，在保持半自回归生成顺序的同时，动态维护一个规模稳定的待解码掩码位置集合；在此基础上，ESWD 采用熵分层并行解码策略——对低熵词元大胆并行生成，对高熵决策则借助熵引导的探索机制有选择地求解，从而有效控制误差传播。在多个基准测试上的大量实验表明，ESWD 在保持相当甚至更优生成质量的同时，相比标准解码基线实现了 2.2×–5.0× 的推理加速。这一成果有望推动扩散式语言模型在实际应用中的高效落地。
