实验室中稿一篇ACM Computing Surveys文章

发布时间:2025-02-19浏览次数:13

近日,组里由博士生郑俊豪同学牵头,与硕士生邱圣洁、施成明为共同一作的综述性论文:“Towards Lifelong Learning of Large Language Models: A Survey”被ACM Computing Surveys(CSUR) 期刊录用。CSUR期刊当前的影响因子为23.8(Ranked 1/143 in Computer Science Theory & Methods,中科院一区TOP)。

论文题目:Towards Lifelong Learning of Large Language Models: A Survey

 

论文简介:本文通过270余篇文献系统性地总结了终身学习/连续学习/增量学习在大语言模型中的应用,归纳了12个关键的终生学习场景,涵盖了从连续预训练到微调、从外部知识整合到灾难性遗忘的应对策略。随着大语言模型在各领域的广泛应用,终身学习技术的引入使得模型能够不断适应新任务和数据,保持长期的学习能力而不遗忘旧知识。本文为未来的研究和应用提供了重要的理论框架和技术指导。

LLMs的终身学习分类

GitHub链接:https://github.com/qianlima-lab/awesome-lifelong-learning-methods-for-llm

媒体报道:整合200多项相关研究,大模型「终生学习」最新综述来了(机器之心)