
文章核心总结与创新点主要内容本文是对AdvFusion(一种基于适配器的参数高效微调方法)的扩展研究,聚焦代码大型语言模型(Code-LLMs)在多语言知识迁移中的表现。在原有代码摘要和方法名预测任务基础上,新增代码生成、代码翻译、提交消息生成三大任务,通过CodeLlama、DeepSeek-Coder等主流模型,与AdapterFusion、LoRA等经典PEFT方法对比,探究AdvFusion在不同任务和模型中的适配性,同时重点关注低资源编程语言的性能表现。创新点扩展任务与模型覆盖:首次将AdvFusion应用于代码生成、代码翻译、提交消息生成三类复杂实际任务,覆盖多类主流Code-LLMs,突破原有研究的任务和模型局限。深化多语言知识迁移机制:通过两阶段训练(对抗训练阶段强制学习非目标语言知识,微调阶段融合目标语言信息),强化跨语言知识提取,尤其针对低资源语言。系统对比与新发现:揭示不同PEFT方法的任务依赖性,发现简单架构适配器(如TaskAdapter)在部分代码任务中优于复杂架构(如LoRA),为Code-LLMs的适配器设计提供新方向。译文(Markdown格式)Abstract编程语言可通过软件工程任务专用的语言模型实现相互赋能。针对代码语言模型(Code-LMs)的全参数微调与参数高效微调(PEFT)已在多语言知识迁移领域得到探索。Adap