Tag: Cross-Lingual Transfer

All the articles with the tag "Cross-Lingual Transfer".

• Middle-Layer Representation Alignment for Cross-Lingual Transfer in Fine-Tuned LLMs

  Published: 3 Jun, 2025 |  at  11:27 AM

  

  89.76 🤔

  本文提出了一种通过中间层表示对齐增强大型语言模型跨语言迁移能力的方法，在微调过程中交替优化任务和对齐目标，并在槽填充、机器翻译等任务中取得了改进，尤其对低资源语言有益。

• The Unreasonable Effectiveness of Model Merging for Cross-Lingual Transfer in LLMs

  Published: 28 May, 2025 |  at  11:24 AM

  

  92.28 🤔

  本文通过模块化方法，利用大型语言模型参数在数学推理和多语言能力上的分离性，提出Layer-Swapping等策略，在低资源语言跨语言迁移中显著优于非模块化基线，尤其在数据受限场景下表现最佳。

• The Effect of Language Diversity When Fine-Tuning Large Language Models for Translation

  Published: 26 May, 2025 |  at  11:23 AM

  

  88.75 🤔

  本文通过系统性实验证明，在大型语言模型微调中增加语言多样性可显著提升所有类别翻译对的性能，并通过中层表征分析揭示跨语言迁移机制，但多样性收益存在阈值。