Tag: Knowledge Transfer

All the articles with the tag "Knowledge Transfer".

• Efficient Knowledge Transfer in Multi-Task Learning through Task-Adaptive Low-Rank Representation

  Published: 4 May, 2025 |  at  04:32 PM

  

  87.85 🤔

  本文提出 TA-LoRA 方法，通过任务自适应低秩表示和快速-缓慢权重机制提升多任务学习的知识转移效率，实现对未见任务的优异泛化性能，同时保持高参数效率。

• Param$Δ$ for Direct Weight Mixing: Post-Train Large Language Model at Zero Cost

  Published: 4 May, 2025 |  at  04:30 PM

  

  86.83 😐

  本文提出Param∆方法，通过直接添加参数差值在零成本下实现后训练知识向新基模型的转移，达到与传统后训练相当的性能。