Tag: Tensor Decomposition

All the articles with the tag "Tensor Decomposition".

• TT-LoRA MoE: Unifying Parameter-Efficient Fine-Tuning and Sparse Mixture-of-Experts

  Published: 4 May, 2025 |  at  04:32 PM

  

  81.41 🤔

  本文提出 TT-LoRA MoE 框架，通过两阶段解耦的专家训练和路由机制，实现了参数高效的多任务学习，显著减少计算开销并保持性能。