Posts

All the articles I've posted.

• RAGEN: Understanding Self-Evolution in LLM Agents via Multi-Turn Reinforcement Learning

  Published: 7 May, 2025 |  at  12:11 AM

  

  88.02 🤔

  本文提出StarPO框架和RAGEN系统，通过多轮轨迹级别强化学习训练LLM智能体，揭示了训练不稳定性（如Echo Trap）和推理能力不足的挑战，并通过StarPO-S改进稳定性和泛化性，但推理能力仍需细粒度奖励设计支持。

• Recurrent Knowledge Identification and Fusion for Language Model Continual Learning

  Published: 4 Jun, 2025 |  at  11:26 AM

  

  88.00 🤔

  本文提出Recurrent-KIF框架，通过内外循环机制动态估计参数重要性并迭代融合新旧知识，在持续学习中有效缓解灾难性遗忘并促进知识转移，实验验证其在多个大语言模型上的性能优势。

• Scaling Reasoning, Losing Control: Evaluating Instruction Following in Large Reasoning Models

  Published: 24 May, 2025 |  at  11:08 AM

  

  88.00 🤔

  本文通过MathIF基准测试评估大型推理模型在数学任务中的指令遵循能力，揭示了推理能力提升与指令遵循能力下降之间的权衡关系，并通过实验验证了训练策略和推理链长度对这一权衡的影响。

• ShareLoRA: Parameter Efficient and Robust Large Language Model Fine-tuning via Shared Low-Rank Adaptation

  Published: 25 May, 2025 |  at  11:25 AM

  

  87.99 🤔

  ShareLoRA通过在模型层间共享低秩矩阵A或B，显著减少可训练参数量（相较LoRA减少44%-96%），并在多种模型和任务中保持甚至超越LoRA的性能，展现出高效性、适应性和跨域鲁棒性。

• Scalable Strategies for Continual Learning with Replay

  Published: 21 May, 2025 |  at  11:14 AM

  

  87.97 🤔

  本文提出低秩适应（LoRA）、整合和顺序合并三种策略以提升持续学习的可扩展性，通过减少重放样本需求（最高65%）并结合高效微调技术，在图像分类任务中显著提高性能。