Posts

All the articles I've posted.

• ShiQ: Bringing back Bellman to LLMs

  Published: 20 May, 2025 |  at  11:23 AM

  

  89.77 🤔

  本文提出ShiQ算法，通过从Bellman一致性方程出发设计适应LLM特性的损失函数，支持离线、token级的强化学习微调，并在单轮和多轮任务中表现出优于DPO和CoPG的奖励优化能力。

• Unraveling LoRA Interference: Orthogonal Subspaces for Robust Model Merging

  Published: 1 Jun, 2025 |  at  11:40 AM

  

  89.76 🤔

  本文提出OSRM方法，通过在微调前约束LoRA子空间以减少任务间干扰，显著提升了多个语言模型在八个GLUE数据集上的合并性能，同时保持单任务准确性。

• Middle-Layer Representation Alignment for Cross-Lingual Transfer in Fine-Tuned LLMs

  Published: 3 Jun, 2025 |  at  11:27 AM

  

  89.76 🤔

  本文提出了一种通过中间层表示对齐增强大型语言模型跨语言迁移能力的方法，在微调过程中交替优化任务和对齐目标，并在槽填充、机器翻译等任务中取得了改进，尤其对低资源语言有益。

• Agentic AI: The Era of Semantic Decoding

  Published: 8 May, 2025 |  at  12:27 AM

  

  89.68 🤔

  本文提出语义解码视角，将大型语言模型、人类和工具的协作框架化为语义空间中的优化过程，通过语义令牌的交换和语义解码算法的设计探索AI系统的新计算范式。

• CoLA: Compute-Efficient Pre-Training of LLMs via Low-Rank Activation

  Published: 24 May, 2025 |  at  11:14 AM

  

  89.66 🤔

  本文提出CoLA及其内存优化变体CoLA-M，通过用低秩自动编码器替换LLMs的全尺寸MLP和投影层，实现2倍模型大小和计算成本的减少，同时保持全秩性能，并在训练和推理中显著提升吞吐量。