Tag: Large Language Model
All the articles with the tag "Large Language Model".
-
An Analysis for Reasoning Bias of Language Models with Small Initialization
Published: at 11:52 AM
87.56 🤔本文通过理论分析和实验验证，揭示了小参数初始化规模如何通过影响嵌入空间和训练动态，促使大型语言模型更倾向于推理任务而非记忆任务。
-
CREAM: Consistency Regularized Self-Rewarding Language Models
Published: at 01:28 AM 87.56 🤔本文提出了CREAM（Consistency Regularized Self-Rewarding Language Model）方法，通过衡量自奖励过程中不同迭代模型之间排序的一致性来正则化偏好训练，从而缓解奖励偏差问题，提高小型语言模型的对齐性能和训练稳定性。
-
Gated Attention for Large Language Models: Non-linearity, Sparsity, and Attention-Sink-Free
Published: at 11:22 PM 87.55 🤔本文通过在softmax注意力机制的SDPA输出后引入头特定sigmoid门控机制，显著提升了15B MoE和1.7B密集模型的性能、训练稳定性和长上下文泛化能力，同时消除了注意力沉积现象。
-
Do Not Let Low-Probability Tokens Over-Dominate in RL for LLMs
Published: at 11:22 AM 87.53 🤔本文揭示了强化学习中低概率token过度主导模型更新的问题，并提出Advantage Reweighting和Lopti两种方法，通过平衡token更新权重显著提升GRPO训练的大语言模型性能，最高在K&K Logic Puzzle任务上提升46.2%。
-
Distilling the Implicit Multi-Branch Structure in LLMs' Reasoning via Reinforcement Learning
Published: at 11:25 AM 87.52 🤔本文提出RLKD，一个基于强化学习的知识蒸馏框架，通过生成结构奖励模型（GSRM）将教师模型推理中的隐式多分支结构传递给学生模型，实验表明其在数学和问答任务上显著优于SFT和传统RL方法。