Tag: RLHF

All the articles with the tag "RLHF".

• Restoring Calibration for Aligned Large Language Models: A Calibration-Aware Fine-Tuning Approach

  Published: 7 May, 2025 |  at  09:32 AM

  

  74.12 🤔

  本文通过校准感知微调（CFT和RCFT）方法，结合可校准和不可校准区域的理论框架，显著改善了偏好对齐后大型语言模型的校准性能，同时维持或提升其语言能力。

• Base Models Beat Aligned Models at Randomness and Creativity

  Published: 6 May, 2025 |  at  01:17 AM

  

  85.43 😐

  本文通过在随机数生成、混合策略游戏和创意写作等需要不可预测性的任务上进行实验，发现流行的对齐技术会损害基础模型在这方面的能力，而基础模型在这些任务上表现更佳，这表明在常见基准性能和不可预测能力之间可能存在权衡。