Posts

All the articles I've posted.

• EAGLE-3: Scaling up Inference Acceleration of Large Language Models via Training-Time Test

  Published: 4 May, 2025 |  at  04:28 PM

  

  86.30 😐

  本文提出 EAGLE-3 方法，通过移除特征预测约束和多层特征融合技术，显著提高了大语言模型的推理加速比，并在实验中实现了高达 6.5 倍的无损速度提升。

• Base Models Beat Aligned Models at Randomness and Creativity

  Published: 6 May, 2025 |  at  01:17 AM

  

  85.43 😐

  本文通过在随机数生成、混合策略游戏和创意写作等需要不可预测性的任务上进行实验，发现流行的对齐技术会损害基础模型在这方面的能力，而基础模型在这些任务上表现更佳，这表明在常见基准性能和不可预测能力之间可能存在权衡。

• Phi-4-reasoning Technical Report

  Published: 4 May, 2025 |  at  04:31 PM

  

  77.09 😐

  本文通过数据导向的监督微调和强化学习，开发了小型LLM Phi-4-reasoning 和 Phi-4-reasoning-plus，提升了其在复杂推理任务上的性能，与大型模型竞争。

• Do We Need a Detailed Rubric for Automated Essay Scoring using Large Language Models?

  Published: 7 May, 2025 |  at  09:33 AM

  

  61.53 😐

  本文通过对比详细、简化和无评分标准在四个大型语言模型上的自动作文评分表现，发现简化标准在大多数模型中能保持与详细标准相似的准确性并显著降低token使用量，但模型特异性和整体性能不足仍需关注。