Tag: Large Language Model

All the articles with the tag "Large Language Model".

• More is not always better? Enhancing Many-Shot In-Context Learning with Differentiated and Reweighting Objectives

  Published: 2 Jun, 2025 |  at  01:15 PM

  

  87.51 🤔

  本文提出DrICL方法，通过差异化学习和基于优势的重新加权优化大型语言模型在many-shot上下文学习中的性能，并在自建的ICL-50数据集上验证了其在多种任务中的稳定性和有效性。

• The Avengers: A Simple Recipe for Uniting Smaller Language Models to Challenge Proprietary Giants

  Published: 3 Jun, 2025 |  at  11:43 AM

  

  85.27 🤔

  本文提出*Avengers*框架，通过无训练的嵌入、聚类、评分和投票操作，整合多个小型开源语言模型的集体智能，在15个多样化数据集上平均性能超越GPT-4.1，展现了开源模型挑战专有巨头的潜力。

• Zero-Shot Vision Encoder Grafting via LLM Surrogates

  Published: 2 Jun, 2025 |  at  11:23 AM

  

  87.49 🤔

  本文提出通过构建小型代理模型训练视觉编码器并零样本嫁接至大型LLM（如Llama-70B），在保持视觉理解能力的同时将VLM训练成本降低约45%。

• ExpandR: Teaching Dense Retrievers Beyond Queries with LLM Guidance

  Published: 2 Jun, 2025 |  at  11:32 AM

  

  87.44 🤔

  ExpandR通过联合优化大型语言模型和密集检索器，利用LLM生成语义丰富的查询扩展并结合DPO训练和对比学习，在多个检索基准上实现了超过5.8%的性能提升。

• Scalable Complexity Control Facilitates Reasoning Ability of LLMs

  Published: 3 Jun, 2025 |  at  11:29 AM

  

  85.16 🤔

  本文通过调整初始化率和权重衰减系数控制大语言模型复杂性，显著提升推理能力，尤其在数学任务上表现突出，并在扩展律上展现更优性能。