Tag: Knowledge Distillation

All the articles with the tag "Knowledge Distillation".

• Trace-of-Thought Prompting: Investigating Prompt-Based Knowledge Distillation Through Question Decomposition

  Published: 6 May, 2025 |  at  01:18 AM

  

  93.53 😐

  本文提出了 Trace-of-Thought Prompting，一种基于提示的知识蒸馏框架，通过将复杂问题分解为可管理的步骤，有效地将高资源模型的推理能力迁移到低资源模型，显著提升了低资源模型在算术推理任务上的表现，且无需大量微调。