令牌置信度只是链长吗?对推理轨迹的信号处理审计
arXiv:2610.36709v1 发布类型:新 摘要:推理型语言模型通过撰写长长的思维链条来解答数学问题,而针对每个问题采样多条链条并以多数投票的方式提高准确率,却会大幅增加生成文本的开销。一种常见的降本方法是根据模型对其所写每个标记的置信度为每条链条打分,这里的“标记”指一个词或词的一部分。该方法将这种置信度在滑动窗口内(2048个标记)进行平均,并依据最低平均值决定保留或终止链条。我们将逐标记记录的置信度视为一种类似于音频或无线电信号的信号,并借助频谱分析、统计检验等标准信号处理工具来检测其中是否出现突变。我们从……中为500道题目各采样了16条链条。


