事件概览
2026年9月23日,来自东京大学的研究人员 Weiwei Ye、Hangchen Liu 和 Renhe Jiang 在预印本平台 arXiv 提交了题为《NumericJev: Jev-like LLM Numerical Decoding with Multiway Decision Trees》的研究论文(arXiv:2609.28587)。该研究提出了一种名为 NumericJev 的免训练(training-free)数值解码算法,旨在使具备类 Jev(Jev-like)结构化选择接口的大语言模型能够稳定输出数值。目前,该项目的代码已在 GitHub 上开源。
该算法的核心特征在于完全免训练,在保留原始问题上下文的前提下,通过多路决策树(multiway decision tree)递归地细化数值区间。这一处理过程无需对大模型进行参数微调,也无需访问底层隐藏状态,提供了一种轻量化的即插即用数值输出机制。
核心内容
在具体的算术表达式基准测试中,NumericJev 表现出明确的性能改善。论文测试数据显示,该方法比直接从包含正确答案的候选列表中进行选择的准确率高出2.93个百分点。同时,论文图1显示,在测试所包含的全部256个算术表达式上,NumericJev 均能有效提升预测误差控制在5%以内的样本比例。
在决策效率与误差指标方面,针对100值网格(100-value grid)的测试显示,十路树(ten-way tree)仅需两轮决策即可完成区间定位;其实际区间归一化平均绝对误差(Range-normalized MAE)为1.84%,显著优于直接选择方法的5.18%。此外,在一项独立的三个日期历史指数(three-date historical-index)研究中,该方法的平均相对召回误差为4.58%,且在直接提供数值时的读取错误率为0%。
背景分析
研究团队指出,大语言模型在理解自然语言方面表现出色,但在稳健决策和精确数值输出方面仍面临挑战。现有的类 Jev(Jev-like)模型接口主要暴露结构化离散选择,普遍缺乏直接输出高精度数值的机制,导致其无法直接以所需精度提供数值。
针对这一接口限制,东京大学团队提出,数值区间选择本身完全可以转化为类 Jev 大语言模型能够处理的决策问题。通过多路决策树在保留上下文的前提下自顶向下递归细化候选区间,可以在不改动模型参数或隐藏状态的情况下拓展模型对数值任务的处理能力。
影响分析
从应用与技术价值来看,NumericJev 提供了一种无需微调即可提升大语言模型数值输出精度的可行方案。实验表明,该算法通过将结构化选择与多路决策树相结合,在算术计算和历史数据召回等特定测试中均展现出降低误差的实用效果。

