PDF HTML（实验性）摘要：大型语言模型（LLMs）已成为一系列任务的默认工具，但它们在最常见的机器学习工作负载之一：对表格数据的预测分析方面却鲜有成功。这一差距是快速发展的表格基础模型领域的基础前提，但通用LLMs为何失败的问题仍未解决。我们研究了一种前沿LLM，在其最纯粹的推理模式下 - 对包含完整训练和测试数据的提示进行一次生成传递，且没有工具，没有代理支架，以及没有微调 - 并系统地评估了导致失败的五个假设：（a）无法处理噪声或非线性可分数据；（b）线性化的CSV格式遮蔽了列结构；（c）数字值的标记化；（d）每个查询分类的测试点数量；（e）输入的维度。受控实验否定了（a）到（d）。相比之下，维度是决定性的：对三十一组基准数据集进行随机线性投影的扫面中，LLM是九种方法中唯一的准确率随着维度增加而下降的，而每个经典基线都保持稳定或提高。与252个配置的经典模型进行行为比较发现，在二维中，LLM的预测类似于基于距离的局部方法（达到91.6%的网格一致性），但在更高维中，没有任何经典模型 - 即使经过调优，具维度依赖噪声 - 能够再现其预测。我们不声称已确定内部机制；我们的结果更谦虚地表明，LLM的能力以一种没有任何噪声污染的经典学习器所无法模仿的方式随着维度的增加而消失 - 这解释了为何LLMs在其他领域表现出色，但在表格数据上却不断输给已有五十年历史的基线，同时使得预测机制仍然是一个未解之谜。主题：机器学习（cs.LG）引用为：arXiv:2608.02412 [cs.LG]（或arXiv:2608.02412v1 [cs.LG] 作为该版本） https://doi.org/10.48550/arXiv.2608.02412 arXiv分配的DOI通过DataCite（注册待定）提交历史 来自：Marta Garnelo [查看电子邮件] [v1] 2026年8月3日 星期一 15:52:51 UTC (10,846 KB)