返回

文章详情

人工神经网络的涌现符号结构

Hacker News2026年9月2日 04:15

查看 PDF HTML(实验性)摘要:现代人工智能(AI)系统在看似不适合的领域中表现出色。智能传统上被建模为在符号的结构组合上运行,例如逻辑公式。然而,最强大的现代AI系统是基于神经网络,它们以连续向量来表示信息。向量似乎不足以捕捉语言、逻辑和其他认知领域的结构,但神经网络在这些领域的表现令人印象深刻。它们是如何做到的?在这项工作中,我们提出了一个潜在的答案:尽管外表看起来如此,也许神经网络的内部表示在隐含地实现符号结构。为了支持这一假设,我们展示了多种神经网络的向量表示可以用符号结构来密切近似:我们可以用一个实例化符号结构的封闭形式方程替代网络整个生成表示的过程,而网络的行为大体上保持不变。这个发现对于被训练处理列表的小规模神经网络和操作于符号传统中心的四个领域的大型语言模型(LLMs)都是成立的:算术、逻辑、计算机代码和语言。此外,我们的符号近似使我们能够通过对其内部表示的精确干预有针对性地修改LLM的行为,显示出LLM的行为依赖于我们所识别的符号结构。这项工作提供了一种潜在的方法来调和长期以来的符号智力观念与现代AI的基于向量特性。评论:30页,加上29页参考文献和附录 学科:计算与语言(cs.CL);人工智能(cs.AI)引用为:arXiv:2608.29530 [cs.CL](或arXiv:2608.29530v1 [cs.CL] 版本) https://doi.org/10.48550/arXiv.2608.29530 arXiv发出的DOI通过DataCite(待注册) 提交历史 自:Tom McCoy [查看电子邮件] [v1] 星期日,2026年8月30日03:32:13 UTC(1,107 KB)

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡