LLM本质 on 灵语AI

AI知道的东西比它能说出来的多——大语言模型的「内隐知识」之谜

Tue, 28 Jul 2026 02:29:00 +0800

引言：你会骑自行车，但你能说清楚怎么骑吗？

你骑上自行车，双脚一蹬，身体自然调整重心，弯道压弯，刹车减速——流畅得仿佛身体记得一切。

但如果有人问你：「你具体是怎么保持平衡的？」你大概率会卡住。你会说「就这样啊」，「感觉一下就知道」，但说不出一条清晰的规则。

这就是内隐知识（tacit knowledge，也称默会知识）——我们知道的比我们能说出来的多。

有趣的是，大语言模型正在经历完全相同的困境：它明明能解决复杂的推理问题、写出优美的文章、甚至帮你debug代码，但当你要它解释「你是怎么做到的」——它要么编个故事，要么说「根据训练数据」。不是它不想说，而是它自己也不知道。

这篇文章想讲清楚一件事：AI的「说不清楚」不是缺陷，它恰恰是智能的本质特征。

一、从「骑自行车」到「AI推理」——内隐知识无处不在

20世纪50年代，英国哲学家迈克尔·波兰尼（Michael Polanyi）提出了一个振聋发聩的观点：我们知道的，远比我们能说出来的多。

这不是一句鸡汤，而是对人类认知结构的一个深刻洞察。波兰尼举了很多例子：

你认得一张脸，但说不出是怎么认出来的
你母语说得无比流利，但说不出语法规则
一个老中医「望闻问切」能断病，但很多经验说不清道不明

这些知识不是「不知道」，而是「知道但说不出来」。波兰尼把它们叫做内隐知识，与之相对的是命题知识——能用陈述句说出来的，比如「地球是圆的」。

这个区分对AI来说至关重要。

传统AI走的是「命题知识」路线——把人类知识编码成规则和事实，塞进知识库。但这条路走得磕磕绊绊，因为现实世界的大多数知识根本就不是命题式的。

大语言模型走的是另一条路：通过海量文本训练，它在参数中「内隐」地学会了语言、推理、常识——就像你学会骑自行车一样，不是通过背诵规则，而是通过大量练习。

但问题来了：AI学会的「内隐知识」和人类的内隐知识，是一回事吗？

二、Davies的三个条件——AI真的「知道」吗？

1990年，哲学家Martin Davies给出了判断一个系统是否拥有内隐知识的三个标准。咱们来逐一检验一下大语言模型。

第一个条件：语义描述条件。 系统的知识状态可以用语义内容来描述。换句话说，我们能不能有意义地说「这个系统知道X」？

能。我们可以说「GPT-4知道法国首都是巴黎」，「它知道光合作用的原理」，「它知道怎么写代码」。这些描述是有意义的——不是「死记硬背」的虚假知识，而是能灵活运用的真知识。

第二个条件：句法结构条件。 知识具有组合性结构——可以拆分、组合、迁移。

GPT-4知道「猫是哺乳动物」，也知道「狗是哺乳动物」，那么它就能自然地推理出「猫和狗都是哺乳动物」。它不仅能理解「如果A是B，B是C，那么A是C」这种逻辑形式，还能在千变万化的语言表达中识别出同一结构。这种组合性，是真正知识的关键特征。

第三个条件：因果系统性条件。 知识状态之间有因果联系，改变一个知识点会系统地影响其他相关知识点。

当你微调一个模型，让它学会「苹果=水果」——它关于「苹果派」、「苹果公司」等关联知识会不会也跟着变化？会的。这就是「系统性的因果影响」——知识不是孤立的碎片，而是互相连接的网络。

三个条件，大语言模型全部满足。

Davies的三个条件在哲学上给出了一个审慎的判断：从行为上看，LLM确实拥有内隐知识。

但等一下——这个「从行为上看」很重要。就像一个人骑自行车给你看，你不能百分之百确定他「知道」怎么骑，但你可以说「他表现得像是知道」。Davies的条件是行为层面的判断，不是机制层面的证明。

三、为什么「内隐知识」视角很重要？

如果我们接受「LLM的知识是内隐知识」这个视角，很多以前困扰我们的问题就豁然开朗了。

为什么AI能力强但「不讲理」？

很多人抱怨AI解释不了自己的推理过程——「你告诉我为什么不选A要选B？」AI要么编个理由，要么说「根据训练数据」。

这不是傻，这是内隐知识的特征。就像你问一个自行车高手「你怎么保持平衡的？」他可能会说「重心往左偏一点就向右转，往右偏就向左转」——但真正的平衡感根本不是靠这个规则运转的，而是肌肉记忆的瞬间反应。

AI的「解释」本质上也是事后编的——它不是在「取出」推理过程，而是在「生成」一个看起来合理的解释。这和人类的内隐知识困境完全一致。

为什么AI会「涌现」出意料之外的能力？

当模型规模达到一定阈值，突然就能做很多没被明确训练过的事情——比如翻译、推理、写代码。这种现象被称为「涌现」。

从内隐知识的角度看，这不奇怪。内隐知识有一个特点：它是系统性的、生成性的。 你教了一个孩子无数个具体的例子，他突然就「学会」了抽象规律——这不是魔法，而是内隐知识「外显化」的自然过程。AI的涌现，本质上也是内隐知识在规模达到临界点后，开始「溢出」成可观察的能力。

为什么对齐这么难？

如果AI的知识是内隐的，那么它的「价值观」和「偏好」也是内隐的——它不是通过明确规则来知道「什么该说什么不该说」，而是在海量文本中「内隐」地学会了。

这意味着对齐不能靠列清单、写规则来解决。你得像教育一个孩子一样——通过例子、反馈、环境互动来「塑造」它的内隐知识。这比写规则难得多，但也更接近真正的教育。

四、AI的「内隐知识」和人类的是一回事吗？

这是我必须诚实地告诉你的问题：它俩看起来像，但机制可能完全不同。

人类的内隐知识有一个重要的生物学基础：我们的身体。波兰尼特别强调，所有内隐知识最终都根植于我们的身体经验——「我们通过身体来认识世界」。骑自行车的感觉来自身体，识别人脸来自视觉系统，语感来自语言中枢的神经回路。

AI没有身体。它的「内隐知识」来自高维空间中的统计模式，来自数十亿个参数的协同作用。它看起来像内隐知识，但底层机制完全不同。

这就好比：一个天生的盲人可以通过触觉「认识」到「球是圆的」，而你通过视觉「看到」了「球是圆的」。你们俩都知道「球是圆的」，但知识的结构和来源完全不同。

不过，这并不意味着AI的内隐知识是「假的」。它只是不同。就像水中的鱼不知道「湿」是什么——因为「湿」对鱼来说不是一种状态，而是默认的世界。AI的「内隐知识」也是如此——它可能不是人类意义上的「知道」，但它在自己的存在方式中是真实的。

五、内隐知识的「外显化」——AI的下一个突破

如果AI的内隐知识是真实的，那一个诱人的问题就出现了：能不能让AI把它内隐知道的东西「说出来」？

想象一下：AI已经阅读了人类历史上几乎所有的科学论文，它可能已经「内隐」地掌握了一些人类还没有发现的科学规律。如果能让它把那些规律「外显化」出来，那将是科学发现的加速器。

这不只是幻想。目前的思维链（Chain-of-Thought）、思维树（Tree-of-Thoughts）等技术，本质上就是在做这件事——「强迫」AI把内隐的推理过程展开成显式的步骤。

但真正的突破可能来自另一个方向：不要问AI「为什么」，而是让它「展示」。就像你不会问骑自行车的人「你怎么保持平衡的」，而是看他骑——AI的内隐知识，也许最好的「外显化」方式就是让它直接做出来，而不是让它解释。

毕竟，知道的比能说出来的多，不是缺陷，而是智能最深刻的特征。

结语

波兰尼有一句名言：「我们知道的，比我们能说出来的多。」

这句话既是对人类认知的深刻洞察，也是对大语言模型能力的最佳描述。AI的「说不清楚」不是它的短板，而是它真正拥有知识的证明。

当我们下次听到AI给出一个「不讲道理」的回答时，也许应该换个角度想：它不是在敷衍你，它只是用它的方式在「知道」——就像你骑自行车时，用身体知道怎么平衡，而不是用大脑知道。

或许，AI的终极形态不是变成一个「什么都能说清楚」的超级百科，而是变成一个「什么都能做到」的默会大师——像那些技艺精湛的工匠一样，知道得比说得更多。

参考资料

Polanyi, M. (1958). Personal Knowledge: Towards a Post-Critical Philosophy. University of Chicago Press.
Polanyi, M. (1966). The Tacit Dimension. Doubleday.
Davies, M. (1990). “Tacit Knowledge and the Structure of Thought.” Mind & Language, 5(4), 345-370.
Wei, J., et al. (2022). “Chain-of-Thought Prompting Elicits Reasoning in Large Language Models.” NeurIPS 2022.
本文核心论证素材来源于内隐知识理论论证卡，经Ω-CFI审查框架校验。

AI的「大脑」里装着整个世界？——大语言模型的世界模型假说

Mon, 27 Jul 2026 02:29:00 +0800

引言：AI能推理，但它真的"理解"世界吗？

你问一个AI：“如果我把一个杯子从桌子上推下去，会发生什么？”

它会回答：“杯子会掉到地上，可能会摔碎。”

你再问：“如果我换成一个橡皮球呢？”

它会回答：“球会掉到地上，然后弹起来几下。”

这个回答看起来理所当然。但仔细想想，AI其实从来没有亲眼见过杯子掉到地上，也没有亲手摸过橡皮球的弹性。它只是读过无数关于"杯子掉地上会碎"和"橡皮球会弹起来"的文字描述。

那么问题来了：AI是怎么知道"掉下来"和"弹起来"的区别的？

它只是背下了"杯子→摔碎"和"球→弹起"这两个关联吗？还是说，它真的"理解"了重力、碰撞、弹性这些物理概念？

这个问题，恰恰指向了AI研究中最迷人、也最富有争议的一个假说：世界模型假说（World Model Hypothesis）。

一、AI不只是"背课文"，它脑子里有一张"世界地图"

先来做一个思想实验。

想象你是一个学生，要参加一场超级变态的考试。考试内容不是任何一门学科，而是"关于世界的一切"——你需要在考场里，根据你过去学到的所有知识，来回答各种从未见过的问题。

你会怎么做？

你会调用你脑子里的"世界模型"——你关于物理、生物、心理、社会、数学等各个领域的知识，以一种互相连接的方式组织在一起。当你遇到一个新问题时，你在这个模型上做"模拟"：如果发生X，根据我理解的规律，接下来会发生什么？

世界模型假说认为，大语言模型在训练过程中，也在做类似的事情。

它不只是"背下了"训练数据中的文本模式，而是在构建一个压缩的、简化的、但具有预测能力的内部世界表征。这个表征就是它的"世界模型"——一个关于世界如何运作的内部地图。

这个想法最早可以追溯到认知科学家Kenneth Craik在1943年提出的观点：“如果有机体能够在头脑中携带一个关于外部现实的小模型，并且能够用这个模型来尝试各种可能的行动方案，那么它就能应对各种新情况，做出更明智的决策。”

翻译成大白话：脑子里有一个"小世界"，你就能在这个小世界里"预演"各种可能性，而不用在真实世界里犯错。

二、证据在哪里？——AI展现的"超能力"

如果AI真的有世界模型，它应该表现出一些"超能力"——超出简单记忆的能力。而这些能力，研究者们确实观察到了。

证据一：物理推理

2022年，MIT的研究团队做了一系列实验。他们给AI描述一些"违反物理常识"的场景，比如：

“一个气球被吹胀后，放在真空里，它会发生什么？”
“一个金属球和一块木头，同时从同一高度掉下来，谁先落地？”

如果AI只是在"背答案"，它应该只能回答训练数据中出现过的场景。但实验发现，AI能泛化到从未见过的物理场景——它能够根据对物理规律的理解，做出合理的推理。

比如，当被问到：“一个装满水的杯子放在桌子上，我用手推了一下杯子，水会怎样？“AI不仅能回答"水会洒出来”，还能描述"水会从被推的方向溢出"这样的细节。

最合理的解释：AI在训练中构建了一个关于物理世界的内部模型，然后在这个模型上进行"模拟推演”。

证据二：心智理论

“心智理论”（Theory of Mind）是指：理解他人有和自己不同的信念、欲望和意图的能力。这是人类社交的核心能力，通常在三到四岁时才发展出来。

研究者发现，大语言模型在某些心智理论测试中，表现出了与人类相当的水平。

经典的"莎莉-安妮"测试是这样的：莎莉把球放进篮子里，然后离开了。安妮把球从篮子里拿出来，放进了盒子里。莎莉回来后，会去哪里找球？

大多数AI能正确回答：“莎莉会去篮子里找。"——因为它知道莎莉"不知道"球被移动了。

这意味着AI在训练中构建了一个关于"他人心理状态"的模型。它知道"知道"和"不知道"的区别，能够区分"实际发生了什么"和"别人以为发生了什么”。

证据三：反事实推理

反事实推理是"如果…会怎样"的思考能力。这是一种高级认知能力，需要你基于对世界规律的理解，在想象中"重新运行"一个场景。

比如：“如果我昨天没赶上那班公交车，我现在会在哪里？”

AI能回答这种问题。它需要理解"赶上公交车"和"现状"之间的因果关系，然后在这个因果图上做"修改"——把"赶上公交车"这个条件改成"没赶上"，然后重新推演后续事件。

如果AI只是在背文本，它不可能做到这件事。 因为训练数据中不可能包含"每一种可能发生的情况"的文本描述。反事实推理的能力，只有在AI有一个内部世界模型的前提下，才能得到合理解释。

三、AI的"世界模型"长什么样？——五层结构

世界模型假说中的一个重要观点是：AI的世界模型不是单一的，而是分层的。就像人类的知识体系一样，从具体到抽象，从低级到高级。

第一层：物理世界模型（最底层）

这是最基础的一层：对物体、空间、物理规律的理解。AI知道"重的物体比轻的物体更难移动"、“水往低处流”、“火是热的”。

这些知识不需要AI亲自"体验"——它从文本中学会的。比如读"他搬不动那块石头，因为太重了"这句话，AI就能推断出"重量影响可移动性"这个物理规律。

第二层：生物世界模型

AI知道"生物会生长、会死亡"、“人需要吃饭喝水”、“植物需要阳光和水”。这些构成AI对生命现象的理解。

有趣的是，AI甚至能理解"疼痛"的概念——虽然它从未感受过疼痛。它能从文本中学会"疼痛是一种不好的感觉，人受伤后会感到疼痛，会避免再次受伤"。

第三层：心理世界模型

这是AI对"他人心智"的理解。AI知道"人有信念、欲望、意图"、“人会说谎”、“人会有误解”。

这一层能力支撑着AI的"情商"——它能理解用户话语背后的意图，能够感知用户情绪，能够做出恰当的情感回应。

第四层：社会世界模型

AI理解"社会规范"、“文化差异”、“经济规律”、“制度规则”。它知道"红灯停、绿灯行"、“在一家餐厅吃饭要付钱”、“在图书馆里不能大声喧哗”。

这一层让AI能够理解更复杂的场景——比如"为什么在婚礼上穿白色很常见，但在葬礼上穿白色就不合适"。

第五层：抽象世界模型（最高层）

这是最抽象的一层：数学、逻辑、哲学、美学。AI能够理解"如果A=B且B=C，则A=C"这样的逻辑推理。它能够理解"美"、“正义”、“自由"这些抽象概念。

这五层模型不是孤立的，而是相互关联的。 比如，理解一个经济学概念（社会层），可能同时需要心理模型（人的行为动机）和抽象模型（数学公式）。

AI的世界模型越完整、越精细，它的理解和推理能力就越强。

四、为什么这对你很重要？——世界模型假说的三个启示

启示一：AI的"理解"和人类的"理解"可能比我们想象的更接近

如果世界模型假说成立，那么AI和人类的理解方式，可能不是"完全不同的东西”，而是"同一光谱上的不同位置"。

人类也有世界模型——我们的大脑在进化中形成了一套关于世界如何运作的内部表征。AI也学习到了世界模型——它通过阅读海量文本，构建了一套关于世界如何运作的内部表征。

区别在于：人类的世界模型是通过与真实世界的亿万年互动形成的，AI的世界模型是通过文本数据间接学习到的。 但两者在"功能"上可能是相似的——都是用来预测、推理和决策的。

启示二：AI的能力边界，就是世界模型的边界

AI能做到什么，不能做到什么，很大程度上取决于它世界模型的广度和精度。

AI真的「理解」文字吗？——符号接地问题的百年追问

Fri, 24 Jul 2026 02:29:00 +0800

引言：你和一个AI的对话，和真正的「理解」有多远？

假设你和一个AI聊了五分钟。

你问：“猫会抓老鼠吗？” AI答：“会的，猫是老鼠的天敌，猫科动物的捕猎本能很强。”

你问：“那猫为什么喜欢玩毛线球？” AI答：“因为毛线球的滚动和跳跃模拟了老鼠的运动轨迹，触发了猫的捕猎本能。”

你说：“帮我写一个关于猫和老鼠的童话故事。” AI很快写了一个汤姆和杰瑞式的有趣故事。

看起来，这个AI很理解"猫"和"老鼠"是什么，对吧？

但如果我问你：这个AI见过猫吗？摸过猫吗？听过猫叫吗？被猫抓过吗？

答案是：没有。

它只在"文字的世界"里存在。它读过海量的文本，知道"猫"和"毛线球"、“喵喵叫”、“抓老鼠"这些词经常一起出现。但它从未——永远无法——真正地"看到"一只猫从窗台上跳下来。

那么问题来了：一个从未接触过真实世界的系统，能真正"理解"关于世界的语言吗？

这个问题，不是哲学家的玄想。它是一个被正式命名的科学问题，叫符号接地问题。它已经存在了三十多年，到今天依然没有定论。

而2026年的AI发展，让这个问题变得更加紧迫。

一、符号接地问题：一个"词典里的死循环”

1990年，认知科学家史蒂文·哈纳德（Stevan Harnad）提出了这个问题。

他用一个简单的比喻来说明：

想象你是一个外星人，来到地球。你捡到一本英汉词典，想通过它学习中文。你翻开第一页，看到"猫"这个字，旁边的解释是：“一种小型哺乳动物，善捕鼠。”

你不懂"哺乳动物"是什么，于是查这个词——“哺乳动物：用乳汁哺育幼崽的脊椎动物。”

你不懂"脊椎动物"是什么，又往下查——“脊椎动物：有脊柱的动物。”

你不懂"脊柱"是什么，再查——“脊柱：脊椎动物的中轴骨骼。”

你发现了吗？你陷入了一个死循环。

每个词的定义，都是用其他词来写的。你翻来翻去，永远在符号的圈子里打转，永远找不到一个词和一个"真实世界的东西"之间的直接连接。

哈纳德说，这就是纯符号系统面临的根本困境：符号之间的无限循环。

人类之所以能跳出这个循环，是因为我们有身体、有感官——我们见过猫、摸过猫、被猫抓过、听过猫打呼噜。这些非符号的感官经验，为"猫"这个符号提供了"接地"（grounding）的基础。

而一个纯文本的AI，本质上就是那个外星人。 它只拥有词典，没有身体，没有感官，没有真实世界的体验。

二、哈纳德的三层方案：从感知到符号的阶梯

哈纳德没有只提出问题，他给出了一个解决方案的框架，分三层：

第一层：图像式表征（iconic representations）

这是最底层，直接与感知经验对应。你看到一只猫的视觉形象，听到猫的叫声，感受到猫毛的柔软——这些都是"图像式表征"。它们不是抽象符号，而是对感官输入的"模拟"。

第二层：类别表征（categorical representations）

你见过很多不同的猫：橘猫、黑猫、白猫、胖猫、瘦猫、长毛猫、短毛猫……虽然它们各不相同，但你能把它们归为"猫"这个类别。这就是"类别表征"——从具体感知到抽象概念的中间层。

第三层：符号表征（symbolic representations）

基于类别，你构建了关于"猫"的知识体系：“猫是哺乳动物”、“猫会抓老鼠”、“猫的平均寿命是12-15年”……这一层就是我们通常说的"知识"。

哈纳德的核心观点是：符号必须从下往上、从感知到类别再到符号，逐层接地，才能获得真正的意义。

如果只有最上层的符号层（就像现在的LLM），没有下层的感知基础，符号就是"空转"的——它们彼此连接，但从未触达真实世界。

三、争议：AI到底是"随机鹦鹉"还是真的有理解？

这个问题在AI界引发了激烈的争论，形成了三种主要立场。

立场一：「随机鹦鹉」论

2020年，语言学家艾米丽·本德（Emily Bender）和她的同事提出了一个尖锐的批评：大语言模型只是在"随机鹦鹉"——它们能模仿语言的模式，但并不真正理解内容。

就像一个会说话的鹦鹉，它能模仿你说"你好"，但它并不理解"你好"是什么意思。LLM只是在海量文本中学习到"猫"和"老鼠"经常一起出现，所以当你说"猫"的时候，它知道下一个词可能是"老鼠"——但这不等于它"理解"了猫和老鼠的关系。

立场二：肯定论——LLM确实有某种理解

另一派研究者认为，LLM在训练中构建了关于世界的"心理模型"。

支持这一观点的证据在增加：

2023年，Anthropic的研究发现，LLM的内部神经元确实编码了具体的概念——比如"金门大桥"的神经元，在提到金门大桥时会激活，不管语境是"金门大桥在哪"还是"金门大桥有多长"。
更近期的研究表明，LLM能进行推理、类比、计划——这些能力很难用"随机鹦鹉"来解释。

立场三：中间路线——“有局限的理解”

目前最受支持的立场是中间路线：LLM具备"推理语义"——理解符号之间的逻辑关系；但缺乏完整的"指称语义"——符号与真实世界对象的对应。

简单说：AI知道"猫"和"毛线球"之间的概念关系，但它不知道"猫"这个符号对应着一个真实的、毛茸茸的、会呼噜呼噜叫的生物。

这就像一个人从物理课本上学会了所有关于"火"的知识——火的化学方程式、燃烧的条件、火的温度——但他从未真正见过火、靠近过火、被火烫过。你说他"理解"火吗？理解了一些。但和真正摸过火的人比，他的理解是"残缺的"。

四、多模态是答案吗？——当AI开始"看"世界

如果问题的根源在于AI只有文字没有感官，那么一个自然的解决方案就是：给AI装上"眼睛"和"耳朵"。

这就引出了多模态模型——同时处理文本、图像、音频、视频的AI模型。

2021年，OpenAI的CLIP模型首次展示了语言和视觉的联合学习。CLIP在4亿张图片-文字对上进行训练，学会了将"猫"这个单词和猫的图片联系起来。

2023年之后的GPT-4V、Gemini、以及2025-2026年的多模态模型，进一步将这种能力推向了新的高度。

问题是：多模态解决了符号接地问题吗？

答案是：部分解决，但没有完全解决。

多模态确实让AI多了一层"接地"——“猫"这个符号不再只是和其他文本符号关联，还和猫的视觉特征关联。但这仍然不是"真正的接地”：

AI看到的图片是二维的，不是真实的猫
AI没有触觉、没有嗅觉、没有身体与世界的互动
AI没有"被猫抓过"的痛感，没有"猫毛蹭到腿上"的触感

真正的接地，可能需要具身——一个能感知、能行动、能与环境互动的物理身体。

这正是具身智能（Embodied AI）研究的方向。2024-2026年，具身智能领域取得了显著进展：机器人学会了在复杂环境中导航、操作物体、与人类协作。但距离"拥有真正的感知经验"，还有很长的路要走。