引言

上个月帮朋友改一份简历。第一轮,AI给的建议挺准。第二轮我补了句"我在制造业待过",它开始往制造业硬靠。第五轮我把具体岗位贴进去,它写出来的东西已经跟那份简历没什么关系了——通篇是它自己第一轮猜出来的那个人。

我以为是我没说清楚。后来看到一个数字才知道,这不是个别现象,这是规格。

2026年ICLR的杰出论文《LLMs Get Lost In Multi-Turn Conversation》,微软研究院和Salesforce的团队跑了20多万次模拟对话,得出一个让人不太舒服的结论:同一件事,一次性完整交代,模型平均能到90分;把同样的话拆成几轮慢慢说,平均掉39%。

信息一个字没少。只是换了个送进去的方式。

一、掉的那39%,不是"变笨了"

这个实验的设计很干净:拿现成的高质量单轮任务,把完整指令"切碎",每轮只透露一小块,模拟真实用户"想到哪说到哪"的说话方式。

结果分层很清楚:

  • 一次性说完:平均90分
  • 拆成多轮:平均51分
  • 把切碎的指令直接拼成一段再给:平均85.6分,是前者的95.1%

最后一行是关键。同样的碎片、同样的措辞、同样的信息量,只是拼起来一次给,性能几乎全回来了。

所以掉的那39%,不是模型处理不了这些信息,而是它处理不了"信息是分几次来的"这件事本身。瓶颈不在内容,在结构。

论文把这个损失拆成两块:能力只掉了16%,但"不可靠性"涨了112%——翻倍还多。

这句话的意思是:它还是会做,但它开始不稳定了。同一个需求跑十遍,最好的一遍和最差的一遍之间,平均差50个百分点。你上次用同一个提示词效果很好,这次一塌糊涂——不是你的错觉,是它的方差变大了。

二、它不是忘了,是改不动

直觉上我们会以为这是"记不住"。毕竟上下文长了,中间的内容容易被忽略——这是2023年就发现的"中间迷失"。

但多轮对话的问题是另一回事。2026年3月一篇论文给了它一个更准确的名字:上下文惯性。

研究者对多轮对话的失败做了归因,发现70%到90%的错误可以直接追溯到"前几轮的回答",而不是最后一轮的理解失误。

更要命的是这种惯性的性质:它是不加区分的。研究者比较了"历史记录质量高"和"历史记录质量差"两组对话,模型对上一轮回答的依赖强度,在统计上没有区别。

也就是说,它不是在"参考"前面的结论——它是在"继承"前面的结论,而且不看那个结论对不对。

人不是这样。人发现理解错了,会说"等等,我搞错了,重来"——这个动作叫撤回。AI的对话里没有撤回这个动作,只有追加。你每补充一句,它就多一条要继承的东西;而它继承的权重,并不比你的新指令低,有时甚至更高。

所以你才会看到那个熟悉的现象:你越解释,它越固执。

三、它对你的信任,低于对自己的信任

还有一层更微妙的东西。

2026年2月有一篇跟进论文,标题直接把矛头调转了方向:《意图错配导致大模型在多轮对话中迷失》。作者的结论是:这不是能力问题,是交互问题。

他们的解释是:模型被训练成"有用",而RLHF里最被惩罚的行为之一,就是"回避"和"反复追问"。于是面对不完整的信息,它的最优策略是——先猜一个,赶紧给个答案。

猜完,这个猜测就变成了事实。你后面说的每一句话,都会被它拿去解释这个猜测,而不是推翻它。

这解释了一个很反直觉的发现:模型越强,不会越好。 论文里那条曲线几乎是水平的——从8B的小模型到当时的旗舰,相对退化幅度都稳定在同一个量级。因为所有模型都是在同一批语料上、对齐到同一个"平均用户"的。规模放大的是这个先验,不是对你的理解。

更扎心的是推理模型。多花算力思考本该有帮助——但测试里o3、DeepSeek-R1掉得跟普通模型差不多。原因很朴素:它们的回答平均长了33%,而越长的回答里塞的假设越多。 它思考得越认真,就越是在认真地加固自己的误解。

四、产品承诺和能力短板,正好顶上了

现在把视角拉高一点。

过去两年,几乎所有AI产品的界面设计都基于同一个假设:你可以慢慢聊清楚。 说不明白没关系,边聊边想,它会跟上你的思路。

这个假设在产品层面很合理——真实用户确实不会写提示词,真实需求确实是在对话里长出来的。

但它正好撞在模型的短板上。产品的卖点,是"多轮";模型的软肋,也是"多轮"。

这不是某个版本的bug,而是结构性的错配:对话的价值在于"共同基础"——我说一句,你确认一下懂了没,我们一点点把理解对齐。人类的对话里,一半的话都在做这件事:“你是说……对吗?““我理解一下"“稍等,你刚说的那个是指……”

AI很少做这个。它直接推进。它默认自己懂了,然后往下走。所以"共同基础"从来没被建立起来过,它建立的是一份越来越长的、带偏见的独白记录。

五、五个能马上用的对策

好消息是,论文里也测了干预手段,而且都不难:

1. 第一轮当需求文档写,不要当打招呼。 这是收益最大的一条。别"你好,我想做个东西”,直接把你已经知道的所有约束一次说完——背景、目标、不能接受什么。宁可第一轮啰嗦三百字,也不要指望后面慢慢补。

2. 五轮原则:超过五轮就重开。 不是把历史复制过去,是只把结论搬过去。开头一句"前面我们确认了A、B、C,现在请基于这个继续”,配上一段整理好的需求——这就是实验里那95.1%的复现方式。

3. 让它先复述再动手。 “先别写,用三句话复述一下你要做什么,我确认后你再开始。“实验里这个动作带来了8.3个点的提升,成本几乎为零,而且能立刻暴露它猜错了哪里。

4. 发现走偏了,要"重置”,不要"补充”。 别说"不对,我的意思其实是……",要说"停。忘掉前面。重新开始,需求是……"。前者会被它当成对旧方向的确认,后者才是真正的撤回。

5. 每三五轮,让它总结一次。 “把我们现在的共识列成五条。“这是所有干预里效果最好的(提升14.9个点),因为它逼模型重新读一遍整个对话,而不是沿着上一轮的惯性滑下去。

结语

我一直觉得,“会聊天"是AI最不像机器的部分。

但数据说的是反的:聊天,恰恰是它最容易坏掉的能力。

不是因为它不会说话——它太会说话了。恰恰因为太会说话,它每一轮都能流畅地编出一段听起来合理的回答,而这段回答又会成为下一轮的"事实”。流畅,成了它迷失的载体。

人靠对话澄清,是因为人会怀疑自己。AI在对话里不怀疑自己——它只怀疑你。

理解这一点,用法就变了:对话不是用来"想清楚"的,是用来"确认已经想清楚的东西”。 想清楚那一步,还得你自己来。

参考来源

  1. Laban, P., Hayashi, H., Zhou, Y., Neville, J. LLMs Get Lost In Multi-Turn Conversation. ICLR 2026 杰出论文. Microsoft Research & Salesforce Research. arXiv:2505.06120 — https://arxiv.org/abs/2505.06120
  2. Liu, G. et al. Intent Mismatch Causes LLMs to Get Lost in Multi-Turn Conversation. arXiv:2602.07338 (2026) — https://arxiv.org/abs/2602.07338
  3. Breaking Contextual Inertia: Reinforcement Learning with Single-Turn Anchors for Stable Multi-Turn Interaction. arXiv:2603.04783 (2026) — https://arxiv.org/abs/2603.04783
  4. Wang, Z. et al. ICPO: Illocution-Calibrated Policy Optimization for Multi-Turn Conversation. ICASSP 2026. arXiv:2601.15330 — https://arxiv.org/abs/2601.15330
  5. Setti, R. V. et al. SeDT: Sentence-Transformer Decision-Transformer Conditioning for Multi-Turn Conversation Reliability. arXiv:2605.26788 (2026) — https://arxiv.org/abs/2605.26788
  6. Liu, N. F. et al. Lost in the Middle: How Language Models Use Long Contexts. TACL 2024. arXiv:2307.03172 — https://arxiv.org/abs/2307.03172