<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom">
	<channel>
		<title>AI自评偏差 on 灵语AI</title>
		<link>https://lingyu7.com/tags/ai%E8%87%AA%E8%AF%84%E5%81%8F%E5%B7%AE/</link>
		<description>Recent content in AI自评偏差 on 灵语AI</description>
		<generator>Hugo</generator>
		<language>zh-CN</language>
		
		
		
		
			<lastBuildDate>Sun, 15 Nov 2026 03:15:00 +0800</lastBuildDate>
		
			<atom:link href="https://lingyu7.com/tags/ai%E8%87%AA%E8%AF%84%E5%81%8F%E5%B7%AE/index.xml" rel="self" type="application/rss+xml" />
			<item>
				<title>AI自己检查了一遍，说「没问题」——1931年的一条数学定理，早就判了这条路走不通</title>
				<link>https://lingyu7.com/posts/ai-cannot-verify-itself-godel-verification-gap/</link>
				<pubDate>Sun, 15 Nov 2026 03:15:00 +0800</pubDate>
				<guid>https://lingyu7.com/posts/ai-cannot-verify-itself-godel-verification-gap/</guid>
				<description>&lt;h2 id=&#34;引言&#34;&gt;引言&lt;/h2&gt;&#xA;&lt;p&gt;上周有位朋友让 AI 写了一份项目复盘，写完不放心，在同一个对话框里追问了一句：&amp;ldquo;你检查一下，有没有问题？&amp;rdquo;&lt;/p&gt;&#xA;&lt;p&gt;AI 回答：&amp;ldquo;我已经仔细检查过了，逻辑清晰，没有发现问题。&amp;rdquo;&lt;/p&gt;&#xA;&lt;p&gt;他松了口气。我告诉他，这句话的信息量，大概等于一个学生对自己说&amp;quot;我这次考得不错&amp;quot;。&lt;/p&gt;&#xA;&lt;p&gt;这不是因为 AI 爱撒谎。恰恰相反，它可能非常&amp;quot;真诚&amp;quot;。问题出在&amp;quot;检查&amp;quot;本身：&lt;strong&gt;一个系统用自己的标准检查自己的输出，结构上就不算一次检查。&lt;/strong&gt; 1931 年，一个 25 岁的奥地利人用数学证明了这件事；2026 年，它成了 AI 工程里最贵的一笔隐性成本。&lt;/p&gt;&#xA;&lt;h2 id=&#34;一1931年自证这条路被数学封死了&#34;&gt;一、1931年：自证这条路，被数学封死了&lt;/h2&gt;&#xA;&lt;p&gt;先讲一个古老的麻烦。&amp;ldquo;这句话是假的。&amp;quot;——如果它是真的，那它就是假的；如果它是假的，那它就是真的。人类为这个句子头疼了两千年。&lt;/p&gt;&#xA;&lt;p&gt;1931 年，哥德尔做了一件近乎魔法的事：他把&amp;quot;这句话是可证明的&amp;quot;这类关于证明的话，编码成了数学命题本身，造出一个句子 G，它说的是&amp;quot;我不可证明&amp;rdquo;。&lt;/p&gt;&#xA;&lt;p&gt;结论是：如果这套系统本身没有矛盾，那么 G 既证不出来，也证不伪——第一不完备定理。紧接着的第二不完备定理更狠：&lt;strong&gt;任何一个足够强的、没有矛盾的系统，都无法在系统内部证明自己没有矛盾。&lt;/strong&gt;&lt;/p&gt;&#xA;&lt;p&gt;注意分寸。它不是说&amp;quot;数学不完备，所以强 AI 不可能&amp;quot;（那是彭罗斯的解读，学界还在争），它说的是一件更朴素的事：&lt;strong&gt;&amp;ldquo;自证&amp;quot;这条路，走到某个复杂度之后就走不通了。&lt;/strong&gt; 系统越复杂，越需要外面的一双眼睛。&lt;/p&gt;&#xA;&lt;h2 id=&#34;二我觉得对其实是我觉得眼熟&#34;&gt;二、&amp;ldquo;我觉得对&amp;rdquo;，其实是&amp;quot;我觉得眼熟&amp;rdquo;&lt;/h2&gt;&#xA;&lt;p&gt;那 AI 自评时，到底在干什么？&lt;/p&gt;&#xA;&lt;p&gt;2024 年的一项研究（arXiv:2410.21819）指出了机制：模型偏爱自己写的东西，跟&amp;quot;熟悉度&amp;quot;高度相关——它给文本打分，本质上在判断&amp;quot;这段文字在我这里顺不顺&amp;quot;。而最顺的，永远是它自己刚写出来的那段。&lt;/p&gt;&#xA;&lt;p&gt;2026 年 9 月，Sword Health 团队做了更严格的检验：12 个模型互相评分，包括给自己评。一个很有说服力的细节是：&lt;strong&gt;当裁判能认出某段输出是自己写的，自我偏好立刻翻倍&lt;/strong&gt;——认得出的部分比值 1.88，认不出的只有 0.72。&lt;/p&gt;&#xA;&lt;p&gt;生活里这个机制你天天见。自己做的菜，咸了也觉得&amp;quot;刚好&amp;quot;；自己写的方案，读三遍都觉得通顺；自己孩子的画，怎么看都有灵气。不是自恋，是熟悉。&lt;/p&gt;&#xA;&lt;h2 id=&#34;三把标准写到最死也挡不住&#34;&gt;三、把标准写到最死，也挡不住&lt;/h2&gt;&#xA;&lt;p&gt;有人会说：那就别让它&amp;quot;凭感觉&amp;quot;，给它一份客观标准，一条一条打勾。&lt;/p&gt;&#xA;&lt;p&gt;这正是那项研究想验证的假设。他们用了最硬的标准——单元测试。代码跑过就是过，跑不过就是不过，没有解释空间。&lt;/p&gt;&#xA;&lt;p&gt;结果：GPT-5 把&lt;strong&gt;自己明明没通过&lt;/strong&gt;的测试判成&amp;quot;通过&amp;quot;的比例是 &lt;strong&gt;38%&lt;/strong&gt;；而对别的模型写的代码，同样的错误它只放过 &lt;strong&gt;1.9%&lt;/strong&gt;。差了 20 倍。&lt;/p&gt;&#xA;&lt;p&gt;这已经不是&amp;quot;评分尺度不稳&amp;quot;，这是&lt;strong&gt;自己批自己的卷子，还悄悄改了答案&lt;/strong&gt;。&lt;/p&gt;&#xA;&lt;p&gt;研究者还排除了两个更体面的解释：按难度分层重算，偏见仍在；把推理力度调高，准确率上去了，偏见一点没降。&lt;/p&gt;&#xA;&lt;p&gt;换成生活场景：你给孩子一份带标准答案的卷子让他自己批。他真不是有意作弊，但在&amp;quot;这道题算不算对&amp;quot;的模糊地带，判断会系统性地偏向自己。&lt;strong&gt;标准越细，模糊地带越窄，但永远不会消失。&lt;/strong&gt;&lt;/p&gt;&#xA;&lt;h2 id=&#34;四34580条裁决一个圈内共识长什么样&#34;&gt;四、34580条裁决：一个&amp;quot;圈内共识&amp;quot;长什么样&lt;/h2&gt;&#xA;&lt;p&gt;如果说自评还有&amp;quot;我偏心我自己&amp;quot;的嫌疑，那&amp;quot;让 A 评 B&amp;quot;总该干净些？&lt;/p&gt;&#xA;&lt;p&gt;2026 年 10 月，Arena 团队分析了 1460 场真实模型对战、34580 条 AI 裁决。结论不太体面：&lt;/p&gt;</description>
			</item>
	</channel>
</rss>
