AI为什么总爱'编故事'？——从幻觉原理看大模型最致命的软肋
引言 2023年初，一位律师在法庭上提交了一份法律文件，引用了"某某案件"的判决作为依据。法官问：这个案件在哪里查到的？律师说：ChatGPT告诉我的。 结果那个案件根本不存在——从当事人名字到判例编号，全是 …
AI真的学会了吗？——从过拟合到泛化，机器学习中最致命的矛盾
引言 想象你正在教一个孩子认识猫。 你拿出了一百张照片，每张都是橘猫、坐在沙发上、白天拍摄。孩子学得很好——所有照片都认对了。 然后你拿出一张新照片：黑猫，在草地上，晚上拍的。 孩子说：“这不是猫，没有橘色，背景也不对 …
AI真的懂「因为所以」吗？——因果推断如何让机器从相关走向因果
引言 你有没有想过一个问题：为什么AI能写出比很多人类还好的文章，能打败围棋世界冠军，能识别出照片里的每一只猫——但你问它"吃冰激凌为什么会导致溺水人数增加"时，它可能会开始一本正经地编理由？ 冰激凌销量和溺水率确实高度 …
为什么两个AI不如一个？——多智能体协作的'协调诅咒'
引言 想象一下，你是一个项目经理，手下有两个顶尖的程序员。他们各自独立工作时，都是效率超高的"独角兽"——代码写得快、问题找得准、方案想得妙。 然后你把他们编成一个团队，让他们一起完成一个项目。 结果，项目进度反而慢了， …
AI真的'理解'世界吗？——大模型内部的世界模型假说
引言 你有没有想过一个问题：AI为什么能回答"如果一个杯子从桌子上掉下来会怎样"？ 它没有见过杯子掉下来，没有学过"杯子掉落的物理公式"，甚至没有专门接受过"回答物体掉落问题"的训 …
AI也有'记忆'吗？——大模型如何记住、遗忘和思考
引言 你有没有和AI聊过天，然后发现它"忘了"你两分钟前说过的话？ 或者反过来——你明明已经告诉它"我叫小明"，下一轮对话它又彬彬有礼地问"请问怎么称呼您"？ 你可能会想：AI的记 …
AI是怎么学会'思考'的？——从RLHF到自我进化，AI的'成长'之路
引言 你有没有想过一个问题：两年前的ChatGPT还经常答非所问，现在它为什么能解高等数学题、写完整代码、甚至做逻辑推理了？ 你可能会说：“因为模型变大了。” 但真正了解内情的人会告诉你——答案没这么简单。 一个原始 …
AI为什么总在'编故事'？——大模型幻觉的真相与应对
引言 你有没有遇到过这样的场景？ 你问ChatGPT：“2024年诺贝尔物理学奖颁给了谁？” 它自信满满地回答：“约翰·霍普菲尔德和杰弗里·辛顿，表彰他们在人工神经网络领域的奠基性贡献。” 看 …
AI的'价值观'是怎么来的？——RLHF如何教会AI分辨好坏
引言 你有没有过这样的经历？ 第一次用ChatGPT时，你问它一个有点敏感的问题，它礼貌地拒绝了。你换了个方式问，它还是拒绝了。你再换个递进的方式，它依然不为所动。 你可能会想：这AI怎么这么"有原则"？ 答案可能会让你 …
AI的'举一反三'——迁移学习如何让AI学会触类旁通
引言 你肯定有过这样的经历： 学完骑自行车，再学骑电动车，几分钟就上手了。不是因为电动车更简单，而是因为你的身体已经记住了怎么保持平衡、怎么转弯、怎么刹车——这些技能从自行车"迁移"到了电动车。 或者，你学会做番茄炒蛋之 …