AI的'价值观'是怎么来的？——RLHF如何教会AI分辨好坏
引言 你有没有过这样的经历？ 第一次用ChatGPT时，你问它一个有点敏感的问题，它礼貌地拒绝了。你换了个方式问，它还是拒绝了。你再换个递进的方式，它依然不为所动。 你可能会想：这AI怎么这么"有原则"？ 答案可能会让你 …
PPO
AI的'试错'学习法——强化学习如何让AI从失败中学会成功
引言 你有没有想过一个问题：AlphaGo 是怎么学会下围棋的？它不可能像人类一样翻棋谱、背定式——它甚至连"围棋是什么"都不理解。但2016年，它却以4:1击败了世界冠军李世石。 更神奇的是，AlphaGo 的 …