你和AI之间的默契,是一群陌生人用'thumbs up'换来的——RLHF如何塑造了你每天使用的AI助手
引言 你有没有想过一件事:当你问AI"帮我写一封请假邮件"的时候,它为什么知道要写得礼貌、简洁、有理有据? 预训练数据里有几十亿网页的文本,里面有礼貌的邮件,也有粗暴的骂战。AI在预训练之后,只是一个"文字接龙 …
引言 你有没有想过一件事:当你问AI"帮我写一封请假邮件"的时候,它为什么知道要写得礼貌、简洁、有理有据? 预训练数据里有几十亿网页的文本,里面有礼貌的邮件,也有粗暴的骂战。AI在预训练之后,只是一个"文字接龙 …
引言 你有没有过这样的经历? 第一次用ChatGPT时,你问它一个有点敏感的问题,它礼貌地拒绝了。你换了个方式问,它还是拒绝了。你再换个递进的方式,它依然不为所动。 你可能会想:这AI怎么这么"有原则"? 答案可能会让你 …
引言 你有没有这种感觉? 2022年底,你第一次用ChatGPT,它惊为天人——能写诗、能写代码、能聊哲学。但聊多了,你发现它有个毛病:明明不知道的事,它也能煞有介事地编出一段。 你问"爱因斯坦的第三个孩子叫什么",它会 …