上周三中午,同事老张端着饭盒坐我对面。

他压低了声音问我一句话。

"你说这AI,是不是工程师一个字一个字教出来的?"

我差点把嘴里的汤喷出来。

老张今年四十五,做销售。他电脑上那个AI对话框,点开过三次,每次打两行字就关了。

他说,看着那玩意儿一行行往外打字,心里发毛。

我给他算了笔账。这类大模型训练时读过的文字,好几万亿个词。

一个人不吃不睡读到死,也就几千万词。

差了几千倍。

没人一个字一个字教它。它是自己从全网的文字里,一点一点啃出来的。

一座由书堆成的山
一座由书堆成的山

它不学知识,它玩填空

我问他:"今天天气真___,你填什么?"

他说,好。

"我爱北___?"

北京。

我说,大模型一辈子干的就是这件事。把一句话遮住一个词,让它猜。

猜错一次,就动一下自己脑子里的参数。再猜,再动。

几万亿次下来,它猜得比谁都准。

一张白纸上挖了个方块小洞
一张白纸上挖了个方块小洞

老张反应挺快:那它到底懂不懂意思?

我说,说实话,不太懂。

它知道"苹果"和"手机"经常挨在一起,因为网上写的人多。它不知道苹果能啃。

但它把几万亿次搭配都记下来了。

所以它能接上你的话,还接得挺像人。

预训练:先把整个互联网啃一遍

这一步叫预训练。

你可以当成把它关进一座看不到头的图书馆。

网页、论坛、代码、小说、说明书,好的烂的全塞进去。

塞之前还得洗一遍。广告、乱码、重复的段子,都得筛掉。

这活儿几百人干了好几个月。

然后它不睡觉不吃饭,一页一页往下啃。

啃着啃着,语法、逻辑、常识,它自己摸出来了。

没人教过它什么叫主谓宾。它看多了,自己总结的。

一条望不到尽头的书架长廊
一条望不到尽头的书架长廊

这一步最烧钱。

几千块显卡一起跑,跑好几个月。电费加上硬件,上千万美元。

老张吸了口气:这么多钱,图啥?

图一个底子。底子打好了,后面才有的谈。

底子不行,后面怎么调都是歪的。

微调:上岗之前带一带

预训练完的模型,像个刚毕业的学生。

什么都懂一点,什么都不会干。

你让它写客户回复,它给你写篇散文。

你让它写法律文书,它跟你聊人生。

这时候要微调。

去年我帮一家公司做客服机器人。他们从后台翻出八千多条真人对话,一条条喂进去。

喂了两天,模型变了。

之前它张口就是"您好,请问有什么可以帮您",客套话堆一堆。

现在它会说"您别急,这个我帮您查一下"。

连客服主管都说,有点像他们组那个干了三年的姑娘。

一本翻旧了的员工手册
一本翻旧了的员工手册

微调没那么神秘。

你就当是给它发了本公司的手册,让它照着练几遍。

练完,它说话就带上了你的口音。

而且它要的数据比预训练少得多。八千条就够用了。

这也是普通人唯一有机会自己动手的一步。

对齐:教它什么话不能说

老张问,那它会不会教人干坏事?

会。真会。

早几年的模型,你问它怎么撬锁,它真能给你写教程。步骤清清楚楚。

现在的模型会说"这个我帮不了你"。

中间差着的,就是对齐。

怎么对?

雇一大群人,给模型的回答打分。哪句安全哪句有害,一条条标出来。

标几十万条。

这群人里很多是外包的标注员,一天标几百条,时薪不高。

你用的那个AI,背后有他们的手印。

马路中间的白色护栏
马路中间的白色护栏

老张说,这么一弄,它就靠谱了吧。

我说,也不一定。

它有时候还是一本正经地胡说。编个根本不存在的法条,编得比真的还像。

它的本事是猜得像,不是说得对。

这一点,你得一直记着。

你自己怎么用

原理说到这,落到你身上,就三件小事。

头一件,把它当实习生,别当搜索引擎。

搜索引擎给你一堆链接,你自己挑。实习生给你一份稿子,你来改。

问它问题,不如给它任务。

再一件,把你手上的材料一起丢进去。

要写周报,就把上个月的周报、这个月的流水,一股脑喂给它。

这一步,就是你自己动手做微调。

它有了你的料,说话才像你。

还有一件,把要求说清楚。

别写"帮我写个方案"。告诉它:写给谁看、多少字、什么语气、分几段。

给的规矩越细,它越不容易跑偏。

这相当于你亲手给它对了一次齐。

一张贴满便签的电脑屏幕
一张贴满便签的电脑屏幕

上周我把这三条教给老张。

他昨天跑过来说,周报从两小时缩到了二十分钟。

我说,你看,它读了几万亿字,到头来还是得听你一句。

一个背影对着发亮的电脑屏幕
一个背影对着发亮的电脑屏幕

开头说那三次,他点开对话框又关掉。

昨天晚上他又点开了一次,这回没关。

你也挑一件拖了很久的小事,今晚丢给它试试。

是省了时间,还是返工三遍,回来告诉我一声。