上周三中午,同事老张端着饭盒坐我对面。
他压低了声音问我一句话。
"你说这AI,是不是工程师一个字一个字教出来的?"
我差点把嘴里的汤喷出来。
老张今年四十五,做销售。他电脑上那个AI对话框,点开过三次,每次打两行字就关了。
他说,看着那玩意儿一行行往外打字,心里发毛。
我给他算了笔账。这类大模型训练时读过的文字,好几万亿个词。
一个人不吃不睡读到死,也就几千万词。
差了几千倍。
没人一个字一个字教它。它是自己从全网的文字里,一点一点啃出来的。

它不学知识,它玩填空
我问他:"今天天气真___,你填什么?"
他说,好。
"我爱北___?"
北京。
我说,大模型一辈子干的就是这件事。把一句话遮住一个词,让它猜。
猜错一次,就动一下自己脑子里的参数。再猜,再动。
几万亿次下来,它猜得比谁都准。

老张反应挺快:那它到底懂不懂意思?
我说,说实话,不太懂。
它知道"苹果"和"手机"经常挨在一起,因为网上写的人多。它不知道苹果能啃。
但它把几万亿次搭配都记下来了。
所以它能接上你的话,还接得挺像人。
预训练:先把整个互联网啃一遍
这一步叫预训练。
你可以当成把它关进一座看不到头的图书馆。
网页、论坛、代码、小说、说明书,好的烂的全塞进去。
塞之前还得洗一遍。广告、乱码、重复的段子,都得筛掉。
这活儿几百人干了好几个月。
然后它不睡觉不吃饭,一页一页往下啃。
啃着啃着,语法、逻辑、常识,它自己摸出来了。
没人教过它什么叫主谓宾。它看多了,自己总结的。

这一步最烧钱。
几千块显卡一起跑,跑好几个月。电费加上硬件,上千万美元。
老张吸了口气:这么多钱,图啥?
图一个底子。底子打好了,后面才有的谈。
底子不行,后面怎么调都是歪的。
微调:上岗之前带一带
预训练完的模型,像个刚毕业的学生。
什么都懂一点,什么都不会干。
你让它写客户回复,它给你写篇散文。
你让它写法律文书,它跟你聊人生。
这时候要微调。
去年我帮一家公司做客服机器人。他们从后台翻出八千多条真人对话,一条条喂进去。
喂了两天,模型变了。
之前它张口就是"您好,请问有什么可以帮您",客套话堆一堆。
现在它会说"您别急,这个我帮您查一下"。
连客服主管都说,有点像他们组那个干了三年的姑娘。

微调没那么神秘。
你就当是给它发了本公司的手册,让它照着练几遍。
练完,它说话就带上了你的口音。
而且它要的数据比预训练少得多。八千条就够用了。
这也是普通人唯一有机会自己动手的一步。
对齐:教它什么话不能说
老张问,那它会不会教人干坏事?
会。真会。
早几年的模型,你问它怎么撬锁,它真能给你写教程。步骤清清楚楚。
现在的模型会说"这个我帮不了你"。
中间差着的,就是对齐。
怎么对?
雇一大群人,给模型的回答打分。哪句安全哪句有害,一条条标出来。
标几十万条。
这群人里很多是外包的标注员,一天标几百条,时薪不高。
你用的那个AI,背后有他们的手印。

老张说,这么一弄,它就靠谱了吧。
我说,也不一定。
它有时候还是一本正经地胡说。编个根本不存在的法条,编得比真的还像。
它的本事是猜得像,不是说得对。
这一点,你得一直记着。
你自己怎么用
原理说到这,落到你身上,就三件小事。
头一件,把它当实习生,别当搜索引擎。
搜索引擎给你一堆链接,你自己挑。实习生给你一份稿子,你来改。
问它问题,不如给它任务。
再一件,把你手上的材料一起丢进去。
要写周报,就把上个月的周报、这个月的流水,一股脑喂给它。
这一步,就是你自己动手做微调。
它有了你的料,说话才像你。
还有一件,把要求说清楚。
别写"帮我写个方案"。告诉它:写给谁看、多少字、什么语气、分几段。
给的规矩越细,它越不容易跑偏。
这相当于你亲手给它对了一次齐。

上周我把这三条教给老张。
他昨天跑过来说,周报从两小时缩到了二十分钟。
我说,你看,它读了几万亿字,到头来还是得听你一句。

开头说那三次,他点开对话框又关掉。
昨天晚上他又点开了一次,这回没关。
你也挑一件拖了很久的小事,今晚丢给它试试。
是省了时间,还是返工三遍,回来告诉我一声。