第24天:微调
今天我们聊聊「微调」这个词。微调就像是给一个什么都会一点的「家教」。它啥都能干,但想让这位家教专门帮你家孩子考公务员,还是得让他多看看公务员考试的题目,熟悉一下答题套路。这就是微调的意思:在通用大模型的基础上,再用一批跟任务相关的数据喂给它,让它变得更擅长你需要的那个任务。
微调是什么
你可以把通用大模型想成一个「刚考完高考的学霸」——他语数英物理化都会一点,但还没有专门研究过怎么做菜。你想让他当厨师,那就得让他去新东方烹饪学校再学一遍。这种「在已经训练好的模型基础上,再用新数据接着学」的过程,就叫微调。它不会推翻原有的知识,只是在已有能力之上,把模型往某个特定方向拉一拉。
什么时候才需要微调
不是所有任务都要微调。如果只是让模型帮你改个问答语,让它礼貌回答问题,你都可以——这时候只需要在提问时加上几句提示词就够了。但如果你的需求很特别,比如要求模型必须按你公司的格式写报告,必须学会你们独门的客服话术,必须认识一堆内部产品名,那提示词就不够用了。这时候就要把一批「标准范例」整理出来,让模型照着学一遍,这批样本才叫微调数据。
微调数据和提示词的区别
举个例子:你只想让模型今天用「您好,亲」开头回答——这是提示词,告诉它规则就行。但你想让它学会你们公司一千多条真实客服问答的最佳回复——这就必须微调了。微调数据是「教科书」,提示词是「考前划重点」。教科书得提前备好,划重点临考看一眼就行。
微调的成本和风险
微调不是免费的午餐。首先得准备几千上万条高质量样本,这本身就要花人力;然后还要租显卡跑训练几天。如果数据质量不好,模型反而会学坏——把错误答案也当成对的,越训练越笨。所以一般建议:能用提示词解决的,就先别微调;提示词实在不够用了,再考虑微调。
随堂小测
停一下,确认你真的懂了
每题只能选择一次,不计分,也不会保存结果。
第 1 题
下列哪种情况最适合用微调?
第 2 题