大语言模型为什么会说话
你有没有对着手机里的智能助手问过问题,比如「今天适合穿什么」?它总能像真人一样回答你。但你可能也好奇:它是一台机器,又没有嘴巴和大脑,怎么就能「说话」呢? 今天我们就来揭开这个谜团,看看大语言模型到底是怎么学会「说话」的。
一、它在做的,其实是一场「接龙游戏」
大语言模型的核心能力,叫做「下一个词预测」。你可以把它想象成我们小时候玩过的成语接龙:有人先说一个开头,然后你必须根据前面的内容,说出下一个最合适的词。 比如我告诉你「今天天气真」,你大概率会接出「好」、「热」、「冷」这些词,而不是「桌子」或者「飞机」。这就是因为你会根据前面的「上下文」去推测下一个最合理的词。 大语言模型做的事情,本质上和这个接龙游戏一模一样。它读了一长串文字,然后一个字一个字地猜:下一个字最可能是什么?猜完一个字,再把这段加长的内容当作新的「上文」,继续猜下一个字,直到把整句话写完。 所以它并不是「想好了再说」,而是一个字一个字地「算出来」的,每一步都在做数学题。
二、上下文是什么?为什么它这么重要?
「上下文」你可以理解为「上文和下文的整体环境」,说白了就是「前后文」。同样一个问题,放在不同的前后文里,回答可能完全不同。 举个例子:朋友对你说「苹果」,你可能一头雾水。但如果你之前一直在聊水果,他可能在说「苹果很甜」;如果你们之前在看手机,他可能在说「苹果手机」。 大语言模型也是一样。你在和它对话时,前面所有你说的话、它说过的话,都会成为「上下文」,影响它下一个词的选择。这也是为什么当你提出一个比较模糊的问题时,它可能会「跑题」——因为它理解的上下文和你以为的不一样。 所以你会发现,跟它聊天时把背景说清楚,它往往回答得更好。这就是「上下文」的力量。
三、它真的「懂」我们在说什么吗?
这是一个非常重要的问题。答案可能会让你有点意外:它在「流畅表达」和「真实理解」之间,往往只做到了前者。 什么叫「流畅表达」?就是它说的话读起来很通顺、很自然,像个真人在和你聊天。但「真实理解」是说,它真的知道这些字背后的意思。 打个比方:一个鹦鹉经过训练,能模仿主人说「你好」、「恭喜发财」,声音甚至能以假乱真。但鹦鹉真的明白「恭喜发财」是什么意思吗?大概率不知道,它只是学会了在某个场景发出这段声音。 大语言模型有点像这只「更聪明的鹦鹉」。它能从海量文字中学到「在某个上下文里,接下来最该出现什么词」,但它并没有像人一样对世界有真实的感受和体验。 所以它有时候会一本正经地胡说八道,行话叫「幻觉」。比如它可能编造一个不存在的名人名言,听起来特别像真的,但这正是我们需要警惕的地方——流畅不等于正确。
停一下,确认你真的懂了
每题只能选择一次,不计分,也不会保存结果。
第 1 题
大语言模型生成文字的核心方式是什么?
第 2 题
为什么同一个问题,大语言模型有时候回答得好,有时候却答非所问?
第 3 题