结论:LLM(Large Language Model,大语言模型)是在海量文本上训练出来的神经网络。它的核心能力是根据前面的内容预测下一个 token(模型处理文本的最小单位),靠这个能力完成问答、写作、翻译和写代码。
速查三点:
- 本质是概率预测,不是数据库检索。
- 能力来自参数(模型内部可调的数值)和训练数据,规模越大通常能力越强,但成本也越高。
- 输出可能出错,关键事实、数字和引用需要自己核对。
什么是 LLM
可以把 LLM 想象成一个读过大量书的人,你开个头,它按读过的语感接着往下写。这个比喻只说明了大致方式。严格说,模型并不存放一条条“知识”,而是把词与词之间的统计关系编码进数十亿级的参数里。参数规模从数亿到数千亿不等,具体取决于型号。
入门必须认识的六个术语
| 术语 | 含义 | 对你的影响 |
|---|---|---|
| Token | 文本切分后的最小单位。英文常为一个词或词片段,中文常为一个字或一个词,因分词器而异。 | API 计费和长度限制都按 token 计算。 |
| 参数 | 训练时不断调整的数值,决定模型的行为。 | 参数多不等于更好,还要看任务、成本和响应速度。 |
| 上下文窗口 | 一次请求中模型能处理的最大 token 数,包括你的输入和它的输出。 | 超长文档需要分段,超出部分会被截断或被忽略。 |
| Transformer | 当前主流 LLM 的网络结构,核心是注意力机制,让模型判断前文哪些词与当前位置相关。2017 年论文《Attention Is All You Need》提出该结构。 | 了解它有助于理解为什么长上下文更耗资源。 |
| 推理 | 模型接收输入并逐个生成输出的过程,与训练相对。 | 你日常使用的就是推理,成本和速度主要受它影响。 |
| 幻觉 | 模型生成看起来合理、实际不真实的内容,如虚构的文献或数字。 | 使用时必须核对重要信息。 |
模型是怎么训练出来的
- 预训练:用大量文本反复做“预测下一个 token”的练习,学到语言规律和大量知识的统计痕迹。
- 指令微调:用“问题加标准答案”的样本训练,让模型学会听懂指令、按要求作答。
- 偏好对齐:常用人类反馈强化学习(RLHF)等方法,让回答更符合人的偏好和安全要求。
具体配方因厂商而异,细节以各家公开的技术报告为准。
为什么会“一本正经地胡说”
训练目标是让输出“像合理的文本”,而不是“经过事实核验”。当训练数据中缺少某个信息,或问题超出模型见过的范围,它仍会按语感补全一个像样的答案。因此,越是冷门的细节、精确的数字和具体的文献引用,越容易出错。
常见误区
- “LLM 能实时上网查最新消息。”默认不能。只有产品接入了搜索或工具时才能获取新信息,需要看具体产品说明。
- “参数越多,效果一定越好。”任务复杂度、成本和延迟都要一起考虑。简单分类任务用小模型往往更划算。
- “语气肯定,内容就可靠。”语气与准确性无关,重要结论要对照原始来源。
- “它理解问题和人一样。”它的工作方式是统计预测,与人类理解不同,研究界对其能力边界仍有争论。
入门动手路线
- 对照实验:用任一主流聊天产品,同一个问题分别用简短提问和附带背景的提问各试一次,记录回答差异。
- 错误归类:把遇到的错误分成事实错误、计算错误、信息过时三类,找出哪类最常见。
- 读一份 API 文档:在厂商文档中找到模型名称、最大输出 token 数和上下文窗口字段,并算一笔简单的 token 成本。
风险提醒:不要把个人隐私、公司机密或未公开资料输入第三方服务,使用前先看服务条款和数据保留政策。
判断标准回顾
- 能用一句话说清 LLM 是基于概率预测下一个 token 的模型。
- 能解释 token 和上下文窗口如何影响成本与可输入的长度。
- 能识别幻觉风险,并对关键信息做二次核对。
本文讲的是通用原理。具体产品的参数、价格和功能会变化,请以厂商当前官方文档为准。







