一句话结论与速查清单
大语言模型(Large Language Model,简称 LLM)是一种通过海量文本训练出来的神经网络,核心能力是“根据前面的文字,预测下一个最可能的词片段”。它看起来会聊天、写代码、做总结,本质仍是基于概率的文本生成。
- 它是什么:一个参数量很大的统计型文本生成模型,不是数据库,也不是能实时联网的搜索引擎(除非外接了检索工具)。
- 它怎么工作:把输入切成 Token(词元,即模型处理文本的最小单位),逐个预测后续 Token,直到输出结束。
- 它的边界:知识有截止时间,可能“一本正经地胡说”(即幻觉),需要人工核对关键事实。
什么是 LLM:先建立三个层次的理解
小白版:可以把 LLM 理解成一个读过大量书籍和网页的“接龙高手”。你给它一段开头,它会按读过的规律续写。
进阶版:模型内部由大量参数(权重)组成,训练目标是最小化“预测下一个 Token 的错误”。参数量通常以“B(十亿)”计,例如 7B、70B,参数越多,容量越大,但推理成本也越高,并非越大越好。
严格说法:LLM 的主流架构是 Transformer(一种基于注意力机制的神经网络结构),它让模型在处理每个 Token 时,能够动态关注上下文中的其他位置。
为什么它会“说得像人”:三个关键阶段
- 预训练(Pre-training):用大规模文本做“接龙”训练,学习语言结构、常识与部分知识。这一阶段成本最高,决定模型的底子。
- 微调(Fine-tuning):用较小规模、带标注的指令数据让模型学会“听指令、按格式回答”。例如,把“翻译成英文”这类任务示范给模型。
- 对齐(Alignment):通过人类反馈等方式,让输出更符合安全、有用、诚实的要求。不同厂商的方法与细节各不相同,本文不展开具体实现。
新手必须懂的 5 个术语
| 术语 | 含义 | 对你的影响 |
|---|---|---|
| Token | 模型处理文本的最小单位,可能是一个字、一个词或一段子词 | 计费、长度限制通常按 Token 算;同样一段话,不同模型切分结果可能不同 |
| 上下文窗口 | 一次请求中模型能“看到”的最大 Token 数(输入加输出) | 超出后前面内容会被截断或被忽略,长文档要分段处理 |
| 温度(Temperature) | 控制输出随机性的采样参数,数值越低越稳定 | 写代码、查事实可调低;头脑风暴可适当调高 |
| 幻觉(Hallucination) | 模型生成看似合理但与事实不符的内容 | 引用的论文、数字、命令参数都要核对来源 |
| RAG(检索增强生成) | 先从外部资料库检索相关内容,再交给模型生成回答 | 适合企业文档问答;检索质量不好,回答质量也会下降 |
动手验证:三个 10 分钟小实验
- 观察“接龙”:在任意对话产品中输入“床前明月光,”,观察续写结果;再换成一句你自己编的半截话,感受它是按概率续写而非查找答案。
- 测试上下文记忆:先告诉模型一个虚构的人名和数字,再隔很多轮后追问。若超出上下文窗口,它可能答不上来,这时可以理解为“看不到”而不是“忘了”。
- 检验幻觉:让模型列出某个冷门开源项目的 3 个具体版本号和发布日期,再到官方仓库核对。核对结果本身就是最直观的边界教育。
常见误区与纠偏
- 误区一:“模型越大一定越好。”参数量只是能力的一个变量。数据质量、训练方法、推理设置以及具体任务都会影响结果,需要看实测表现。
- 误区二:“它会记住我的每次对话。”多数产品的记忆依赖会话上下文或额外的记忆功能,具体策略以各产品的隐私设置说明为准。
- 误区三:“回答很流畅,说明一定正确。”语言流畅与事实准确是两件事。涉及医疗、法律、金融和安全操作时,应以权威来源为准。
注意事项与安全提醒
- 不要把密码、密钥、身份证号、未公开的商业资料直接粘贴进第三方对话产品,先确认该服务的数据保留与训练策略。
- 让模型生成的代码、系统命令、删除操作,务必先在测试环境运行,并理解每一行的作用。
- 知识截止时间会随版本变化。涉及新闻或最新版本号时,请以官方发布页面为准。
判断标准回顾与行动建议
如果你只想记住三件事:LLM 是基于概率的文本生成器;它的输入输出以 Token 计量并受上下文窗口限制;它会犯错,关键事实必须核对。
适合谁:刚接触 AI、想建立基础框架的读者,以及需要向非技术同事解释 LLM 的人。不太适合:希望直接训练或部署大模型的读者,这需要另外系统学习深度学习与工程知识。
下一步建议:先完成上面的三个小实验,记录自己观察到的现象,再学习 Token 计数和提示词(Prompt)的基本写法。







