A
智能体Agent
能自主拆解目标、调用工具、根据结果调整下一步的模型系统。与"一问一答"不同，它的核心是循环：思考 → 行动 → 观察 → 再思考。
相关教程：多智能体协作 →
对齐Alignment
让模型的行为符合人类意图与价值观的一整套技术。它包括训练阶段的方法（如 RLHF），也包括部署阶段的护栏与审计。
C
思维链Chain-of-Thought, CoT
让模型把推理的中间步骤显式写出来，而不是直接给答案。对多步计算、逻辑判断的提升最明显。注意：写出来的过程不等于模型真实的内部计算。
相关教程：掌握思维链 →
上下文窗口Context Window
模型单次请求能处理的最大 token 数，包含你的输入和它的输出。窗口越大，能一次性"看完"的资料越多，但成本与延迟也随之上升。
E
向量化Embedding
把文本、图片转成一串数字，使语义相近的内容在向量空间里距离更近。它是语义搜索与 RAG 的地基。
涌现能力Emergent Ability
模型规模跨过某个阈值后，突然出现的小模型不具备的能力。这也是"更大模型是否值得"这一争论的核心。
F
微调Fine-tuning
在已有模型上用业务数据继续训练，让它更贴合特定任务或语气。它擅长"改风格、改格式"，不擅长"灌知识"——后者更适合 RAG。
少样本提示Few-shot Prompting
在提示词里给几个"输入 → 输出"的示例，让模型照葫芦画瓢。对格式约束类任务，效果通常比长篇文字规则更好。
G
依据溯源Grounding
要求模型的每个结论都能指向可核查的来源。做企业知识库时，它比"准确率"更能决定用户敢不敢用。
H
幻觉Hallucination
模型生成看似合理、实则错误或凭空捏造的内容。它不是说谎，而是"补全"机制在缺乏依据时的自然结果。缓解手段：检索增强、强制引用、结构化输出校验。
I
推理（生成）Inference
模型给出结果的过程。首字延迟与每秒生成 token 数是两个不同指标，做产品时都要看。
L
大语言模型LLM
在海量文本上训练、以预测下一个 token 为核心目标的模型。它擅长语言与模式，不天然擅长计算、事实与实时信息。
LoRA 低秩适配LoRA
只训练一小部分附加参数来完成微调，显存占用和成本远低于全量训练。个人开发者做垂类微调的主流方式。
M
混合专家MoE, Mixture of Experts
模型内部有多组"专家"，每次只激活其中一小部分。于是可以用很大的总参数换取能力，同时保持较低的推理成本。看 MoE 模型要区分"总参数"与"活跃参数"。
多模态Multimodal
同时处理文本、图像、音频、视频等多种输入。实际体验差异很大：能"看图"和能"读懂图表里的数据"是两件事。
P
预填充Prefill
模型在开始输出前，把整段输入"读一遍"的阶段。输入越长，首字延迟越明显——这是长上下文产品体验的关键瓶颈。
Q
量化Quantization
用更低精度（如 INT4/INT8）表示模型权重，换取更小的显存占用与更快的速度，代价是少量质量损失。
R
检索增强生成RAG, Retrieval-Augmented Generation
人类反馈强化学习RLHF
用人类偏好数据训练奖励模型，再据此优化模型输出。它是让模型"会聊天、懂礼貌"的关键一步。
S
系统提示System Prompt
位于对话最前方的全局指令，用来定义角色、边界与输出格式。它的优先级高于用户输入，但并非不可绕过。
规模定律Scaling Law
描述模型能力随参数量、数据量与算力增长而变化的经验规律。近年来的共识是：数据质量与训练配方，和规模同样重要。
T
词元Token
模型处理文本的最小单位，也是计费单位。一个汉字大约等于 1—2 个 token，英文单词约 1.3 个。
温度Temperature
控制输出随机性的参数。越低越确定、适合抽取与代码；越高越发散、适合创意。0 也不代表完全可复现。
TransformerTransformer
基于自注意力机制的神经网络架构，是当前几乎所有大语言模型的基础。它的关键优势是能并行处理长序列。
V
向量数据库Vector Database
专门存储与检索向量的数据库，支持"找最相似的 N 条"。RAG 系统里负责召回环节。
📖
没有找到该术语，欢迎到 论坛 提问，我们会补充词条