我要token 术语表

把文章里反复出现的说法集中解释一遍，看文章卡住时来这里查。

Token
模型处理文本的基本单位，中文一个汉字约 1–2 个 token。
上下文窗口
一次请求能容纳的最大 token 数。
提示词
输入给模型的指令和背景信息。
系统提示词
设定模型角色和行为的预设指令。
Few-shot
给几个示例让模型模仿。
思维链
让模型分步推理的提示方法。
温度
控制输出随机性的参数，越低越稳定。
Top-p
另一种控制随机性的采样参数。
幻觉
模型生成看似合理但事实错误的内容。
RAG
检索增强生成，先查资料再回答。
向量库
存储文本向量、支持相似度检索的数据库。
Embedding
把文本转成向量的过程或结果。
分块
把长文档切成适合检索的小段。
重排
对检索结果二次排序，提高相关性。
微调
在预训练模型上用特定数据继续训练。
LoRA
低秩适配，低成本微调方法。
蒸馏
用大模型教小模型。
量化
降低模型权重精度以减小体积。
推理
模型生成输出的过程。
Agent
能调用工具、分步完成任务的模型应用。
工具调用
模型按约定格式请求外部函数。
MCP
模型与外部工具连接的协议标准。
多模态
同时处理文本、图像、音频等输入。
OCR
图像文字识别。
语音合成
把文本转成语音。
ASR
语音转文字。
缓存命中
重复前缀命中缓存，降低计费。
批处理
非实时任务打包处理，通常更便宜。
限流
单位时间内的调用次数限制。
降级
主模型不可用时切换到备用模型。
对齐
让模型输出符合人类偏好和安全要求。
红队测试
主动构造攻击输入测试模型安全性。
越狱
绕过模型安全限制的提示技巧。
数据脱敏
移除或替换敏感信息。
私有化部署
把模型部署在自己的服务器上。
知识库
供检索的文档集合。
工作流
把多个模型调用和工具串起来的流程。
多智能体
多个 Agent 协作完成任务。
评测集
用于衡量模型效果的固定题目集合。
A/B 测试
对比两个方案效果的方法。