理解语言模型 / 知识库

07 · 训练、推理与适配方法

分清提示、RAG、微调与强化学习分别改变了什么。

理解语言模型原创导读

本站原创入门导读与合成教学示例。原始资料核实:2026-09-05。建议先读:06 · 提示设计与结构化输出。

理解概念

训练更新模型参数,推理使用已有参数生成结果。预训练学习广泛模式,后训练调整任务能力与行为。推理时增加搜索、工具验证或候选比较,通常不等于模型在本次调用中更新了参数。

提示优化改输入;RAG 引入外部证据;微调通过训练改变参数;强化学习依据奖励优化策略。为校园规章更新知识,先考虑带版本的检索,而不是每次重训。微调需要合法、足量且质量可检查的数据,也要保留独立测试集。研究里的提升依赖训练、环境和评价设置,不能直接套用到任意 Agent。

一个最小例子

需求首选起点验证方式
输出字段经常缺失输出契约与校验格式通过率
规章每月更新版本化 RAG引用正确率
固定任务风格长期不稳先提示基线,再评估微调保留集表现
解题程序有自动判分器候选生成与执行验证测试通过率与成本

动手练习

给“最新社团安排查询”和“生成固定格式实验报告”各选择一条路线,写出不采用另一方法的成本原因。列一个模型能力不足与一个数据缺失的失败,避免混为一谈。

验收与预期结果

能解释哪些操作改变参数、哪些只改变本次上下文。计划中有独立验证集,而不是只展示训练样例。

  • 我能解释输入、过程与结果。
  • 我保留了一个失败例与运行记录。

常见误区

更长推理不总带来更好答案;奖励可被钻空子。模型升级应重跑回归集,不能仅凭发布文案判断。

延伸阅读

以下是相关方向的原始资料;本站练习不是官方课程作业或逐字翻译。

课程状态与先修说明 · 核心术语

理解需要时间,记录让每一步都有迹可循。

回到学习路线图