把「模型好不好」从一句含糊的准确率，拆成一张能看清「错在哪」的混淆矩阵，以及精确率 / 召回率 / F1 这一整套分类评估语言，被问到「你怎么评估模型」时的标准答案素材。 一、这份材料解决什么问题 模型训练完，屏幕上跳出 accuracy: 0.97，然后呢？这个数字既不能告诉你模型错在哪，也不能告诉你错得有多致命。一份 10 类新闻标题分类任务里…

用 GRU + Attention 的 Encoder–Decoder 从零训练一个英译法 seq2seq 模型，跑通"数据清洗 → 双词表 → 截断填充 → 编码器/注意力/解码器 → teacher forcing 训练 → 自回归推理 → BLEU 评估"的完整闭环，它是 day08「Transformer 英译法案例」的对照组基线。 一、这…

NLP 系列 10 天课件的第一课，只干两件事，先把「NLP 要解决什么、怎么算真的解决了」讲成可验收的标准，再把文本 → 张量这条最底层的流水线（分词 → POS/NER → one-hot → word2vec → Embedding）亲手跑一遍，为后面 RNN / Attention / Transformer / BERT 提供全部前置概念…

从"1 bit 能表示两种可能性"出发，一路推到 KL 散度，把蒸馏里那个 soft_loss = F.kl_div(...) 的每个符号、每个参数方向、为什么必须用 KL 而不是 MSE 全部讲透。 一、这份材料解决什么问题 蒸馏的损失函数长这样： \text{loss} = (1-\alpha)\cdot \text{hard\_loss} +…

整门量化课唯一的"手推"环节，用 min-max 方法把 0~1000 压到 int8 的 −128~128，把 scale 和 zero_point 这两个量化的核心参数从头算一遍。算通了这一遍，QAT/PTQ/DQ 的区别才有落脚点。 图注：原图分左右两块。左边是映射关系示意图：上轴是原始实数域（-|max| … 0.0 … +|max|），下…

一张图说清量化三条路线，动态量化（边推理边量化，准但慢）、静态量化（先统计再量化，快但略糙）、量化感知训练 QAT（训练时就模拟量化，让模型主动"扭曲"自己的分布去迎合量化网格）。 图注：原图分左右两栏。左上两块小字对比 动态量化 与 静态量化（数据分布范围什么时候算、精度与效率如何取舍）；左下一大段是 量化感知训练（QAT） 的原理，核心是"伪量…

模型量化最底层的"单位换算表"，一个字节 8 位能表示 256 个数，而 float32 / float16 / int8 分别占 4 / 2 / 1 个字节。搞清这张表，才算真正理解"量化到底省了什么"。 图注：原图左列是逐级变短的方块（8 格 → 4 格 → 2 格 → 1 格），代表不同数据类型占用的字节数；右侧文字依次是四条结论：10100…

这是「提示词工程」这门课的综合落地章，用同一个金融行业场景把 Zero-Shot / Few-Shot / In-context Learning 串成三条完整流水线：金融文本分类、金融信息抽取、金融文本匹配。它的价值不在算法，而在一个可复制的项目模板：角色设定 → 类别/字段 Schema → Few-Shot 示例 → 输出格式约束 → 逐条推…

提示词工程的"语法书"，先用一段话讲清 prompt 是什么，再把 OpenAI 文档提炼成 5 大原则（清晰指令 / 文本参考 / 任务拆分 / 给模型思考时间 / 借助外部工具），每个原则配"反例 vs 正例"的对照案例，可直接背下来用在学习和项目里。 一、这份材料解决什么问题 前面几章（大模型发展史、幻觉问题）回答的是"模型为什么不可靠"，这…

模型已经训好了，应用侧怎么把它变成可靠的产品，以「幻觉」为问题起点，串起提示词工程、模型微调、RAG、AI Agent 四条技术主干，并给出它们的适用边界。 一、这份材料解决什么问题 01-大模型发展史 回答的是「模型是怎么一步一步变强的」：架构（Transformer）、范式（预训练+微调）、规模（参数/数据/算力）三条线共同把 GPT-3、Ch…