一张图说清量化三条路线，动态量化（边推理边量化，准但慢）、静态量化（先统计再量化，快但略糙）、量化感知训练 QAT（训练时就模拟量化，让模型主动"扭曲"自己的分布去迎合量化网格）。 图注：原图分左右两栏。左上两块小字对比 动态量化 与 静态量化（数据分布范围什么时候算、精度与效率如何取舍）；左下一大段是 量化感知训练（QAT） 的原理，核心是"伪量…

模型量化最底层的"单位换算表"，一个字节 8 位能表示 256 个数，而 float32 / float16 / int8 分别占 4 / 2 / 1 个字节。搞清这张表，才算真正理解"量化到底省了什么"。 图注：原图左列是逐级变短的方块（8 格 → 4 格 → 2 格 → 1 格），代表不同数据类型占用的字节数；右侧文字依次是四条结论：10100…

用「BERT = 3 个可训练 Embedding 输入层 + 多层 Transformer Encoder 堆叠，再在第一个位置接一个 fc」这一句话，把 BERT 的输入表示、Encoder-only 双向结构、两大预训练任务（MLM / NSP）和微调范式一次讲清，并直接落到本项目 BertModel + nn.Linear(768, 10)…

训练时，某一步的梯度可能突然变得很大。梯度裁剪通过限制梯度的大小，降低异常梯度对更新过程的冲击，但它不能保证训练一定稳定，也不能代替对数据、学习率和数值问题的检查。 全局范数裁剪怎样计算 假设三个参数对应的梯度为 g=[3,4,0]。它的 L2 范数为： ‖g‖₂ = sqrt(3² + 4² + 0²) = 5 设阈值 c=1，理想化的计算形式是…

在 Hugging Face Transformers 中，TrainingArguments 描述训练规则，Trainer 将模型、数据、批处理与评估逻辑组织成训练流程。两者配合可以减少重复代码，但数据格式、评估设计和硬件配置仍需要使用者负责。 先看各组件的分工 组件 职责 tokenizer 把文本转换成模型输入 Dataset 提供样本与标签…

1. 先建立问题地图 例如，把“我昨天去了公园”翻译成英文：系统先把文字转成 token ID，再得到向量；编码器处理源句，解码器结合已经生成的前缀预测下一个 token，直到结束标记。研究问题随之出现：词与词如何共享统计信息？前文如何保留？生成某个词时如何找到相关输入？训练与推理能否并行？ 阶段表示或信息通路解决的问题仍需处理的局限One-hot…

统一框架 输入数据 → 表示与预处理 → Backbone / Encoder 提取特征 → 多尺度或全局信息交互 → 任务 Head / Decoder → logits、框、mask、深度或重建图像 → loss → backward → 参数更新 无论图片多复杂，我都可以问：输入输出、旧瓶颈、新数据流、训练监督、推理代价。 资料索引 基础、并…

研究定位 检测与分类主要输出语义；这一组任务要恢复高分辨率像素、透明度、深度或未来/中间帧，因此损失函数、评价指标和不确定性都不同。 任务谱系 超分辨率：RDN / Meta-SR RDN 用密集连接与局部、全局特征融合恢复细节。Meta-SR 根据目标像素位置和放大倍率生成重建权重，尝试支持任意倍率。要注意：生成的高频纹理不一定是真实细节；PSN…

研究定位 ViT 把图像切成 patch，把每个 patch 投影成 token。Transformer 因此可以处理图像，但 token 数量会直接决定注意力成本。 ViT 模型比较 ViT：全局 patch 自注意力 若图像为 H×W、patch 为 P×P： $$ N=\frac{HW}{P^2} $$ [B,3,H,W] → patchif…

研究定位 语义分割只判断像素属于哪一类；实例分割还要区分同类的不同个体。因此模型既要找到对象，也要为每个对象生成独立 mask。 Mask R-CNN 系列 表示方法 RoI 内像素图：Mask R-CNN / PointRend Mask R-CNN 在检测框的 RoI 特征上预测 mask，RoIAlign 避免粗糙量化造成空间错位。Mask …