当向量数量达到百万级，检索系统首先遇到的困难往往是内存。一个 128 维 float32 向量需要 512 字节；一百万个向量，仅原始数值就约占 512 MB，还没有计算 ID、索引和元数据。 乘积量化（Product Quantization，PQ）用多个小码本近似表示高维向量，在存储成本、距离计算成本与检索精度之间做取舍。 从一个大问题拆成多个…

整理学习笔记时，我发现，单独记住 BM25、RRF、Redis 或 Trainer 的定义并不难，真正容易混淆的是：它们分别解决哪个问题，又怎样放进同一条系统链路。本文把这些知识点放到一个教育知识库问答的例子中，补上计算过程、使用边界和工程细节。 本文中的系统流程是教学设计，数值算例用于解释算法，不代表线上业务效果。模型和数据库代码需要相应依赖与运…

1. 先建立问题地图 例如，把“我昨天去了公园”翻译成英文：系统先把文字转成 token ID，再得到向量；编码器处理源句，解码器结合已经生成的前缀预测下一个 token，直到结束标记。研究问题随之出现：词与词如何共享统计信息？前文如何保留？生成某个词时如何找到相关输入？训练与推理能否并行？ 阶段表示或信息通路解决的问题仍需处理的局限One-hot…

链式提示（Prompt Chaining） 一、概念 把一个复杂任务拆成多个子任务，每个子任务一个提示词，上一步的输出作为下一步输入的一部分，串成一条链输出最终结果。 本质：串行拆解——不是用一个超详细的大提示硬扛，而是"分而治之"，每步只做一件明确的子操作。 二、类型 维度单个复杂提示链式提示任务复杂度LLM 可能撑不住靠拆分逐步完成透明度黑盒，…

检索增强生成（RAG）：让智能自然语言处理模型的创建更加高效 Meta AI 博客 · 2020 年 9 月 28 日 作者：Patrick Lewis、Ethan Perez、Aleksandra Piktus、Fabio Petroni、Vladimir Karpukhin、Naman Goyal、Heinrich Küttler、Mike L…

统一框架 输入数据 → 表示与预处理 → Backbone / Encoder 提取特征 → 多尺度或全局信息交互 → 任务 Head / Decoder → logits、框、mask、深度或重建图像 → loss → backward → 参数更新 无论图片多复杂，我都可以问：输入输出、旧瓶颈、新数据流、训练监督、推理代价。 资料索引 基础、并…

研究定位 检测与分类主要输出语义；这一组任务要恢复高分辨率像素、透明度、深度或未来/中间帧，因此损失函数、评价指标和不确定性都不同。 任务谱系 超分辨率：RDN / Meta-SR RDN 用密集连接与局部、全局特征融合恢复细节。Meta-SR 根据目标像素位置和放大倍率生成重建权重，尝试支持任意倍率。要注意：生成的高频纹理不一定是真实细节；PSN…

研究定位 ViT 把图像切成 patch，把每个 patch 投影成 token。Transformer 因此可以处理图像，但 token 数量会直接决定注意力成本。 ViT 模型比较 ViT：全局 patch 自注意力 若图像为 H×W、patch 为 P×P： $$ N=\frac{HW}{P^2} $$ [B,3,H,W] → patchif…

研究定位 语义分割只判断像素属于哪一类；实例分割还要区分同类的不同个体。因此模型既要找到对象，也要为每个对象生成独立 mask。 Mask R-CNN 系列 表示方法 RoI 内像素图：Mask R-CNN / PointRend Mask R-CNN 在检测框的 RoI 特征上预测 mask，RoIAlign 避免粗糙量化造成空间错位。Mask …

研究定位 目标检测都在预测类别和边界框，但“谁负责预测一个目标”不同：anchor-based 由预设框负责，anchor-free 由位置/中心负责，DETR 则由 object query 负责。 方法演化 YOLOv3：多尺度 anchor-based 检测 YOLOv3 在多个特征尺度上预测 anchor 的位置偏移、objectness …