当向量数量达到百万级，检索系统首先遇到的困难往往是内存。一个 128 维 float32 向量需要 512 字节；一百万个向量，仅原始数值就约占 512 MB，还没有计算 ID、索引和元数据。 乘积量化（Product Quantization，PQ）用多个小码本近似表示高维向量，在存储成本、距离计算成本与检索精度之间做取舍。 从一个大问题拆成多个…

整理学习笔记时，我发现，单独记住 BM25、RRF、Redis 或 Trainer 的定义并不难，真正容易混淆的是：它们分别解决哪个问题，又怎样放进同一条系统链路。本文把这些知识点放到一个教育知识库问答的例子中，补上计算过程、使用边界和工程细节。 本文中的系统流程是教学设计，数值算例用于解释算法，不代表线上业务效果。模型和数据库代码需要相应依赖与运…

链式提示（Prompt Chaining） 一、概念 把一个复杂任务拆成多个子任务，每个子任务一个提示词，上一步的输出作为下一步输入的一部分，串成一条链输出最终结果。 本质：串行拆解——不是用一个超详细的大提示硬扛，而是"分而治之"，每步只做一件明确的子操作。 二、类型 维度单个复杂提示链式提示任务复杂度LLM 可能撑不住靠拆分逐步完成透明度黑盒，…

检索增强生成（RAG）：让智能自然语言处理模型的创建更加高效 Meta AI 博客 · 2020 年 9 月 28 日 作者：Patrick Lewis、Ethan Perez、Aleksandra Piktus、Fabio Petroni、Vladimir Karpukhin、Naman Goyal、Heinrich Küttler、Mike L…

RAG标准流程 RAG = 模型 + 相关已拆分的文档片段 -》生成可靠回答 Step 1 索引 结构化、非结构化资料，经由人工精处理后，做成源知识库。 word、ppt、pdf、图片等 能用行列表格标识的是结构化数据 人工处理异常值、重复值 文本提取&文本分块。 转化为纯字符串 把字符串分成文本区块chunk embedding词向量嵌入…