RAG标准流程 RAG = 模型 + 相关已拆分的文档片段 -》生成可靠回答 Step 1 索引 结构化、非结构化资料，经由人工精处理后，做成源知识库。 word、ppt、pdf、图片等 能用行列表格标识的是结构化数据 人工处理异常值、重复值 文本提取&文本分块。 转化为纯字符串 把字符串分成文本区块chunk embedding词向量嵌入…

RNN RNN(循环神经网络)其实核心思想很简单:普通的神经网络每次处理数据都是独立的、互不相关的,而RNN会把"记忆"从上一步传递到下一步,这样就能处理像句子、语音、时间序列这种有先后顺序的数据。 几个关键点帮你理解: 1. 核心机制 每个时间步都会接收两样东西:当前的输入(比如句子里的一个词),以及上一步传下来的"隐藏状态"(可以理解成到目前为…

简述 Transformer是现今所有LLM的底层架构，作为序列模型彻底抛弃了RNN的循环结构，完全依赖注意力机制。 Transformer原始架构由多层编码器和多层解码器两个部分组成，其内部和连接引入了三种多头注意力来保证序列之间的语义性，又有逐位前馈神经网络来保证每个词语在每个序列位置中的特征。在外部引入了位置编码让模型感知语序，利用残差连接和…

1. 深度学习基础 深度学习是机器学习的一个分支，以人工神经网络为核心模型结构，通过多层非线性变换自动学习数据特征。 主要特点 自动提取特征，减少人工特征工程 依赖大量数据和较强计算能力 能处理复杂的非线性关系 可解释性相对较差 常见模型 ANN：人工神经网络 CNN：卷积神经网络，常用于图像任务 RNN：循环神经网络，常用于序列任务 Transf…

深度学习简介 1.1 什么是深度学习 定义：深度学习（Deep Learning）是机器学习的分支，是一种以人工神经网络为架构、对数据进行特征学习的算法。其中的"深度"指网络中使用多层结构。 核心思想：通过模仿人脑的神经网络来处理和分析复杂的数据，从大量数据中自动提取复杂特征，擅长处理高维数据（图像、语音、文本）。 与机器学习/人工智能的关系：机器…

🤔我们如何判断一个人是否在思考？语言，表情，回忆……我们无法直接阅读别人的内心，这是一个哲学问题。 “曾经有一份真诚的爱情放在我面前，我没有珍惜，等我失去的时候我才后悔莫及，人世间最痛苦的事莫过于此……如果上天能够给我一个再来一次的机会，我会对那个女孩子说三个字：我爱你。如果非要在这份爱上加上一个期限，我希望是……一万年……” 这是星爷电影的一段金…

在注明出处的前提下，Google 特此授权仅出于新闻或学术目的复制本文中的表格与图表。Provided proper attribution is provided, Google hereby grants permission to reproduce the tables and figures in this paper solely fo…