把"一棵树不靠谱"变成"一片森林很靠谱",Bagging / Boosting 两大流派 + 随机森林 / AdaBoost / GBDT / XGBoost 的完整推导;随机森林是新闻分类项目 TF-IDF 基线的基线模型。 一、这份材料解决什么问题 单个模型有天花板:决策树太浅欠拟合、太深过拟合,线性模型处理不了非线性。集成学习(Ensembl…
一张「机器学习全景地图」,从 AI/ML/DL 的概念关系、数据三要素、建模流程,到 KNN / 线性回归 / 逻辑回归 / 决策树 / 集成学习 / K-Means 六大算法族,再加一个走完闭环的时间序列案例(南方电网电力负荷预测)与求职工程环节(Git、简历、求职沟通)。 一、这份材料解决什么问题 它回答的不是「某个算法怎么写」,而是评审者最想…
用「信息熵 → 信息增益 → 信息增益率 → 基尼指数」四条主线讲透 ID3 / C4.5 / CART 三代决策树,补齐连续值处理、回归树、剪枝三块工程细节,最后自然过渡到随机森林,也就是新闻分类项目里 TF-IDF + 随机森林 那条基线的单棵树底座。 一、这份材料解决什么问题 决策树是整个树模型家族的原子单元。随机森林、GBDT、XGBoos…
一份「上手即用」的 FastText 工程课,用 train_supervised() / train_unsupervised() 两个 API 覆盖文本分类与词向量两条线,并在原理层面补上层次化 Softmax 与负采样这两条「高效输出层」路线。 一、这份材料解决什么问题 在新闻分类项目这类新闻标题分类项目里,四段式技术路线是 TF-IDF +…
一份「数据 → 特征 → 增强」的文本预处理施工手册,上半篇用五个统计动作把语料的毛病看出来(标签均衡、长度分布、语料质量),下半篇把原始文本变成模型能吃的等长数值张量(n-gram、截断补齐),外加回译增强和三个扩展专题(TF+Cosine / SBERT / FastText Subword)。 一、这份材料解决什么问题 day01《自然语言处…
一张 fastText 训练参数的速查对照表,把"每个旋钮拧了会发生什么、默认值多少、什么时候该拧"摊平在一页里,是《理解 FastText 原理》那份课件的"末页操作手册"。 一、这份材料解决什么问题 上一份材料《【理解】FastText 原理》讲的是"为什么快、为什么对中文有效",词袋、char n-gram、哈希桶、词向量平均。但真正把模型跑…
把「模型好不好」从一句含糊的准确率,拆成一张能看清「错在哪」的混淆矩阵,以及精确率 / 召回率 / F1 这一整套分类评估语言,被问到「你怎么评估模型」时的标准答案素材。 一、这份材料解决什么问题 模型训练完,屏幕上跳出 accuracy: 0.97,然后呢?这个数字既不能告诉你模型错在哪,也不能告诉你错得有多致命。一份 10 类新闻标题分类任务里…
NLP 系列 10 天课件的第一课,只干两件事,先把「NLP 要解决什么、怎么算真的解决了」讲成可验收的标准,再把文本 → 张量这条最底层的流水线(分词 → POS/NER → one-hot → word2vec → Embedding)亲手跑一遍,为后面 RNN / Attention / Transformer / BERT 提供全部前置概念…
FastText 是「人工设计特征 + 只有两层可训练参数」的极速文本工具,它全部的性能红利都押在三件事上,子词 n-gram 的 Hash 桶、CBOW 式向量平均、层级 Softmax。 一、这份材料解决什么问题 在新闻分类项目的四棒接力里,TF-IDF + 随机森林 → FastText → BERT → LLM 是一条成本递增、精度递增的阶…
按结构是否被预先定义把数据切成三类(结构化 / 半结构化 / 非结构化),并给出每一类怎么读、怎么算、配什么算法,整条新闻分类流水线的第 0 步。 一、这份材料解决什么问题 任何 AI 项目的第一步都不是选模型,而是看看手里拿的是什么数据。同样一句"用户信息",存成 MySQL 表、存成 JSON、还是散落在一份 PDF 合同里,后面要做的事完全不…