阶段8树模型与特征工程●●●●●

决策树解剖：一棵树的成长日志

我的掌握程度：

q-727精讲

先掌握这个答案

成长算法：从根节点开始，贪心搜索「哪个特征、哪个阈值」使分裂后子节点最「纯」（回归树用方差减少、分类用基尼/信息增益）——递归直到停止条件（样本太少/纯度足够/深度到限）。金融适配性：①交互自动发现：「换手高且动量弱→看空」由两层分叉天然表达（线性模型需手工构造交互项）；②非线性阈值：树按切点分段——涨跌停、除权等制度性断点天然契合；③免量纲：树只比大小不比尺度——因子不用标准化（q-239/240的争论在树下终结）。过拟合与救法：单棵树 unlimited 生长=把每个样本背下来（叶子=单样本）；森林（平均多棵抖动的树）/提升（串行纠错）都是对单树记忆化的对抗——q-728/729的两条路线。

先读结论，再核对下方使用边界；数字例题为教学情景，涉及实际行情与规则时请核对原始来源。

从理解到使用

先赢过一个简单基线

固定数据与验证，比较等权、线性模型或朴素预测，再评估复杂模型的边际收益。记录重训练频率、预测延迟、漂移和费用；更高拟合分数不等于更高净收益。

本阶段实战方法 · 把验证流程当作模型的一部分

训练选股模型或使用另类数据时，先保证训练过程没有接触预测时不可得的信息。

定义每个样本的特征可得时间和标签覆盖区间，再按预测场景设计时间切分。
归一化、缺失填充、特征选择和调参只在训练集拟合；重叠标签要按实际区间purge。
用朴素基线和多段滚动样本外比较，报告成本、稳定性、漂移与全部实验次数。

使用边界

排行榜或验证集反复用于挑模型后也会过拟合；留一份最终测试集。
随机切分不是所有问题都禁止，但金融未来预测必须尊重时点和标签重叠，说明验证目标。

不懂的术语：涨跌停方差 / 标准差（Variance / Std）过拟合（Overfitting）因子（Factor）动量（Momentum）特征（Feature）决策树 / 随机森林 / XGBoost / LightGBM

背景 · 从一个困惑说起

GBDT/随机森林的每一片叶子都长在同一棵原型上：决策树。理解一棵树怎么「决定」在哪里分叉，就理解了整个树家族的语言——也拿到了打开特征重要性、SHAP、树结构可视化的钥匙。

由此产生的问题

一棵树的成长算法（分裂准则/贪心搜索/停止条件）？为什么树天然适合金融因子（交互/非线性/免标准化）？单棵树为什么会过拟合、森林怎么救？

核心概念

为什么需要它

①读懂黑箱的第一层：特征重要性=各分裂的增益合计、SHAP=每个样本在树里的路径贡献——都建立在对分裂机制的理解上；②与线性模型的对照意识：什么时候树赢（交互/阈值效应）、什么时候输（外推——树不能预测训练范围外，线性可外推）——模型选择的依据；③调参的地基：min_data_in_leaf管「叶子的最小民主」、num_leaves管复杂度——参数背后都是这棵树的成长规则。

实际应用场景

可视化一棵小树（max_depth=3, plot_tree）：第一层分裂常是最强因子、第二层是交互——一张图就是一份因子结构的免费报告。

与之前知识的联系

q-726（家族概述）的单体解剖；q-728/729（森林/GBDT）是它的两种群体战术；q-719（SHAP，速览版）的机制基础；q-734（特征工程）为树提供原料。

⚠ 常见误解

树能外推：树的本质是「分段常数」——特征超出训练范围时只会输出边界值（利率到历史新高时树「无言以对」）——外推需求留给线性项
分裂越深越准：深度=记忆度——深树的训练分高是背诵不是理解（q-713第一信号）；森林/提升的智慧恰在限制单树
特征重要性高=因果：重要性=「这列被用来分叉多」——它是预测贡献不是因果证据（q-225的老提醒在树世界重播）

🤖 AI导师

导师会先检查你的前置知识（树模型概念、IF-THEN规则），再用案例、公式和代码帮助理解。此功能需要先启用服务。