AI量化学院AIQUANT ACADEMY
菜单
科学评估

漂亮策略背后的风险:从回测曲线到可信验证

根据AI量化邹老师《漂亮策略背后的风险》公开课,梳理样本外筛选、训练窗口、因子依赖、试验次数与真实交易约束,建立可复查的策略验证清单。

本文要点

样本外数据若反复参与方案选择,就不能继续承担完全独立的最终验证职责。
可信验证要同时覆盖训练窗口、因子依赖、搜索过程、成本约束和生命周期,不能只看一条曲线。
一条持续向上的曲线,可以证明某组历史规则产生了某种历史结果,却不能单独说明这些规则为什么有效、研究过程中尝试过多少版本,以及下一段行情里是否仍具备交易价值。AI量化邹老师在《漂亮策略背后的风险》公开课中,将这些隐藏条件作为科学评估的起点。
阅读课件时,重点不是寻找一个可以直接照搬的参数,而是观察证据怎样从单张绩效图扩展到数据、训练、筛选、组合与运行的完整过程。本文围绕课件中的研究问题整理验证路径,不将演示图中的成绩写成可复现收益承诺。

样本外结果,是否已经参与了研究选择?

把一段数据标成样本外,只说明它在某一次拟合中没有直接进入训练。若研究者反复查看这段结果,并据此更换因子、模型、训练起点或参数,它仍然参与了方案选择,不能继续被当作完全独立的最终检验。
因此需要保留试验账本:每轮使用的数据截止日、训练窗口、候选集合、参数版本、选择依据和查看过的评价区间。模型选择使用的验证集,与最后一次独立复核的测试集,应承担不同职责。测试结果一旦被用于继续改进,后续就需要新的独立证据。
课件提出的“只看样本外表现是否足够”,应与训练窗口敏感性一起检查。不能仅因为某一次切分给出漂亮结果,就认为整个研究过程已经摆脱了选择偏差。

改变训练起点,结论是否仍然成立?

保持数据处理、交易规则与评价口径一致,比较不同训练起点、长度及滚动安排,可以发现结果是否依赖某一段特殊市场。需要同时观察信号方向、换手、风险暴露与收益来源,而不只是最终收益数字。
若某个设置明显胜出,要进一步解释它与市场状态、样本数量和模型适应性的关系。只挑出最好的一组展示,会把稳健性实验重新变成择优回测。更合适的交付物,是预先定义的窗口方案、全部结果及结论改变的条件。
不同窗口共享大量行情,结果之间并不独立。它们可以作为敏感性证据,但不能把多个相近设置的成功次数简单视为多次独立证明。

组合的稳定,是否依赖少数因子?

课件进一步追问:表现改善来自一组互补信息,还是少数因子、单一方向或特定市场阶段?因子数量很多,也可能只是在重复暴露同一种风险。
可以检查因子或因子家族的贡献集中度、去掉关键家族后的变化、不同阶段的相关结构,以及加入现有组合后的边际贡献。消融比较需要保持风险预算与成本口径一致,避免因仓位大小变化而误判信息价值。
预测指标、策略收益和组合表现也应相互解释。例如预测改善不一定转化为可交易收益;收益上升也可能主要来自持仓方向或暴露变化。研究记录应说明从预测到持仓的映射,而不是把几个指标放在一起就视为相互印证。

搜索越多,越要记录研究自由度

海量候选带来了更高的发现效率,也增加了偶然结果被选中的机会。尝试过哪些窗口、阈值、因子组合和模型,本身就是评价结果的一部分。忽略失败试验,只保留最终版本,会低估筛选过程产生的过拟合。
在允许的数据范围和研究任务内预先约束候选空间、筛选标准与搜索预算,再选择适合数据依赖结构的统计评估方法,比事后补一个显著性数字更有解释力。方法的假设、样本长度及相关性条件需要一并报告。
这也是海量因子科学评估的课程重点:研究不能停在“生成更多公式”,还要判断候选是否有独立信息、是否经得起扰动,以及是否值得进入下一阶段的资源投入。

从研究曲线走向可交易与可运营的判断

回测到实际交易之间,还隔着信号形成时点、数据可得性、交易成本、滑点、成交限制与容量。若这些条件改变,原来漂亮的曲线可能无法以相同方式实现。应记录假设,并观察成本或成交约束变化后的结果。
课件把因子放入准入、观察、降权、失效等运营状态,而不是一次评分后永久保留。状态切换需要规则、复核记录和后续监控;发生偏差时,还需区分数据故障、执行差异和研究假设失效。
一个可审查的结论,应回答:结果依赖什么、哪些证据支持继续、什么情况要求降低权重或停止使用。漂亮曲线由此变成一个待检验的研究对象,而不是终点。

对照公开课,再进入系统学习

本文依据《漂亮策略背后的风险》33页公开课课件中的核心研究部分整理。可在学院公开课课件栏目查看原始教学内容,对照训练窗口、因子依赖、可信验证与生命周期等主题阅读。
因子工程设计卓越班侧重候选生成、研究记录和可信审计;因子工程评估大乘班侧重海量因子的科学评估、稳健性、样本外证据、生命周期及组合研究。先定位自己的研究缺口,再从下方课程入口查看课程安排。

资料与阅读边界

本文为方法讨论与教学说明。文中示例不等于经独立验证的收益实证;如需具体数据、计算口径或资料来源,可通过官方渠道提出核对请求。

历史结果不代表未来表现。使用前请检查数据时间边界、样本独立性、交易成本及适用条件。

关键结论

  • 样本外数据若反复参与方案选择,就不能继续承担完全独立的最终验证职责。
  • 可信验证要同时覆盖训练窗口、因子依赖、搜索过程、成本约束和生命周期,不能只看一条曲线。

关联课程

如果你想把这篇文章里的方法系统化学习,可以从这些课程继续深入。

如果你准备把本文的研究想法组织成可复现流程,可了解指标合同、候选生成与Replay相关课程内容。

如果你希望进一步学习本文涉及的验证问题,可了解科学评估、样本外检验与生命周期管理课程。

高级因子工程科学评估体系课程封面高阶
高级评估

因子工程评估大乘班

从统计过拟合诊断到 Gate 与生命周期、白箱因子工厂、时间结构与组合版 CSCV 验证、HealthScore 和滚动元模型,形成科学评估与动态组合的完整路径。

12小时12讲