45奥卡姆剃刀(Occam's Razor)

Occam's Razor通用性 4 · 解释力 3 · 决策价值 4 · 总分 11证据 中

费曼学习法:讲给十二岁的孩子听

早上起来,你发现院子里的草地湿了。

两种解释:

你信哪个?

当然是 A。为什么?因为 A 需要假设的东西最少——只需要"下过雨"这一件事。而 B 需要假设飞机、或邻居的怪异行为、或水管爆裂又被修好。

不是说 B 不可能,而是在两者都能解释同一现象时,选那个需要假设最少的。

这就是奥卡姆剃刀,14 世纪逻辑学家奥卡姆的威廉提出的原则:如无必要,勿增实体。

注意它的精确表述:"如无必要"——只有在两种解释解释力相同时,才用简洁性来决胜负。如果复杂的解释能解释更多现象,那它就更该被采纳。

定义

奥卡姆剃刀指:在解释力相同的情况下,应该优先选择假设更少、更简单的那个解释。

它的常见误区是把"简单"理解成"更容易理解"。准确的判据是:

第二条尤其重要,它通向奥卡姆剃刀的现代形态:过拟合(Overfitting)

过拟合:一个模型如果复杂到能完美拟合所有已有数据,它往往不是捕捉到了规律,而是把噪声也当成了规律。它在历史数据上表现完美,在新数据上一塌糊涂。

判据很实用:一个理论如果灵活到能解释任何结果,它就什么都没解释。 → 见 #40 证伪原则

一句话

解释力相同时,选假设最少的那个——但"如无必要"是前提:复杂若能解释更多,就该选复杂的;而一个灵活到能解释一切的理论,不是更深刻,是过拟合。

例子

过拟合是奥卡姆剃刀在当代最重要的应用形态。

假设你用过去 20 年的数据建了一个预测股市的模型,它有 50 个参数,在历史数据上的拟合度接近完美。你会用它吗?

不该用。 因为 20 年的数据里,真正稳定的规律可能只有两三条(估值、趋势、季节性),而其余的"规律"都是那段时间特有的噪声。50 个参数把噪声也拟合进去了,于是模型在历史里是天才,在未来是废物。

检验方法只有一种:样本外测试。留一部分数据不参与建模,用它来检验。任何没有经过样本外检验的模型,都不该被信任。

这个逻辑同样适用于:

反过来说,奥卡姆剃刀也有边界:如果一个复杂解释能解释更多、且能被独立验证(比如"细菌致病"最初比"瘴气致病"更复杂,但它能解释更多现象并做出可检验的预测),那就该选复杂的。简洁是平局时的决胜条件,不是压倒性条件。

常见误用

  1. 不要用它来逃避复杂性。 这是最严重的误用。当现实确实复杂、确实需要多个因素才能解释时,硬套"最简单的解释"就是简化过度奥卡姆剃刀的前提是"解释力相同"——若简单的解释解释不了全部现象,它就不适用。
  2. "简单"不等于"容易懂"。 相对论的数学很复杂,但它的假设极少(两条基本原理)。判断简洁性要看假设数量,不是看理解难度。
  3. 别把它当成真理的保证。 奥卡姆剃刀是一条启发式原则,不是逻辑定理。简单的解释错了的情况比比皆是("地球是平的"更简单)。它提高的是先验概率,不提供确定性。→ 见 #6 贝叶斯更新
  4. 警惕用它当辩论武器。 "你这个太复杂了"听起来很有力,但如果对方的理论能解释更多现象,复杂就是必要的。要求对方说明"多出来的假设解释了什么",比简单喊"奥卡姆剃刀"更有信息量。
  5. 注意它在不同领域的权重不同。 在物理学里,简洁性有很强的指导力;在生物学、历史、社会现象里,世界本身就是复杂且充满偶然的,过度追求简洁会导致严重失真。

交叉引用

→ 见 #40 证伪原则 · → 见 #7 地图≠疆域 · → 见 #21 肥尾风险 · → 见 #6 贝叶斯更新 · → 见 #22 第一性原理