master定理理解-掌握主定理原理

就算法复杂度分析里的 Master 定理来说，别把它当成那种死板枯燥的公式推导，把它当成一种直觉，一种在脑子里不断“算账”的逗哏演员。想象你面前有两列火车，左边这列去早了，右边这列去晚了。其他人的行程本来安排得挺紧凑，到了这时候，你突然意识到，原来这两列火车的“延误率”和“发车时差”根本讲不通，彻底没法用乘法口诀去算。
这时候你就需求把两列火车拉出来，一块儿坐下来合计，看是有人能搭顺风车，还是得各自找新家的路。 要是是第一种情况，左边那列火车的延误率（也就是 $a$）明显大于右边的。
这时候你 basically 在问，左边那个大费事能不能解决掉？要是能，那右边剩下的那点费事就是 $b log_ N$；要是不中，那右边剩下的那点费事就是 $c N$。
关键在于，左边那个大费事能不能把你给“解决”了。
要是左边能把你给解决掉，那 $a geq b + c$，右边的那点费事就被你吞了，剩下的就是 $c N$ 那种情况，复杂度是 $N^{c}$。 但要是是第二种情况，左边那列火车根本不把右边那列给吃掉，要么就连没赶上交接班。
这时候你就得单独看右边那列火车的脾气。右边那列火车的延误率 $b$ 和左边没关系，它就是个独立的个体。
这时候你需求比较 $a log N$ 和 $c N$ 哪位更了得。
要是 $c < a/2$（也就是右边那列的负担小于左边的一半），那左边那列火车别看没把你的难题彻底解决，但它把右边的费事给拖慢了速度，最终复杂度变成了 $b log_ N$。 还有一种情况有点魔幻，那就是 $c = a log N$。
这时候左右两列火车简直是一起演戏，互相配合着把工夫压缩成指数级。复杂度就是 $N^{c}$，还是老样子，指数级爆炸。 实际上大量时候，最复杂的模型就是那些“差不多”的情况。
比如两个 $N log N$ 的队列，放在一起对比。
这时候你想想，要是把 $a$ 和 $b$ 加起来，是不是 $a log N + b log N$ 变成了 $(a+b) log N$？这就变成了第一种情况，出于系数 $a+b$ 一般远大于 $1$。
故此，这时候你只需求比较 $a+b$ 和 $c$ 的关系。
要是 $(a+b) > c$，那就按指数级来算。
要是 $(a+b) < c$，那就按对数级来算。 为啥有时候 $a=N$？出于有时候你只需求把 $N$ 除以 2 就能解决大局部难题了。
比如归并排序，要么二分查找。
这时候 $a$ 这个系数实际上代表了 $N/2$。
要是 $a = N/2$，那这实际上就是第一种情况的变体，具体如何解，得看 $a$ 和 $c$ 的具体数值关系。 再举个具体的例子。假设有一个算法，输入规模 $N$，它内部有两套处理逻辑。
第一套逻辑要是运行，耗时是 $N$ 次操作，但每次操作能省下 $b$ 个单位工夫，最终耗时 $b log N$。
第二套逻辑要是不运行，耗时是 $c$ 次操作，每次操作消耗 $a$ 个单位工夫，最终耗时 $a N$。
这时候你要如何判断最终是 $N$ 次，还是 $N log N$，还是 $N^2$？ 这就回到了最核心的那个比较：$ac$ 和 $b$ 哪位大。
要是 $ac < b$，说明就算你跑一遍第二套逻辑，省下的工夫也抵不过第一套逻辑里的开销，那最终结局就是 $b log N$。
要是 $ac geq b$，说明第二套逻辑带来的开销足以抵消第一套逻辑的节省，最终结局就是 $a N$。 这里有一个贼反直觉的现象。在数学推导里，我们一般喜爱 $a=2, b=1, c=2$ 这种形式，出于 2 和 1 的区别就拍板了系统的行为。但在实际应用中，$a$ 和 $b$ 的值往往取挺小的常数，比如 0.99 要么 1.01。
这时候 $a$ 和 $b$ 的细小差异，对最终结局的影响就简直能够忽略不计了。
只要 $a$ 和 $b$ 充足接近，实际上就归于第一种情况的边缘情况，也就是 $a approx 0$。
这时候你只需求比较 $b$ 和 $c$ 即可。 这就引出了 Master 定理最让人头疼的地方：边界情况。当 $a=2$ 时，要是 $b=0$，那同级比较如何算？这时候你就得退一步，看 $2^N$ 和 $N log N$ 哪位更重。
显然 $2^N$ 更重，故此结局就是 $2^N$。但要是 $b$ 是一个细小的正数，比如 $epsilon$，那 $2^N$ 还是远远大于 $N log N$，故此还是 $2^N$。
这种边界情况在实际工程中极少见，出于我们在写代码的时候，一般不会让 $b$ 小到能够忽略不计的地步。 还有一个细节，就是 $a$ 和 $b$ 都是实数的情况。
要是 $b$ 是个无限小的数，而 $a$ 是个有限的数，那 $ac$ 和 $b$ 的比较依然成立。但要是 $a$ 也是个无限小的数呢？要是 $a$ 趋近于 0，而 $b$ 也是个趋近于 0 的数，那么 $ac$ 和 $b$ 的比较就变得贼微妙，彻底取决于它们的相对大小。 最终总结一下，Master 定理实际上就是一个“哪位能赢得战斗”的逻辑题。你拿 $N$ 去和 $a$ 去比，看前者能不能被后者打败。
要是 $ac$ 能打败 $b$，那就是 $b log N$；要是 $ac$ 打不过 $b$，那就是 $a N$。
要是 $a$ 能把 $b$ 给吞掉，那就是 $c N$。
这听起来是不是有点绕？实际上没那么复杂，就是看哪个项的系数更大，要么哪个项的增长速度更快。 在实际写代码要么分析性能的时候，我们极少直接用 $a, b, c$ 这三个符号来写代码。我们一般是根据自己的直觉，要么根据最坏情况下的操作次数，直接写出公式。
比方说，要是一个子难题划分后，子难题数量是 $N/2$，每个子难题执行一次操作，那最坏情况就是 $2^N$。
这时候 $a=2, b=0, c=1$。
这时候你不需求念 Master 定理，直接就能够看出 $a cdot c = 2 cdot 1 = 2 > b = 0$，故此结局是 $2^N$。 还有一种情况，大量时候我们不用具体数字，而是用复杂度类来描述。
比如分治法，一般 $a=2, b=1, c=1$。
这时候 $ac = 1$，而 $b=1$，两者差不多。
这时候你就得看高阶项，结局就是 $N log N$。
要是分治法把 $N$ 分成了 $N/2$ 和 $N/2$，但每个局部执行的工夫也是 $N$，那 $a=2, b=0, c=2$。
这时候 $ac = 4 > b = 0$，结局是 $2^N$。 故此，Master 定理的核心就在于这种“比较”的感觉。它不是要你去背诵一堆公式，而是要你懂得在比较中发现难题，在比较中做出判断。
有时候 $a$ 和 $b$ 贼接近，有时候 $c$ 贼接近 $a$，有时候 $a$ 和 $b$ 都趋近于 0。大量时候，我们只需求把其中一项的系数放大或缩小一点点，就能把系统彻底转变性质。
比方说，要是把 $b$ 放大到 2，那就变成了第一种情况，结局瞬间从 $b log N$ 变成了 $c N$。 这就是 Master 定理的魅力，它不是冷冰冰的数学工具，而是工程师们在面对复杂系统时，用来快速定位“哪条路能走”的直觉导航。
只要你能在脑海里把 $N$ 和 $a$ 拉出来打架，把 $ac$ 和 $b$ 拉出来较量，你就掌握了它的精髓。