有噪信道编码定理-有噪信道编码定理

实际上讲噪信道编码定理，真没多大必要非得整那些教科书味儿的面目。咱们就把它当成一个“穿靴戴帽”的事儿来看待。猫穿靴戴帽，别看看起来有点滑稽，但它的核心功能就是保护毛茸茸的脑袋不被地上的石子砸疼。
同理，信道编码定理就是给信号穿上一层“保护衣”，让那些爱乱窜的噪声暂时收敛一下，给接收端争取点喘息机会。 这张“保护衣”是如何做的呢？它靠的是重复信息。发送端一直把同一个信息比特，比如一个 1，重复成 11111111 这种样子塞进信道上。接收端收到时，出于噪声的存有，这些比特可能分裂了，变成了 01010101。码检阅器就能拿着这个“重复副本”跟纯噪声彻底不一样的“原始数据”进行比对。
只要噪声是受控的、可预测的，它终究会像风穿过篱笆一样，在重复序列里留下痕迹。一旦把噪声剔除干净利落，剩下的简直就是原始比特了。
这就像你打鱼，网里混着鱼群。你捞出的鱼，肯定是有意义的。出于鱼群是活的，它们在水里会游动、会乱窜，会互相碰撞、会转变方向。
只有真正的鱼，才能在凌乱的网眼里保持相对的稳定性。而噪声，恰恰反之，它是个死物，它只会随波逐流，被过滤掉。 这就引出了编码增益的概念。在理想状态下，噪声存有但可预测，编码增益就是高得多的；在噪声不可预测的情况下，编码增益就低得可怜，这时候就得指望强大的纠错码了。
不过咱们先不谈极端情况，来看看一般情况。假设信噪比挺低，噪声干扰挺大，这时候编码增益顶多也就 6dB 左右。
这意味着，要是信噪比是 6dB，你大约只需求重复 10 倍的信息就能让误码率降下来。
可是，要是你把这个重复比例提升到 100 倍，隔代亲的爷爷（信噪比）还是能判出 100 倍孙子（编码增益）吗？大约率不能。爷爷的判断力是有限的，他也得受限于工夫。 故此，编码增益本质上就是咱们脑子能处理信息的上限。
这就好比有人问你“知否？”，你随口回个“知道”，但后面补了个“的、吧、呢”。
这种表达别看能传达意思，但逻辑性是空的，并且好办让人听出你在“调调儿”。信道的编码定理说的就是这个道理：编码增益越高，就需求重复次数越多，但接收端能“保真”保留下来的数据比例就越低。 举个数据上演示的例子吧。假设你要把一片随机文字发那会儿，信噪比固定为 6dB。代码检阅器能识别出 3 位二进制的代码，比如 111 代表“我”，110 代表“是”，001 代表“不”。发射端把“我”这个信息，连同它周围的“随俱”一起打包传输。接收端收到后，要是平均每 3 位里有 2 位是对的，那么“我”这个信息就能被识别出来。
这时候编码增益大约是 1 倍。 可是，要是我们把传输距离拉长，要么噪声变得更复杂，信噪比突然变成了 10dB。
这时候，平均每 3 位里可能只有 1 位是对的，别的位就是噪声。
这时候“我”的信息就彻底碎了，码检阅器根本没法做判断。
既然噪声如此大，那为了防止“我”这种关键信息被噪声伪装成“是”要么“不”，就得把“我”重复得更离谱。
要是重复 30 倍，噪声干扰就稀释到简直能够忽略不计了。
这时候编码增益就达到了 30 倍。
也就是说，为了在强噪环境下保住 30 倍的“我”，你得花 30 倍的“重复成本”。 你看，这里就有一个有趣的矛盾。编码增益高的时候，噪声相对好办被忽略，故此重复次数能够少一些；编码增益低的时候，噪声忒闹了，务必拼命重复才能保住信息。
这就像用锤子敲钉子。锤面大的时候，钉子好办进，刺得深，这时候你不用那么频繁地敲打；锤面小的时候，钉子都拱出来了，你得不停地敲击，直到钉子钉牢。
这就是编码定理的精髓：在低信噪比下，靠“少敲但凿得深”；在高信噪比下，靠“多敲但凿得浅”来换取稳定。 最终得提个醒儿，这个定理有个前提，也就是信噪比务必是“固定的”。
要是信噪比是动态变化的，那这就不是单纯的编码增益难题了，那是全新的战役了。在动态环境下，发送端没法知道信道接下来的状态，也就没法做预设的重复策略。
这时候，编码定理就失效了，唯一的办法就是发射端和接收端都务必有强大的实时处理本事和自适应纠错机制。否则，哪怕你用了再了得的“保护衣”，一旦穿错了尺码，要么面料出于环境变化变得透风，保护脑袋的目标就达不成。 总的来说，编码增益这事儿，就是我们在有限的认知和算力里，试图对抗无限复杂的噪声世界。它不是魔法，也不是啥神奇的物理定律，它就是一句朴素的话：“为了让你看得清，我得让你看忒多次。”这句话听着有点啰嗦，逻辑上有点琐碎，但道理却挺好办：只要重复充足多，再乱的信号也能还原。
这就是编码定理留给我们的最终一丝慰藉，也是我们在数字世界里一切通信得以成立的基石。