通信理论(卷名：电子学与计算机)
theory of communication
实现C.E.仙农的理想通信系统的各种理论问题。仙农的信息论在规定了信源和信道概率特性的基础上，解决了理想编、译码器的存在性问题。但是，具体分析实际信源和信道以及具体实现编、译码器，还涉及到许多技术性的理论问题，这就是通信理论的主要研究对象。
通信理论的形成始自1928年R.V.L.哈特利和H.奈奎斯特分别提出的信息概念和信息率与频带的关系，1942年N.维纳和1956年В.А.卡切尼可夫各自引用统计观点来说明噪声和信号特性，1948年仙农系统地提出了信息理论。这些理论被认为是近代通信理论的基础。数字技术，尤其是计算机技术的发展，对通信起着越来越大的影响，一方面它们使通信理论的许多原理得以实现，另一方面又提出许多待探讨的理论问题。
通信理论的范围相当广，它涉及仙农的信息论、信源和信道分析中的概率论和随机过程理论，以及形成信道的电磁波理论，如电波传播理论、电磁兼容和干扰理论等。编码器和译码器理论是通信理论的重要部分。编码器是指从信源符号到适合信道传输的符号之间的全部变换设备，分为信源编码器和信道编码器。译码器是指从信道到信宿(信息接受者)间的全部反变换设备。设计这些设备的主要目的是提高通信的有效性和可靠性，因而通信理论研究的主要问题在于降低信源的信息率，充分利用信道和提高通信质量。
降低信源信息率 无失真地传输模拟信号所需要的信息率将趋于无限大。因此，通常是对模拟信号采样，把各个样值转换成数字，即把连续量转换成有限个量，这种转换过程称为量化。
设样值x在（- ∞，∞）之间取值，其概率密度函数为p(x)；要用n个离散值a1，a2，…，an来代表x时，可把(- ∞，∞)区间分成n个区间A1，A2，…，An，某区间Ar内的所有x值都用ar来代表，这样将会引入失真。可用失真函数f(x，ar)来表示量化所引起的失真，其平均值为
当失真函数等于(x-ar)2时，D值常被称为量化噪声功率。使平均失真值D保持在容许范围内并使n最小，称为最佳量化。达到这种程度比较困难，因为很难规定恰当的失真函数和精确地获得实际传输对象的概率密度函数。通常只能按实现的可能性和合理性来折衷处理。话音信号的脉码调制(PCM)采用样值的对数进行均匀量化，就是一个例子。
要进一步压缩信息率，可利用样值之间的相关性，一种方法是预测。当已知(m-1)个样值x1，x2，…，x
后，可预先估计第m个样值xm，即令
式中φ是预测函数，憫m是xm的预测值或估值。若φ选得恰当，则憫m和真实值xm的差将很小，对这个差值进行量化时，保持D一定，可使量化级数n很小，从而达到压缩信息率的目的这里的理论问题是根据信源的概率特性，选用最佳的φ和m，以使(xm-憫m)2的数学期望最小。最常用的预测函数是线性函数，即
式中各个ar是预测系数。对于平稳信源序列，可以证明：当预测系数满足
时，可使(xm-憫m)2的数学期望E(xm-憫m)2最小，式中rst是信源符号xs和xt之间的相关矩E(xs，xt)。实际采用的差分脉码调制(DPCM)和增量调制(墹M)都是基于这个原理的简化方式。消除相关性的另一种理论是变换。这是把时域上表达的信号变换到其他参数域去而形成一系列系数，再对这些系数进行量化，通常也可达到压缩信息率的目的。理论上的最佳变换是卡-洛变换。已知信号 x(t)的相关函数为R(t1，t2)=E[x(t1)x(t2)]，解以下积分方程
可得正交归一化的特征函数族[φk(t)，k=1，2…]和诸特征值λk(k=1，2，…)，用它们来展开信号x(t)，即
则得
式中诸系数 ak是彼此线性无关的随机量，λk值一般随k的增大而下降很快，所以大多数ak所需的量化级数n很小或根本不用传输，仍可保持D值在容许范围内，这就进一步压缩了信息率。由于卡-洛变换的实现比较困难，常常采用次最佳变换。矢量量化理论也是用样值间的相关性压缩信息率。这就是把x1，x2，…，xm的m个样值当作一个m维矢量x进行量化。它们所张的m维空间可分割成n个区域A1，A2，…，An，各用一个矢量αr代表，再规定失真函数f(x，αr)，从而用m维联合概率密度函数p(x)计算平均失真D。问题在于选择最佳的分割方法以使D值一定时n最小。实际上，这是前述的一维量化的推广，但计算要更复杂得多。
除这些压缩信息率的量化理论外，还有实用性比较好的变长编码，如赫夫曼编码和仙农－费诺编码（见信源编码）。
充分利用信道 一种情况是带通型信道传输基带型（频率分量从接近零值开始）信号问题。在实际通信中，常用调制器完成这种变换。调制方式很多(见调制)，数字调制很重要。要使频带窄并且带外能量尽可能小，则已调信号应是高阶连续函数。但数字信号是不连续的，因而要求一个符号的已调信号要扩展到其他符号的时间中去，这又会引起码间干扰。从信息论观点看，这种扩展可使在后一符号期间尚能提取关于前一符号的信息，理论上是有利的。当然，解调应采用延时判决，但不免复杂一些。代表这个方面的理论之一是连续相位调制，并用部分响应扩展一个符号的相位函数，使相位尽可能平滑地变化以限制频带，再采用最大似然译码(见卷积码)作延时判决以降低误码率。
另一种情况是多路复用，其基本理论是信号分割理论。若f1(t)和f2(t)两个函数在T内相互正交，则
当有一族在T内正交的归一化函数[fi(t)，i=1，2，…]，利用fi(t)的正交性质，就可以将各路信号从合成信号中分离开。利用时域上不重合的fi(t)进行分割，称为时分；利用频域上不重合的fi(t)进行分割，称为频分。除时分和频分外，在有限域T内还有许多正交函数族（如沃尔什函数等）可用作多路复用，这些方式一般称为码分或波形分割。寻找适当的正交函数族是建立新的复用技术的基本理论问题。与多路复用相仿，另有多址接入方式(见多址通信)。各地的信源可以不必先集中起来相加，而是独立地、随机地接入信道。卫星通信就是一个例子，相应地有频分多址接入（FDMA）、时分多址接入(TDMA)和码分多址接入（CDMA）。它们的理论基础是多用户信道理论。阿罗哈(ALOHA)系统也属于这一类，并引入了冲突信道的概念。这时，当各信源同时占用信道而造成相互冲突时，就需要重发这个信息。
提高通信质量 在信道输出端，设法使信息传输质量最高（对模拟信号而言，输出信噪比最高，对数字信号而言，误码率最低），这称为最佳接收理论。其基础是统计检测理论，包括维纳滤波、卡尔曼滤波、假设检验、估计理论等，这些理论应用较广。在数字通信中，尚有纠错编码（见纠错码），也可降低误码率。自动反馈重传系统的理论也比较重要。当发信端采用检错编码时，收信端如发现传输有差错(检错比纠错容易实现)，就利用反馈信道通知发信端重传，直至认为无错后才完成信息传输。这种方式可基本上做到无差错传输。但由于需要编码和重传，信息有效传输率将降低。电报通信中的自动回答询问 (ARQ)系统和计算机通信中的应答方式都属于这一类。