计算题

设二元对称信道的传递矩阵为

（1）若P（0）=3/4， P（1）=1/4，求H（X），H（X/Y），H（Y/X）和I（X；Y）； 
（2）求该信道的信道容量及其达到信道容量时的输入概率分布。

有一离散无记忆信源，其输出为X∈{0，1，2}，相应的概率为p0=1/4，p1=1/4，p2=1/2，设计两个...

问答题

有一离散无记忆信源，其输出为X∈{0，1，2}，相应的概率为p₀=1/4，p₁=1/4，p₂=1/2，设计两个独立的实验去观察它，其结果分别为Y₁∈{0，1}，Y₂∈{0，1}，已知条件概率：

（1）求I（X；Y₁）和I（X；Y₂），并判断哪一个实验好些
（2）求I（X；Y₁Y₂），并计算做Y₁和Y₂两个实验比做Y₁和Y₂中的一个实验可多得多少关于X的信息
（3）求I（X；Y₁|Y₂）和I（X；Y₂|Y₁），并解释它们的含义

一阶马尔可夫信源的状态图如图所示，信源X的符号集为（0，1，2）。 （1）求信源平稳后的概率分布P（0），P...

问答题

一阶马尔可夫信源的状态图如图所示，信源X的符号集为（0，1，2）。

（1）求信源平稳后的概率分布P（0），P（1），P（2） 
（2）求此信源的熵 
（3）近似认为此信源为无记忆时，符号的概率分布为平稳分布。求近似信源的熵H（X）并与H_∞进行比较

有一个一阶平稳马尔可夫链X1，X2，X3，Xr，各Xr取值于集合A={a1，a2，a3}，已知起始概率P（Xr...

问答题

有一个一阶平稳马尔可夫链X₁，X₂，X₃，X_r，各X_r取值于集合A={a₁，a₂，a₃}，已知起始概率P（X_r）为p₁=1/2，p₂=p₃=1/4，转移概率如下图所示：

（1）求（X₁，X₂，X₃）的联合熵和平均符号熵 
（2）求这个链的极限平均符号熵
（3）求H₀，H₁，H₂和它们说对应的冗余度