若X、Y和Z是三个随机变量，试证明：
（1）I（X；YZ）=I（X；Y）+I（X；Z|Y）=I（X；Z）+I（X；Y|Z）
（2）I（X；Y|Z）=I（Y；X|Z）=H（X|Z）−H（X|YZ）
（3）I（X；Y|Z）≥0当且仅当（X，Z，Y）是马氏链时等式成立。

设二元对称信道的传递矩阵为

（1）若P（0）=3/4，P（1）=1/4，求H（X），H（X|Y），H（Y|X）和I（X；Y）；
（2）求该信道的信道容量及其达到信道容量时的输入概率分布。

设8个等概率分布的消息通过传递概率为p的BSC进行传送，8个消息相应编成下述码字：

试问：
（1）接收到第一个数字0与M1之间的互信息；
（2）接收到第二个数字也是0时，得到多少关于M1的附加互信息；
（3）接收到第三个数字仍为0时，又增加了多少关于M1的互信息；
（4）接收到第四个数字还是0时，再增加了多少关于M1的互信息。