最优化理论在信息论中的应用_(10)

最优化课程的具体应用,结合具体的专业。

115 总结 10

C max xip(yj/xi)log

i 0j 0p(yj/xi) xp(y/x)iji

i 01

x0 x1 1

x0 0

x1 0

对于给定的信道，转移概率p(yj/xi)是固定的值，在这里我们对转移概率做如下式（19）中取值，从而该最优化问题也是关于x0和x1的函数。

p(Y 0/X 0) p(Y 1/X 1) 127/128

p(Y 1/X 0) p(Y 0/X 1) 1/128（19）

用Zoutendijk可行方向法求解信道容量时，除了目标函数的形式同求解最大熵问题有所区别外，约束条件、子函数和具体的求解步骤都是相同的，因此在程序中只需对目标函数进行相应的改动即可。

4.1.2 实验结果及分析

在matlab中编写程序并运行，可得到如下的实验结果：

x0 =

0.500000027157568

0.499999972842432

f_val =

k =

2

由信道容量的公式可以进一步将其化为：C max[H(x) H(x/y)]。因为当信道固定时，转移概率确定，对于离散无记忆二进制信道，由理论分析可知，信道容量在各消息发送等概，也就是信源的熵取到最大的情况下取得最大值。从程序执行的结果可以看出，各消息发送的概率与前面求最大熵时求得的概率相同，因此说明信道容量在信源熵最大时取得，这与理论分析时相一致的。对于给定的转移概率为式（19）的信道，信道容量为0.9565，与理论上的计算结果的0.955接近。因此，可以认为Zoutendijk可行方向法求解信道容量的最优化问题结果较为可靠。 -0.9565

5 总结