一信源有6种输出状态,概率分别为 p(A)=0.5,p(B)=0.25,p(C)=0.125,p(D)=p(E)=0.05,p(F)=0.025 试计算H(X)。
一信源有6种输出状态,概率分别为
p(A)=0.5,p(B)=0.25,p(C)=0.125,p(D)=p(E)=0.05,p(F)=0.025
试计算H(X)。然后求消息ABABBA和FDDFDF的信息量(设信源先后发出的符号相互独立),并将之与长度为6的消息序列信息量的期望值相比较。
一信源有6种输出状态,概率分别为
p(A)=0.5,p(B)=0.25,p(C)=0.125,p(D)=p(E)=0.05,p(F)=0.025
试计算H(X)。然后求消息ABABBA和FDDFDF的信息量(设信源先后发出的符号相互独立),并将之与长度为6的消息序列信息量的期望值相比较。
第1题
13.有一离散无记忆信源,其输出为X∈{0,1,2},相应的概率为P(0)=1/4,P(1)=1/4,P(2)=1/2,设计两个独立试验去观察它,其结果分别为Y1∈{0,1),Y2∈{0,1},已知条件概率如表1所示。
表1 条件概率P(Y1|X)和P(Y2|X) | |||||||
P(Y1下|X) | y | P(Y2|X) | y | ||||
0 | 1 | 0 | 1 | ||||
X | 0 | 1 | 0 | X | 0 | 1 | 0 |
1 | 0 | 1 | 1 | 1 | 0 | ||
2 | 1/2 | 1/2 | 2 | 0 | 1 |
第2题
第3题
第4题
(1)证明如果离散信源的失真矩阵足行准对称失真矩阵,且在划分的子矩阵中信源输入符号的概半相等,那么通过与失真地阵具有同样对称性且满足失真约束的试验信道可以达到R(D)。
(2)一个包含3符号的信源X。符号集为{-1,0,1},概率分别为: p,1-2p,P, (p≤1/2):试验信道输出Y,符号集含2个符号{-1,1},失真测度为求R(D)函数。
第5题
一个四元信源X,各符号的概率分别为p/2,(1- p)/2,(1-p)/2,p/2.失真矩阵为:
其中,p<1/2.求信源的R(D)函数,并画出曲线。
第6题
第7题
设有一马氏链,初始概率分布为P(a)=0.6,P(b)=0.3,P(c)=0.1,
P(a|a)=P(b|a)=P(c|a)=1/3, P(a|b)=P(b|b)=P(c|b)=1/3,
P(a|a)=P(b|c)=1/2, P(c|c)=0。
(1)写出该信源的状态转移概率矩阵;
(2)画出状态转移图;
(3)求信源的平稳状态分布;
(4)计算平稳信源的熵。
第9题
设S为一离散无记忆信源,其符号集合为{0,1},概率分布为p(0)=0.995,p(1)=0.005。令信源符号序列的长度为n=100,假定对所有只包含3个以下符号“1”的序列编制长度为k的非奇异二进制码。求:
第10题
设马尔可夫链有状态0,1,2,3和转移概率矩阵
试求f00(n)(n=1,2,3,4,5,…),其中fij(n)由P{Xn=i,Xk≠i,k=1,…,n一1|X0=i}定义.
第11题
某离散无记忆信源S的符号集A={a1,a2,a3,a4,a5,a6,a7,a8},各符号的概率分别为:0.1,0.2,0.2,0.3,0.05,0.05,0.05,0.05;