已知二进制无记忆信源[0，1]，相应出现的概率为p和（1-p)，当熵取最大值时，p等于（)。

设有两相关离散无记忆信源S₁=S₂={0，1}，且

其中α∈{0, 0.3，0.5，0.7，1}。对各α值求出速率对的界限，并说明参数α的作用。

设S为一离散无记忆信源，其符号集合为{0，1}，概率分布为p(0)=0.995，p(1)=0.005。令信源符号序列的长度为n=100，假定对所有只包含3个以下符号“1”的序列编制长度为k的非奇异二进制码。求：

一个离散无记忆信源的字符集为{-5，-3，-1，0，1，2，3)，相应的概率为{0．08、0．2、0．15、0．03、0．12、0．02、0.4}。 (1)设计信源熵H(x)。 (2)设计该信源的哈夫曼(Huffman)编码。

设离散无记忆信源S其符号集A={a1，a2，…，aq}，知其相应的概率分布为(P1，P2，…，Pq)。设另一离散无记忆信源S，其符号集为S信源符号集的两倍，A={ai}i=1，2，…，2q，并且各符号的概率分布满足 Pi=(1 - ε)Pi(i=1，2，…，q) Pi=εPi-q(i=q+1，q+2，…，2q) 试写出信源S的信息熵与信源S的信息熵的关系。

有离散无记忆信源，其失真度为汉明失真度。

(1)求D_min和R(D_min)，并写出相应试验信道的信道矩阵;

(2)求D_max和R(D_max)，并写出相应试验信道的信道矩阵;

(3)若允许平均失真度D=1/3，试问信源的每一个信源符号平均最少由几个二进制码符号表示？

已知信源U={0，1}，信宿V={0，1，2}。设信源输入符号等概率分布，失真矩阵为

求信源的率失真函数R(D)。

已知某离散信源的输出有五种状态，其统计特性为

为了在二进制数字调制系统中传输该离散信源信息，需对该离散信息源进行二进制编码。若采用编码位数最小的固定长度二进制码对该离散信源进行编码。