19.设某离散平稳信源X,概率空间为 并设信源发出的符号只与前一个相邻符号有关,其联合概率为p(aiaj)如下
19.设某离散平稳信源X,概率空间为
并设信源发出的符号只与前一个相邻符号有关,其联合概率为p(aiaj)如下表所示。
联合概率p(aiaj) | ||||
p(aiaj) | ai | |||
0 | 1 | 2 | ||
aj | 0 | 1/4 | 1/18 | 0 |
1 | 1/18 | 1/3 | 1/18 | |
2 | 0 | 1/18 | 7/36 |
求信源的信息熵、条件熵与联合熵,并比较信息熵与条件熵的大小。
19.设某离散平稳信源X,概率空间为
并设信源发出的符号只与前一个相邻符号有关,其联合概率为p(aiaj)如下表所示。
联合概率p(aiaj) | ||||
p(aiaj) | ai | |||
0 | 1 | 2 | ||
aj | 0 | 1/4 | 1/18 | 0 |
1 | 1/18 | 1/3 | 1/18 | |
2 | 0 | 1/18 | 7/36 |
求信源的信息熵、条件熵与联合熵,并比较信息熵与条件熵的大小。
19.设某离散平稳信源X,概率空间为
并设信源发出的符号只与前一个相邻符号有关,其联合概率为p(aiaj)如下表所示。
联合概率p(aiaj) | ||||
p(aiaj) | ai | |||
0 | 1 | 2 | ||
aj | 0 | 1/4 | 1/18 | 0 |
1 | 1/18 | 1/3 | 1/18 | |
2 | 0 | 1/18 | 7/36 |
求信源的信息熵、条件熵与联合熵,并比较信息熵与条件熵的大小。
设DMS的概率空间为
对其单个符号进行二进制编码,即码元集合为X={0,1}。
定义编码f为
f(u1)=w1=0,l1=1
f(u2)=w2=10,l2=2
f(u3)=w3=110,l3=3
f(u4)=w4=111,l4=3
试计算:(1)该信源的熵H(U);(2)由码字构成的新信源W的熵H(W);(3)由码元{0,1}构成的新信源X的熵H(X);(4)信息率R
设S为一离散无记忆信源,其符号集合为{0,1},概率分布为p(0)=0.995,p(1)=0.005。令信源符号序列的长度为n=100,假定对所有只包含3个以下符号“1”的序列编制长度为k的非奇异二进制码。求:
设离散型随机变量X服从参数为p的两点分布,若离散型随机变量X取1的概率p为它取0的概率q的3倍,则方差D(X)=______.
设离散型随机变量X的分布函数为。
试求: (1)X的概率分布; (2)P{X<2|X≠1}。
设离散型随机变量X的可能取值为x1,x2(x12),且已知P{X=x1}=3/5, P{X=x2}=2/5,E(X)=7/5,D(X)=6/25求X的概率分布。
设{X(n),n≥0}为一齐次马尔可夫链,其状态空间E={0,1,2},初始状态的概率分布为,一步转移概率矩阵为
设一个二元信道如图4.1所示,其输入概率空间为,试计算I(X=0;Y=1),I(X=1;Y)和I(X;Y)。