2002
Copyright EE Lab508
©H.F.
信息论与编码习题参考答?/p>
第一?/p>
单符号离散信?/p>
信息论与编码作业?/p>
74
页,
1.1
的(
1
?/p>
?/p>
5
?/p>
?/p>
1.3,1.4,1.6,1.13,1.14
还有证明熵函数的
连续性、扩展性、可加?/p>
1.1
同时掷一对均匀的子,试求:
(1)
?/p>
2
?/p>
6
同时出现”这一事件的自信息量;
(2)
“两?/p>
5
同时出现”这一事件的自信息量;
(3)
两个点数的各种组合的熵;
(4)
两个点数之和的熵?/p>
(5)
“两个点数中至少有一个是
1
”的自信息量?/p>
?/p>
?/p>
bit
P
a
I
N
n
P
bit
P
a
I
N
n
P
c
c
N
17
.
5
36
log
log
)
(
36
1
)
2
(
17
.
4
18
log
log
)
(
36
2
)
1
(
36
6
6
2
2
2
1
1
1
1
6
1
6
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?
?/p>
?/p>
?/p>
?/p>
样本空间?/p>
(3)
信源空间?/p>
X
(1,1)
(1,2)
(1,3)
(1,4)
(1,5)
(1,6)
P(X)
1/36
2/36
2/36
2/36
2/36
2/36
X
(2,2)
(2,3)
(2,4)
(2,5)
(2,6)
P(x)
1/36
2/36
2/36
2/36
2/36
X
(3,3)
(3,4)
(3,5)
(3,6)
P(x)
1/36
2/36
2/36
2/36
X
(4,4)
(4,5)
(4,6)
P(x)
1/36
2/36
2/36
X
(5,5)
(5,6)
(6,6)
P(x)
1/36
2/36
1/36
bit
x
H
32
.
4
36
log
36
1
6
2
36
log
36
2
15
)
(
?/p>
?/p>
?/p>
?/p>
?/p>
?
?/p>
?/p>
(4)
信源空间?/p>
X
2
3
4
5
6
7
8
9
10
11
12
P(x)
1/36
2/36
3/36
4/36
5/36
6/36
5/36
4/36
3/36
2/36
1/36
bit
x
H
71
.
3
6
36
log
36
6
5
36
log
36
10
4
36
log
36
8
3
36
log
36
6
2
36
log
36
4
36
log
36
2
)
(
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?
?/p>
?/p>
?/p>
(5)
bit
P
a
I
N
n
P
17
.
1
11
36
log
log
)
(
36
11
3
3
3
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>
?/p>