, r
, r > L0,
35
(p << 1).
r-
36
:
;
;
.
37
:
.
1. : H(A) = 0;
p(ai) = 1;p(aj) = 0.
2. , . . (a1, a2, ,an), H(, , , ) = nH(A).
3. K = mn , H(A) ≤ log K.
38
, , , :
39
:
.
2. : H(A) = 0;
p(ai) = 1;p(aj) = 0.
2. , . . (a1, a2, ,an), H(, , , ) = nH(A).
3. K = mn , H(A) ≤ log K.
40
, , . .
1) , H(A1, A2) = H(A1) + H(A2)
41
| LPD (433 ) . () : . , () () , , (KB), . ( , , ) (. .1). |
 .1 . H1, H2 - , L - , R - .
|
|
|
|
42
. , , . . , N
43
, [/]:
44
(X, Y), X Y .
Y , X. X, Y,
45
