, ' .
(5.3) (5.12),
. (5.18)
, (5.18) X, Y, . H(X/Y)= 0, , (5.18) :
. (5.19)
(5.19) .
, , H(X/Y) 0 H (X / Y) H (X).
. (5.20)
C (5.19), .
, . , .
, . () , ﳺ H(X)max.
, (5.21)
V=1/T; T - () xi; log 2 k - ' k.
,
. (5.22)
. , - , , . , .
. .
- ,
,
/ ﳺ H(X), , - .
:
- X , - > 0
,
,
. .
:
' , > 0, - / ( ).
|
|
1. '
.
, ', = 10-3 .
'
' ﳺ H (X / Y) .
H (X / Y), p (xi), p (yj) p (xi / yj).
p (xi) , p (xi, yj) j:
p (x 1)= 0,15+0,15+0=0,3, i =1;
p (x 2)= 0+0,25+0,1=0,35, i =2;
p (x 3)= 0+0,2+0,15=0,35, i =3.
p (x 1)+ p (x 2)+ p (x 3)=0,3+0,35+0,35=1.
. . . X, :
( / ).
p (yj) , p (xi, yj) i:
p (y 1)= 0,15+0+0=0,15, j =1;
p (y 2)= 0,15+0,25+0,2=0,6, j =2;
p (y 3)= 0+0,1+0,15=0,25, j =3.
:
p (y 1)+ p (y 2)+ p (y 3)=0,15+0,6+0,25=1.
, p (xi, yj)= p (yj) p (xi / yj).
, .
, p (xi / yj) :
.
p (xi / yj)
.
:
,
,
.
p (xi / yj), ﳿ X Y:
(/);
(/);
(/).
. . . Y H(X/yj),
(/).
, ' H (X / Y)1,18 ( / ).
,
k ' ; - .
, ().
ʳ , , , , ﳿ :
I (X, Y)= HX - H (X / Y)=1,581-1,1760,406 ( / ).
:
().
³: H (X / Y)1,18 ( / ); C 409 (); v =406 ().
6. .
1. .
2. .
3. .