1
.
.
.
2015
1.1. " " ?. 3
1.2. - 1978. 3
1.3. ? 3
1.4. . 3
1.5. "" , - ?. 4
1.6. . , . 5
1.7. ( ) ? ? 5
1.8. ?. 5
1.9. " ", ?. 6
1.10. ?. 6
1.11. , . 6
1.12. . ?. 7
1.13. ...17
1.1. " " ?
" " (. informatique) information () automatique () "
p , , , , , , .[1]
1.2. - 1978
1978 "" , , , - , , , , - .[2]
1.3. ?
. , . , , , ,
|
|
1.4. .
p . Ÿ :
pp pp ;
p p, , , , ;
, ;
, ( , , , , .);
, , ;
, ;
, ;
, , ;
, , , ;
p, , , , , , .
1.5. "" , - ?
"" "informatio", , , . , . , , :
, - . , - , - .. "" " , ";
, ;
, , , , .. , ,
1.6. . , .
1.7. ( ) ? ?
. , . . , .
----------- Ȩ
:
1. C, , () - .
|
|
2. (, , , ..) , , , , , .., .
, .
1.8. ?
, , , ;
;
;
;
;
;
;
, .
1.9. " ", ?
.
1.10. ?
:
1. ;
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
1.11. ,
) :
) :
) :
) :
) :
) :
) :
) :
) :
) :
) :
1.12. . ?
) , ) ,) .
1.13. :
)
23=6 22=8
)
( ).
28 . 6 ( ).
) ;
40 ( ).
( ).
)
( ).
( ).
)
- .
- .
) ;
, , , , .
)
- .
.
1.14. .
. , , , .
1.15. , .
, , , , .
1.16. , ?
, .
1.17. , ?
. , (.. ) . (.. ), , . , . , ( , ), , ( ).
|
|
1.18. ?
1 , 2 .
1.19. , ?
. .
. 1928 . N , I, , N.
: I = log2N |
, . , : I = log2100 6,644. , , 6,644 .
:
1. : " ", " ";
2. : " ", " ".
, " " " ". . , . , , , , , , .
1948 . , .
: I = (p1log2 p1 + p2 log2 p2 +... + pN log2 pN), p i , i - N . |
, p1,..., pN , 1 / N, .
, . , , .
1.20. 2?
, 2 .
1.21. ?
p1,..., pN , 1 / N, .
1.22. "" ?
, ( """", """" ..).
"" , "0" "1", .
|
|
1.23. , .
: , , ; -11..13, -9..-11, , .
40 .13 .
1.24. , (, ) .
1: , , : ?
: . (). .
2 . 1 .
: 1 .
2 : : 5, 4, 3, 2. . , : ? - : . ?
: , , , , .. .
, , , 1 .
1 : - ? -
( .) 1 .
2 : - ? -
( : .) 1 .
2 .
: , 2 .
3: . . , ?
1 : - ? - (1, 2, 3, 4) - 1
2 : - ? - (1, 2) - 1
3 : - ? - (1) - 1