Содержательный подход к измерению информации.

За единицу измерения информации принимается 1 бит - такое количество информации, которое содержит сообщение, уменьшающее неопределенность знаний в два раза.

Что такое неопределенность знаний? Поясним на примере.

Допустим, вы бросаете монету, загадывая: орел или решка? Любой из вариантов ответа уменьшает неопределенность в 2 раза и, следовательно, количество информации равно 1 биту.

Количество информации (i), содержащееся в сообщении о том, что произошло одно из N равновесных событий, определяется из решения уравнения:

2i=N

(1)

Прологарифмировав равенство (1) по основанию 2, получим: i* log ₂ 2= log ₂ N, следовательно,

i = log2N

(2)

Алфавитный подход к измерению информации

Алфавитный подход к измерению информации не связывает количество информации с содержательным сообщением. Рассмотрим этот подход на примере текста, написанного на каком-нибудь языке, например, на русском. Все множество используемых в языке символов будем называть алфавитом. Полное количество символов алфавита будем называть мощность алфавита.  

Например, в алфавит мощностью N =256 символов можно поместить все необходимые символы: латинские и русские буквы, цифры, знаки арифметических операций, знаки препинания и т.д. Представим себе, что текст, состоящий из 256 символов, поступает последовательно, и в каждый момент времени может появиться любой из них. Тогда по формуле (1):

2ⁱ = 256, →  i=8 (бит)

Таким образом, один символ алфавита мощностью 256 символов, “весит” 8 бит. Поскольку 8 бит – часто встречающаяся величина, ей присвоили свое название 1 байт:

1 байт = 8 бит

(3)

Чтобы подсчитать количество информации на одной странице текста, необходимо: количество символов в строке умножить на количество строк на листе. Так, например, если взять страницу текста, содержащую 40 строк по 60 символов в каждой строке, то одна страница такого текста будет содержать

60*40=2400 (байт информации)

Если требуется подсчитать количество информации, содержащееся в книге из 160 страниц, нужно

2400*160=384000 (байт)

Уже на этом примере видно, что байт – достаточно мелкая единица. Для измерения больших объемов информации используются следующие производные от байта единицы:

1 килобайт = 1 Кб = 210 байт = 1024 байта 1 мегабайт = 1 Мб = 210 Кб = 1024 Кб 1 гигабайт = 1 Гб = 210 Мб = 1024 Мб

(4)

Задание 2.

В алфавите формального (искусственного) языка всего два знака-буквы («+» и «-»). Каждое слово этого языка состоит из двух букв. Максимальное число слов этого языка:

1) 4

2) 2

3) 8

4) 6

Решение.

Решение задачи сводится к поиску количества (N) комбинаций строк длиной (i) 2 символа, составленных из 2 знаков. Следовательно, используя формулу 2ⁱ = N, получаем 2² = 4.

Ответ: 1.

Задание 3.

Алфавит племени содержит всего 8 букв. Какое количество информации несет одна буква этого алфавита?

1) 8 бит

2) 1 байт

3) 3 бита

4) 2 бита

Решение.

Мощность алфавита племени – 8 букв. Применим формулу 2^х = N, где N – мощность алфавита, х – количество бит на один символ алфавита. 2^х =8, х=3 бит, что соответствует варианту ответа №3.

Ответ: 3.

Задание 4.

Если вариант теста в среднем имеет объем 20 килобайт (на каждой странице теста 40 строк по 64 символа в строке, 1 символ занимает 8 бит), то количество страниц в тесте равно:

1) 10

2) 16

3) 4

4) 8

Решение.

Известен информационный объем теста и информационный «вес» одного символа в нем. Найдем объем одной страницы: 40*64*8 бит. 20 Кбайт = 20*1024 байт = 20*1024*8 бит. Найдем количество страниц: 20*1024*8/(40*64*8) = 8 (стр.) (Ответ № 4)

Ответ: 4.

Задание 5.

В пяти килобайтах:

1) 5000 байт

2) 5120 байт

3) 500 байт

4) 5000 бит

Решение.

5 Кб = 5*1024 байт = 5120 байт, что соответствует ответу №2.
Ответ: 2

Задание 6

Сколько байт в 32 Гбайт?

1) 235

2) 16*220

3) 224

4) 222

Решение.

32Гб = 2⁵ Гб = 2⁵*2¹⁰ Мб = 2⁵*2¹⁰ *2¹⁰ Кб =2⁵*2¹⁰ *2¹⁰*2¹⁰ байт = 2³⁵ байт, что соответствует ответу №1.
Ответ: 1.

Задание 7.

Считая, что один символ кодируется одним байтом, подсчитать в байтах количество информации, содержащееся в фразе: “Терпение и труд все перетрут.”

Решение.

В фразе 29 символов (включая точку и пробелы), 1 символ несет 1 байт информации, значит фраза содержит 29 байт.

Ответ: 29.

Задание 8. (Задание А2 демоверсии 2004 г.)

Считая, что каждый символ кодируется одним байтом, оцените информационный объём предложения: «Мой дядя самых честных правил, Когда не в шутку занемог, Он уважать себя заставил И лучше выдумать не мог.»

1) 108 бит

2) 864 бит

3) 108 килобайт

4) 864 килобайт

Решение.

Предложенная строка содержит ровно 108 символов, включая кавычки, пробелы и знаки препинания. При кодировании каждого символа одним байтом на символ будет приходиться по 8 бит, поэтому объём этого предложения составит 108 байт или 108х8=864 бит, что соответствует ответу №2.

Ответ: 2.

Задание 9. (Задание А3 демоверсии 2004 г.)

Шахматная доска состоит из 64 полей: 8 столбцов и 8 строк. Какое минимальное количество бит потребуется для кодирования координат одного шахматного поля?

1) 4

2) 5

3) 6

4) 7

Решение.

Для того, чтобы различить 64 клетки шахматного поля потребуются 64 значения двоичного кода. Поскольку 64=2⁶, то в двоичном коде потребуется шесть разрядов. Верный ответ№3.

Ответ: 3.

Задание 10. (Задание А4 демоверсии 2004 г.)

Получено сообщение, информационный объём которого равен 32 битам. Чему равен этот объём в байтах?

1) 5

2) 2

3) 3

4) 4

Решение.

1 байт = 8 бит, следовательно, 32/8=4, что соответствует ответу №4.

Ответ: 4.

Задание 11.

Каждое показание счётчика, фиксируемое в памяти компьютера, занимает 10 бит. Записано 100 показаний этого датчика. Каков информационный объём снятых значений в байтах?

1) 10

2) 100

3) 125

4) 1000

Решение.

10 бит*100= 1000 бит, 1 байт = 8 бит, следовательно: 1000/8=125 байт. Значит, верный ответ №3.

Ответ: 3.