Единицы измерения количества информации

И нформатика, информация, информационная технология и информационная техника. Информатизация. Понятия и определения.

Термин "информатика" (франц. informatique) происходит от французских слов information (информация) и automatique (автоматика) и дословно означает "информационная автоматика".

Информатика – это основанная на использовании компьютерной техники дисциплина, изучающая структуру и общие свойства информации, а также закономерности и методы её создания, хранения, поиска, преобразования, передачи и применения в различных сферах человеческой деятельности.

В 1978 году международный научный конгресс официально закрепил за понятием "информатика" области, связанные с разработкой, созданием, использованием и материально-техническим обслуживанием систем обработки информации, включая компьютеры и их программное обеспечение, а также организационные, коммерческие, административные и социально-политические аспекты компьютеризации — массового внедрения компьютерной техники во все области жизни людей. Таким образом, информатика базируется на компьютерной технике и немыслима без нее.

Термин "информация" происходит от латинского слова " informatio ", что означает сведения, разъяснения, изложение. Информация – это настолько общее и глубокое понятие, что его нельзя объяснить одной фразой. В это слово вкладывается различный смысл в технике, науке и в житейских ситуациях.

Информация —это сведения, данные, с помощью которых передаются накопленный опыт и знания

· Объемы информации являются базой для технического, научного и социального развития общества.

· Любая информация, чтобы отражать существующую действительность, должна отвечать следующим требованиям: достоверность, полнота, ценность, актуальность, ясность и понятность.

· Над информацией можно выполнять такие действия, как создание, передача, восприятие и прием, запоминание и хранение, поиск, копирование, обработка, разрушение, изменение, деление на части, упрощение и т. д.

· Все виды информации можно закодировать с помощью чисел и разместить на различных носителях информации.

· Для обработки больших массивов информации используются электронно-вычислительные машины.

· Неотъемлемой частью процесса создания, хранения и передачи данных являются специальные программы, позволяющие усовершенствовать работу с информацией дома, на предприятии или в офисе, в том числе: электронный офис, системы автоматизации документооборота, электронная почта, система телеконференций и т. д.

· Созданная информация является интеллектуальной собственностью, которую можно использовать только при соблюдении правил, норм и законов.

 

 

Информация. Шум и Дезинформация. Варианты оценки и единицы измерения информации. Структурный и вероятностный подходы. Формулы Хартли и Шеннона.

. Шум — это любое вмешательство в процесс коммуникации на любом из его участков, искажающее смысл послания. Источниками шума, вносящего изменения в передаваемый сигнал, могут быть язык, различия в восприятии, из-за которых изменяется смысл при кодировании и декодировании.Определенные шумы присутствуют всегда. И поэтому на каждом этапе процесса обмена информацией происходит некоторое искажение смысла

Дезинформация - возникает, как правило, сознательно и целенаправленно. Ею пользуются в конкурентной борьбе для того, чтобы скрыть настоящее положение дел на предприятии, для приукрашивания непопулярных мер и введения в заблуждение общественности. Дезинформация может побудить руководителей к действиям, выгодным фирме-конкуренту и нанести экономический и моральный урон. Поэтому, получив информацию из источников, не вызывающих доверия, важно ее проверить.

Единицы измерения количества информации

В электронно-вычислительных машинах, устройствах и средствах техники связи используется объемный способ измерения информации, учитывающий количество символов, содержащихся в сообщении. Длина сообщения при этом обусловлена используемым алфавитом.

Наименьшей единицей измерения информации является бит — это двоичная ячейка памяти, которая может находиться в двух состояниях: «0», когда амплитуда импульса равна 0 или близка к нему, и «1» — когда амплитуда импульса приближена к напряжению источника питания. Блоки данных, объединяющие 8 бит, называют байтами, а их номера — адресами. В свою очередь, определенная количественная совокупность байт называется машинным словом.

На практике чаще используют более крупные единицы измерения информации:

1 Кбайт = 2¹⁰ байт;

1 Мбайт = 2²⁰ байт;

1 Гбайт = 2³⁰ байт.

Существуют иные системы меры определения количества информации:

1. Синтаксическая мера информации. Используется для определения количественных мер информации и опирается на вводе двух параметров: количество информации I и объем данных V _д.

2. Система измерения объема данных V _д. Объем данных в сообщении измеряется количеством символов (разрядов). Единица измерения зависит от системы счисления.

3. Система измерения количества информации I. Она позволяет определить количество информации в сообщении об объекте, который может находиться в одном из равновероятных E -состояний, и использует формулу Хартли:

I = log₂ E.

 

Из обозначенного выражения видно, что чем неопределеннее была ситуация до получения сообщения (т. е. чем большее количество состояний мог принимать объект), тем большее количество информации несет данное сообщение.

 

Варианты оценки информации:

Определить понятие «количество информации» довольно сложно. В решении этой проблемы существуют два основных подхода. Исторически они возникли почти одновременно. В конце 40-х годов XX века один из основоположников кибернетики американский математик Клод Шеннон развил вероятностный подход к измерению количества информации, а работы по созданию ЭВМ привели к «объемному» подходу.

1)А лгоритмический подход, согласно которому количество информации, содержащееся в информационном сообщении, определяется алгоритмической сложностью компьютерной программы, воспроизводящей это сообщение. Например, сообщение вида "0000" будет содержать меньше информации, чем сообщение вида "0101", так как программа, генерирующая слово "0000", очевидно проще (короче) программы, генерирующей слово "0101".

Для того, чтобы реально оценить количество информации по алгоритмическому методу, необходимо задаться некоторым единым алгоритмическим языком, на котором следует записывать программы-генераторы оцениваемых информационных сообщений.

2)Объемный подход оценки количества информации – самый простой и очевидный: согласно этому методу, количество единиц информации, содержащихся в информационном сообщении, равно длине (количеству символов) самого сообщения. При всей простоте такого метода оценки он оказывается чувствительным к форме записи (алфавиту) сообщения. Следующий пример иллюстрирует тот факт, что одно и то же сообщение "21", записанное в разных алфавитах, будет иметь различную количественную оценку: "21" – 2 единицы; "XXI" – 3 единицы; "двадцать один" – 13 единиц.

3) Вероятностный подход.

Американский инженер Р. Хартлив 1928 г. процесс получения информации рассматривал как выбор одного сообщения из конечного наперёд заданного множества из N равновероятных сообщений, а количество информации I, содержащееся в выбранном сообщении, определял как двоичный логарифм N.

Формула Хартли: I = log2N

Допустим, нужно угадать одно число из набора чисел от единицы до ста. По формуле Хартли можно вычислить, какое количество информации для этого требуется: I = log2100 = 6,644. Таким образом, сообщение о верно угаданном числе содержит количество информации, приблизительно равное 6,644 единицы информации.

Для задач с неравновероятными сообщениями американский учёный Клод Шеннон предложил в 1948 г. другую формулу определения количества информации, учитывающую возможную неодинаковую вероятность сообщений в наборе.

Формула Шеннона: I = — (p1log2 p1 + p2 log2 p2+... + pN),где p i — вероятность того, что именно i -е сообщение выделено в наборе из N сообщений.

Легко заметить, что если вероятности p1,..., pN равны, то каждая из них равна 1 / N, и формула Шеннона превращается в формулу Хартли.

Помимо двух рассмотренных подходов к определению количества информации, существуют и другие. Важно помнить, что любые теоретические результаты применимы лишь к определённому кругу случаев, очерченному первоначальными допущениями.