Измерение количества информации.

Тема 1. Предмет, цель, методы и средства курса «ИТ в менеджменте». Информационные процессы в управлении организацией.

План

1. Понятие информации. Виды и свойства информации.

2. Измерение количества информации.

3. Понятие информационной технологии. Основные тенденции в развитии информационных технологий.

4. Информационная технология как система.

5. Этапы развития информационных технологий.

6. Классификация информационных технологий.

7. Сущность информационных систем менеджмента.

 

Понятие информации. Виды и свойства информации.

Термин “информация” имеет много определений.

Информация – сведения, которые снимают неопределенность, существовавшую до их получения.

Информация – сведения, которые уменьшаю или снимают неразличимость вещей или явлений.

Данные не обладают определенной структурой, данные становятся информацией тогда, когда пользователь задает им определенную структуру, то есть осознает их смысловое содержание.

Все виды энергообмена сопровождаются появлением сигналов, то есть все сигналы имеют в своей основе материальную энергетическую природу. При взаимодействии сигналов с физическими телами в последних возникают определенные изменения свойств – это явление называется регистрацией сигналов. Данные - это зарегистрированные сигналы.

Различают 3 вида сигналов:

• Аналоговый сигнал - сигнал, принимающий бесконечное число значений и заданный в непрерывном времени (определен для любого момента времени).
• Дискретный сигнал - сигнал, принимающий бесконечное число значений и заданный в дискретном времени (определен только в моменты времени, кратные периоду дискретизации).
• Цифровой сигнал - сигнал, принимающий конечное число значений, заданный в дискретном времени и представленный в виде цифровых кодов.

Для информационной техники предпочтительнее цифровой вид сигнала. В качестве носителя информации могут выступать материальные предметы. В ходе информационного процесса данные преобразуются из одного вида в другой с помощью методов.

Виды информации.

1. по способу передачи – зрительная, слуховая, тактильная, вкусовая, машинно – ориентированная.
2. по формам отражения – символьная, текстовая, графическая.
3. по содержанию – научная, производственная, управленческая и т.д.
4. по виду представления – одномерная (сообщение, в котором передаваемая информация имеет вид последовательности символов, каждый из которых имеет только один признак, т.е. электрические импульсы, звуковые символы, знаки алфавита) и многомерная (сообщение, в котором информацию несут не один, а несколько признаков, т.е. текст, голос).
5. по характеру – вербальная (виде слов) и невербальная.

Характеристики информации:

• Полнота характеризует качество информации и определяет достаточность данных для принятия решений или для создания новых данных на основе имеющихся;
• Адекватность информации – это степень соответствия информации, полученной в информационном процессе, реальному объективному состоянию дела;
• Доступность информации – мера возможности получить ту или иную информацию;
• Актуальность информации – это степень соответствия информации текущему моменту времени;
• Точность информации определяется степенью близости получаемой информации к реальному состоянию объекта, процесса, явления и т.п.
• Достоверность информации определяется ее свойством отражать реально существующие объекты с необходимой точностью.
• Устойчивость информации отражает ее способность реагировать на изменения исходных данных без нарушения необходимой точности.
• Своевременность информации означает ее поступление не позже заранее назначенного момента времени, согласованного со временем решения поставленной задачи.

 

Измерение количества информации.

Информационные меры, как правило, рассматриваются в трех аспектах:

· структурном,

· статистическом,

· семантическом.

В структурном аспекте рассматривается строение массивов информации и их измерение простым подсчетом информационных элементов или комбинаторным методом. Структурный подход применяется для оценки возможностей информационных систем вне зависимости от условий их применения.

При статистическом подходе используется понятие энтропии как меры неопределенности, учитывающей вероятность появления и информативность того или иного сообщения. Статистический подход учитывает конкретные условия применения информационных систем.

Семантический подход позволяет выделить полезность или ценность содержания информационного сообщения.

Основные информационные меры.

Информация всегда представляется в виде сообщения. Элементарная единица сообщений – символ. Символы, собранные в группы, – слова. Сообщение, оформленное в виде слов или отдельных символов, всегда передается в материально-энергетической форме (электрический, световой, звуковой сигналы и т. д.). Скорость передачи информации тем выше, чем короче символы.

При использовании структурных мер информации учитывается только дискретное строение сообщения, количество содержащихся в нем информационных элементов, связей между ними.

Аддитивная мера (мера Хартли), в соответствии с которой количество информации измеряется в двоичных единицах (битах), наиболее распространена. Вводятся понятия глубины q и длины n числа.

Глубина числа q – количество символов (элементов), принятых для представления информации. В каждый момент времени реализуется только один какой-либо символ. Глубина числа соответствует основанию системы счисления.

Длина числа n – количество позиций, необходимых и достаточных для представления чисел заданной величины. Длина числа соответствует разрядности системы счисления.

При заданных глубине и длине числа количество чисел, которое можно представить, N = qⁿ.

Например, световое табло состоит из лампочек. Каждая лампочка может находиться в одном из трех состояний («включено», «выключено» или «мигает»). Определить наименьшее количество лампочек, которое должно находиться на табло, чтобы с его помощью можно было передать 18 различных сигналов?

Решение: С помощью одной лампочки можно 3 сигнала, с помощью двух 3² = 9 сигналов, с помощью трёх 3³ = 27 сигналов. Значит, чтобы подать 18 сигналов нужно не менее трёх лампочек.

Величина N неудобна для оценки информационной емкости. Хартли ввел аддитивную двоичную логарифмическую меру, позволяющую вычислять количество информации в двоичных единицах – битах:

I = log₂N = n log₂ q.

При n = 1, q = 2, I = log₂ 2 = 1 бит. Это и есть единица информации по Хартли.

Следовательно, 1 бит информации соответствует одному элементарному событию, которое может произойти или не произойти.

Например, определить какое количество информации несет в себе сообщение о том, что нужная вам программа находится на одной из восьми дискет?

Решение: количество равновероятных событий равно 8, т.е.N = 8. Используя аддитивную меру Хартли найдем: I = log₂ 8= 3(бит).Таким образом, количество информации в сообщении о нахождении файла на одной из восьми дискет составляет 8 бит.

События можно рассматривать как возможные исходы некоторого опыта, причем все исходы этого опыта составляют полную группу событий. К. Шеннон ввел понятие неопределенности ситуации, возникающей в процессе опыта, назвав ее энтропией.

Энтропия полной группы событий есть количественная мера ее неопределенности и, следовательно, информативности, количественно выражаемая как средняя функция множества вероятностей каждого из возможных исходов опыта. Иными словами, количество информации, получаемое в результате проведения опыта, равно снятой во время этого опыта неопределенности.

Общее число возможных исходов определяется по формуле: X = N^M, где N – количество возможных состояний, М - количество событий.

Мера Хартли: H = log₂ X = M × log₂ N.

Например: определить энтропию системы, состоящей из 5 подсистем, каждая из которых может иметь с равной вероятностью 4 состояния.

Решение: H= 10 (бит)

В случае, когда вероятности различных исходов опыта неравновероятны (а имеют вероятности Pi), меру энтропии вычисляют по формуле Шеннона:

или

Энтропийный подход измерения информации означает, что получатель сообщения имеет представление о возможности наступления некоторых событий. Эти представление в общем случае недостоверны и выражаются вероятностями, с которыми ожидается событие. Общая мера неопределенностей – энтропия характеризуется математической зависимостью от совокупности этих вероятностей: S = ln W, где W – число всех возможных комбинаций, которыми может быть выражено некоторое состояние.

Количество информации в сообщении определяется тем, насколько уменьшается энтропия после получения сообщения. В качестве единицы измерения информации принимается количество информации, связанное с проведением опыта, состоящего в получении одного из двух равновероятных исходов.

Если события равновероятны, то количество информации определяется по формуле:

I = log₂N или из показательного уравнения: N = 2^I.

где N – количество возможных событий, I – количество информации.

За единицу количества информации принят 1 бит — количество информации, содержащееся в сообщении, уменьшающем неопределенность знаний в два раза.