Энтропия источника сообщений

В теории информации принят энтропийный подход к измерению количества информации. Развивая и обобщая идеи Р.Хартли, К.Шеннон в 1948г. В своем фундаментальном труде «Математическая теория связи» ввел важное понятие энтропии источника сообщений. В общем случае передаваемое по каналам связи сообщение можно представить в виде набора некоторых смысловых элементов или символов (например, букв) какого либо алфавита Х. Пусть объем (полное число символов) алфавита равно m. Положим, что величины всех вероятностей появления любого из символов Р_i (i=1,2,…, m) – априорные, т.е. известные. Энтропией источника сообщений называют среднее значение количества информации, приходящееся на один символ алфавита (бит/символ):

H(X)= -

Если объем алфавита символов равен m, а каждое сообщение составлено из n элементов, то число возможных сообщений N=mⁿ и количество информации: I=log₂N=log₂mⁿ=nlog₂m.

Лекция 1.

ПРИНЦИПЫ РАДИОСВЯЗИ

1.1 Общие схемы организации радиосвязи. Система передачи информации, в которой сигналы электросвязи передаются посредством радиоволн в открытом пространстве, называется радиосистемой. Радиосистемы подразделяются на радиолинии и радиосети.

По способу организации радиолиний различают одностороннюю и двустороннюю радиосвязь. Радиосвязь, при которой одна из радиолиний осуществляет только передачу, а другая – только прием, называется односторонней. Односторонняя радиосвязь, при которой радиопередачу одной (основной) радиостанции могут принимать одновременно несколько корреспондентов, называется циркулярной, Примерами односторонней циркулярной передачи сообщений являются системы оповещения, службы передачи сообщений из пресс-центров редакциям газет, журналов и т.д. Сети телевизионного и звукового вещания также представляют собой типичные образцы циркулярного способа организации радиосвязи. При этом радиопередающая станция, среда распространения радиосигналов (открытое пространство) и каждое радиоприемное устройство, находящееся в зоне действия станции, образуют одностороннюю радиолинию, а совокупность таких радиолиний – сеть радиовещания.

Двусторонняя радиосвязь предполагает возможность передачи и приема информации каждой радиостанцией. Для этого нужны два комплекта оборудования односторонней связи, т.е. в каждом пункте надо иметь и передатчик и приемник. Двусторонняя связь может быть симплексной и дуплексной (рис.1.1). При симплексной радиосвязи передача и прием на каждой радиостанции ведутся поочередно. Радиопередатчики в конечных пунктах линии связи в этом случае работают на одинаковой частоте, на ту же частоту настроены и приемники.

При дуплексной радиосвязи радиопередача осуществляется одновременно с приемом, Для каждой дуплексной линии радиосвязи должны быть выделены две разные частоты. Это делается для того, чтобы приемник принимал сигналы только от передатчика с противоположного пункта и не принимал сигналы собственного радиопередатчика. Радиопередатчики и радиоприемники обоих корреспондентов дуплексной радиосвязи включены в течение всего времени работы радиосвязи.

Симплексная связь используется, как правило, при наличии относительно небольших информационных потоков. Для систем передачи с большой информационной нагрузкой характерна дуплексная связь.

Если необходимо иметь радиосвязь с большим числом корреспондентов, то организуется радиосеть. В этом случае одна радиостанция, называемая главной, может передавать сообщения как для одного, так и для нескольких подчиненных корреспондентов. Ее радист-оператор контролирует режим работы в радиосети и непосредственно устанавливает очередность на передачу подчиненных станций. Последние при соответствующем разрешении могут обмениваться информацией не только с главной радиостанцией, но и между собой. Этот вариант организации радиосети может быть построен на основе как сложного симплекса (см.рис. 1.2, а), так и сложного дуплекса (см. рис. 1.2, б). В первом случае возможно использование радиостанций (радиопередатчиков), работающих на одной (общей) радиоволне (частоте). Во втором случае главная радиостанция ведет передачу на одной частоте, а принимает на нескольких (по числу подчиненных радиостанций).

Любая радиостанция передачи информации (связная, звукового или телевизионного вещания) содержит на концах радиопередающие и радиоприемные устройства, снабженные антеннами. Передающая антенна излучает электрический сигнал передатчика в виде радиоволны. Приемная антенна улавливает радиоволну, и с ее выхода электрический сигнал поступает на вход приемника. Линии передачи электромагнитной энергии, соединяющие антенну с радиопередатчиком или с приемником, называются фидерами. Антенно-фидерные устройства – очень важные элементы линии радиосвязи. На практике очень часто применяются антенны, обладающие направленным действием. При передаче направленная антенна излучает энергию в определенном направлении. Чем больше направленность антенны, тем при меньшей мощности передатчика возможна радиосвязь. Приемные направленные антенны увеличивают отношение сигнал-помеха на входе приемного устройства, что также позволяет уменьшить необходимую мощность радиопередатчика.

Успешная работа радиолиний зависит не только от конструктивных особенностей и качества изготовления радиоаппаратуры. При сооружении и эксплуатации радиолиний необходимо учитывать особенности распространения радиоволн на пути от передающей до приемной антенны. Эти особенности различны в зависимости от диапазона частот. Радиоволны на радиолиниях распространяются в естественных условиях, а эти условия разнообразны и непостоянны. Прежде всего необходимо учитывать, что Земля круглая. На пути от передающей до приемной антенны радиоволны должны обогнуть выпуклость Земли.

Сами по себе электромагнитные колебания информации не несут. Для передачи информации необходимо на электромагнитные колебания наложить отпечаток сообщения, т.е. использовать высокочастотные колебания лишь в роли переносчика сообщения. С этой целью нужно изменять один или несколько параметров несущего колебания в соответствии с изменениями сообщения. Тогда получается высокочастотное колебание с меняющимися во времени параметрами по закону передаваемого сообщения, Рассмотренный процесс называется модуляцией.

Таким образом, всякое радиопередающее устройство должно состоять из генератора электрических колебаний, подключенного к передающей антенне и модулятора. В приемном пункте должно находиться устройство, преобразующее энергию электромагнитных волн в энергии. Электрических колебаний, т.е. приемная антенна. Антенна улавливает электромагнитные волны, излучаемые разными передатчиками, работающими на различных частотах. Чтобы принимать сигналы только одной станции, необходимо иметь избирательное устройство, способное выделить из колебаний различных частот только те колебания, которые передаются нужной радиостанцией. Для решения этой задачи используются электрические колебательные контуры, настраиваемые на частоту принимаемой радиостанции.

Выделенные с помощью колебательного контура высокочастотные колебания нужно подвергнуть обратному преобразованию, т.е. получить из них токи или напряжения, изменяющиеся в соответствии с законом модуляции электрических колебаний в радиопередатчике. Для решения этой задачи приемник должен иметь специальное устройство, которое называется детектором. Наконец, выделенный сигнал нужно подать на некоторое оконечное устройство, которое запишет его или позволит человеку воспринимать его в виде звука или света (изображения).