Сформулируем и представим графически задачу приема в условиях помех.
Существует множество (дискретное) сигналов с заданной вероятностной мерой .
В канале связи сигналы из множества взаимодействуют с шумом так, что на выходе канала имеем . Считаем, что нам известны вероятностные характеристики шума и способ взаимодействия сигнала с шумом (аддитивный, мультипликативный).
На приемном конце, таким образом, мы имеем дело с пространством наблюдаемых значений (непрерывным), каждая точка которого есть результат взаимодействия сигнала с шумом .
По результату наблюдения необходимо вынести решение согласно некоторого правила , о том какой сигнал передавался.
Множество решений дискретно и обычно соответствует множеству сигналов (если нет стирания). Как видно из постановки, на языке математической статистики задача приема сигналов есть задача проверки гипотез.
Если использовать нерандомизированное правило решений, то необходимо пространство разбить на подмножества . Попадание в точки влечет за собой решение о том, что передавался сигнал .
Пусть сигналов всего два и . Можно составить таблицу решений и матрицу ошибок.
Передан сигнал | Принято решение | Комментарий | |||
верное решение | ошибочное решение о сигнале 1 | ||||
ошибочное решение о сигнале 2 | верное решение |
- вероятность ошибки первого рода (пропуск цели, риск заказчика, уровень значимости),
- вероятность ошибки второго рода (ложная тревога, риск изготовителя),
- мощность критерия,
- оперативная характеристика.
Чтобы вычислить вероятности ошибок надо знать условные вероятности и .
Тогда,
.
Принимая ошибочное решение, мы несем потери. В общем случае можно считать заданной матрицу потерь
.
Решение, которое минимизирует среднюю величину потерь, или средний риск, называется байесовским. Чтобы найти его запишем выражение для среднего риска:
Т.к. не зависит от правила решения, необходимо минимизировать функционал:
Минимум данного функционала достигается в том случае, когда область выбирается так, что подынтегральное выражение содержит все отрицательные и только отрицательные значения, т.е.
.
Таким образом, надо для принятия решения вычислить отношение правдоподобия:
и сравнить с величиной .
Если , выносится решение о передаче сигнала ; если , выносится решение о передаче сигнала .
Для задач связи обычно - верные решения потерь не дают; - ошибочные решения вызывают равные потери, сигналы равновероятны . В этом случае . Решение выносится в пользу той гипотезы, которая более правдоподобна. Критерий минимального риска в этом случае называется критерием максимального правдоподобия Фишера.
Если потери от ошибочных решений одинаковы, но , критерий минимального риска переходит в критерий идеального наблюдателя Зигерта-Котельникова. Гиперплоскость, разделяющая области и будет иметь вид:
.
Отношение в левой части носит название обобщенного отношения правдоподобия. Если воспользоваться формулой Байеса, то можно записать это отношение как отношение апостериорных вероятностей гипотез:
.
При использовании критерия идеального наблюдателя минимизируется величина ошибки.
.
Для одномерного случая геометрически можно проиллюстрировать сказанное рисунком.
Точка делит ось на две области и . Если наблюдаемый сигнал окажется в , выносится решение о передаче , в - о передаче . Суммарная ошибка равна заштрихованной площади. Смещение вправо или влево может только увеличить ошибку.
Таким образом. существует способ приема, при котором величина ошибки распознавания сигналов минимальна. Этот способ и реализующий его приемник называют оптимальным или идеальным. Вычислить ошибку и построить схему можно, зная и . Эта задача была решена Котельниковым.