Рассмотрим ошибку оценки
и ковариационную матрицу ошибки оценки
.
При синтезе оптимального фильтра будем добиваться, чтобы ковариационная матрица оптимального фильтра удовлетворяла неравенству
, (*)
где 
-ковариационная матрица ошибки оптимальной оценки 
.
Введем обозначения: 
, 
.
В теории оптимального оценивания получен следующий фундаментальный результат: оптимальная оценка в смысле выполнения неравенства (*), как неравенства квадратичных форм, существует и представляет собой условное математическое ожидание вектора состояния, записываемое в виде
, (**)
где 
-условная (апостериорная) плотность вектора 
, а 
- совместная плотность распределения векторов 
и 
.
Здесь и далее, интегралы понимаются как многомерные, а дифференциалы от векторов- как произведения дифференциалов их компонент, при этом совместная плотность понимается как совместная плотность вектора состояния динамической системы и измерений в последовательные моменты времени 0,1,2,…… 
: 
.
Действительно, пусть 
оценка, выработанная любым фильтром
Ошибке этой оценки придадим вид
Где 
Заметим, что математическое ожидание берется по совокупности случайных величин и найти его можно последовательно
.
Условную ковариационную матрицу ошибки оценки 
запишем в виде
Рассмотрим второе слагаемое
.
Используя тот факт, что по предположению 
получим, что
, 
=0 и
Проводя теперь осреднение по множеству измерений, также получаем связь между средними ковариационными матрицами
Отметим, что из неравенства (*), понимаемого как неравенство квадратичных форм, вытекает ряд свойств ошибок оптимальной оценки, важных для практических, в частности, навигационных приложений
· среднеквадратические ошибки оценок всех компонент вектора состояния минимальны;
· определитель и главные миноры ковариационной матрицы минимальны;
· след ковариационной матрицы, представляющий собой сумму вторых центральных моментов компонент вектора состояния динамической системы минимален;
· оценка любой линейной комбинации компонент вектора состояния имеет минимальную среднеквадратическую ошибку.
Рассмотрим теперь совместную плотность распределения , используемую для выработки оптимальной оценки. Известно, что эта плотность по правилу перемножения плотностей может быть представлена в виде
.
Фрагменты этой плотности 
и 
при описании поведения динамической системы и процесса измерений уравнениями
,
,
где -вектор состояния размерности 
; 
-вектор измерений размерности 
; 
, 
-центрированные гауссовские векторы белошумных возмущений и ошибок измерений с ковариационными матрицами 
и 
соответственно, 
-многомерная, в общем случае, нелинейная функция; 
-гауссовский вектор начальных условий, 
,
в свою очередь, могут быть представлены с использованием плотностей распределения 
и 
как
,
.
Совместная плотность распределения при этом примет следующий вид:
.
Таким образом, имея совместную плотность распределения можно получить условную плотность распределения и решить задачу оптимального оценивания вектора 
с использованием выражения (**).
Показано, что в случае описания поведения динамической системы и процесса измерений линейными уравнениями при гауссовском распределении ошибок измерений и возмущений в рамках байесовского подхода может быть получены рекуррентные процедуры, получившие название линейного фильтра Калмана.
Фактически рассмотренная процедура является решением задачи оценивания в рамках байесовкого подхода когда используется совместная плотность распределения.
