Понятие линейной системы и анализ линейных систем. Применение дифференциальных уравнений. Применение импульсных характеристик. Применение частотных характеристик. Нелинейные безынерционные преобразования случайных процессов.
Обнаружение и оценка параметров сигналов в присутствии шумов.
6.1. Описание сигнала и помехи. Типы решаемых задач. Проверка статистических гипотез (выборка, выборочное пространство, функция правдоподобия, гипотезы простые и сложные, решения, правила решения, вероятности ошибок). Статистика, критерий качества принятия решений, матрица потерь, условный риск, средний риск.
6.2. Проверка двухальтернативных гипотез:
критерий Байеса, минимаксный критерий, критерий максимума апостериорной вероятности, критерий максимума правдоподобия, критерий Неймана-Пирсона, последовательный анализ Вальда, рабочая характеристика.
6.3. Обработка непрерывных сигналов. Функционал правдоподобия. Функционал отношения правдоподобия.
6.4. Применение функционала отношения правдоподобия для обнаружения полностью известного сигнала (алгоритм, вероятности ошибок) и сигнала со случайной фазой (алгоритм, вероятности ошибок).
Оценка параметров сигналов.
7.1. Точечная оценка, интервальная оценка. Свойства точечных оценок (состоятельность, несмёщенность, эффективность, достаточность). Неравенство Рао-Крамера. Оценка математического ожидания и дисперсии нормального распределения.
7.2. Применение функционала правдоподобия для оценки параметров сигнала. Оценка временного положения сигнала. Постановка задачи, шумовая и сигнальная функции и их характеристики, отношение сигнал/шум, определение сигнальной функции для прямоугольного видео сигнала, обработка пачки сигналов (отношение сигнал/шум).
7.3. Реализация алгоритма оценки временного положения сигнала. Корреляционный приемник, согласованный фильтр (импульсная и частотные характеристики, сигнал на выходе согласованного фильтра, отношение сигнал/шум, оптимальность согласованного фильтра, соотношение между реальным и согласованным фильтрами).
Теория информации
Теорема Котельникова для случайных процессов.
Квантование сигнала.
Мера информации.
3.1. Мера информации по Фишеру, по Хартли.
3.2. Мера информации по Шеннону (определение, энтропия и ее свойства, энтропия произведения ансамбля, энтропия непрерывного ансамбля Энтропия сигнала с ограниченной областью определения. Энтропия сигнала с неограниченной областью определения, но с ограниченной мощностью), Количество взаимной информации, частные количества взаимной информации. Эпсилон энтропия (ε- энтропия). Коэффициент сжатия, коэффициент избыточности.
4. Кодирование источника независимых сообщений: кодовое дерево, префиксность кода, равномерное кодирование, кодирование по методу Шеннона, кодирование по методу Хафмена, теорема Шеннона о кодировании источника. Характеристики источника и кодера источника.
5. Канал связи. Классификация. Скорость передачи информации и пропускная способность.
5.1. Канал без шумов: пропускная способность, теорема Шеннона для канала без шумов.
5.2. Канал с шумами: двоичный симметричный канала (пропускная способность), теорема Шеннона о пропускной способности для канала с шумами.
5.3. Непрерывный по ансамблю канал связи. Модель непрерывного канала. Пропускная способность непрерывного канала. Ограничения на сигнал. Теорема Шеннона о пропускной способности для сигнала и шума, ограниченных по мощности.
5.4. Частотно-ограниченный канал. Сигнал, ограниченный по частоте и во времени. Шум, ограниченный по частоте и во времени. Теорема Шеннона о пропускной способности канала для сигналов, ограниченных по частоте и во времени. Объем канала и сигнала.
