Выберем в качестве оптимизируемой линейной системы фильтр с характеристикой вида:

Тогда, очевидно,

Кроме того, с учетом 3.12.2 имеем:

.
Тогда полная СКО воспроизведения полезного сигнала:

Оптимальное значение

параметра

находим в результате решения уравнения:

откуда

С целью выявления физического смысла полученной зависимости введем в рассмотрение отношение сигнал/шум

на входе линейной системы. При этом средняя мощность

полезного сигнала

с учетом результатов 3.12.2 равна:

Среднюю мощность шума

на входе линейной системы определим как среднюю мощность «белого шума» в некоторой полосе частот

, занимаемой полезным сигналом:

где

определяется как половина ширины эквивалентного прямоугольника по формуле (см.3.6):

Подставляя рассматриваемую функцию

, получаем

Таким образом,

так что

Вычислим теперь величину минимальной СКО воспроизведения полезного сигнала, соответствующую оптимальному выбору полосы

рассматриваемой линейной системы. В области

имеем:

Тогда минимальная относительная СКО воспроизведения полезного сигнала равна

Соответственно в области

когда

имеем:

4. Оптимизация по критерию максимума отношения сигнал/шум
Рассмотрим, аналогично 1, обработку сигнала

на фоне «белого шума»

, по-прежнему используя в качестве критерия оптимальности критерий максимума отношения

квадрата мгновенного значения сигнала

к средней мощности

шума на выходе системы. В отличие от 1, будем полагать форму сигнала

произвольной, а характеристику

соответствующей линейной системы неизвестной. С учетом результатов 1 и 3 имеем:

В силу неравенства Коши получаем:

так что

Легко видеть, что отношение

достигает своего предельного значения, если

Линейная система с таким импульсным откликом называется фильтром, согласованным с сигналом

. При этом действительно
Выбирая

, где

‑ момент окончания сигнала

, имеем

так что

где

‑ энергия сигнала

.
Сравнивая полученный результат с отношением сигнал/шум на выходе линейной системы, рассмотренной в 4.1.1, легко видеть, что полная оптимизация в данном случае обеспечивает выигрыш в достигаемом значении отношения сигнал/шум, равный

дБ.
Функция передачи

согласованного фильтра в частотной области имеет вид:

где, при

,

‑ функция, комплексно сопряженная со спектром

сигнала

. В частности,

, откуда становится ясным физический смысл полученного результата: при мешающем воздействии в виде «белого шума» согласованный фильтр подавляет в большей степени относительно малые по амплитуде частотные составляющие сигнала

, в определенном смысле «жертвуя» ими в целях более эффективного подавления «белого шума».
Рассмотрим теперь ситуацию, когда шум на входе оптимизируемой системы не является «белым», т.е. является «окрашенным», или коррелированным, когда функция

имеет произвольный вид, отличный от

-функции.
Представим характеристику

рассматриваемой линейной системы в виде произведения

что соответствует каскадному соединению двух соответствующих линейных систем.

Выберем характеристику

так, чтобы она удовлетворяла соотношению:

Тогда на выходе первого каскада имеется сигнал

со спектром

и шум с энергетическим спектром

. Итак, рассматриваемая задача сводится к задаче оптимального приема сигнала

на фоне «белого шума» с энергетическим спектром

. Следовательно, оптимальная характеристика

должна соответствовать характеристике фильтра, согласованного с сигналом

: