3.2 Задача № 3.56
Определить избыточность оптимального по Шеннону кода (существование которого утверждается теоремой для канала с шумом) с объемом алфавита m и средним количеством символов, переданных в единицу времени Vk, предназначенного для безошибочной передачи информации по каналу с пропускной способностью С.
Найти минимально возможную избыточность оптимального кода для симметричного канала при m = 8 и вероятности ошибки P = 0,08.
Решение:
Избыточность кода вычисляется по следующей формуле:

,
где H¢(Z)=Vk*H(Z)
Так как передача информации предполагается безошибочной, то кодирование должно быть однозначным, то есть потери информации при кодировании должны отсутствовать. Это означает, что:
H¢(Z)=H¢(U),
где H¢(U)- производительность источника, который передает информацию.
В соответствии с условием теоремы Шеннона
H¢(U) < C, а H(U) = С + ε = С; (ε→0),
тогда формула избыточности будет выглядеть следующим образом:

, при
ε→0

Для двоичного симметричного канала справедливо выражение:
C=Vk*[1+p*log2p+(1-p)*log2(1-p)]
Подставив известные значения в формулы, получается:
C=Vk*0.6
4. Дискретизация и квантование
4.1 Задача № 4.23
Непрерывный сигнал x(t), имеющий спектр X(jω) дискретизируется с частотой дискретизации ωд , отображенный на рисунке 4. 
Рисунок 4 - Непрерывный сигнал x(t), имеющий спектр X(jω) дискретизируется с частотой дискретизации ωдВыполняется ли в данном случае условие теоремы Котельникова? Построить график спектра дискретизированного сигнала (изобразить 5 периодов спектра). Проиллюстрировать графически процесс восстановления спектра непрерывного сигнала с помощью идеального интерполирующего фильтра по спектру дискретного сигнала.
Решение:
При построении графика спектра дискретизированного сигнала (рисунок 4) исспользуется выражение (3.16) [1], причём для изображения 5 периодов спектра следует учесть 5 слагаемых:


Процесс восстановления спектра непрерывного сигнала с помощью идеального интерполирующего фильтра по спектру дискретного сигнала проиллюстрирован графически на рисунке 5, где первый график представляет собой частотную характеристику идеального фильтра низких частот, а
- спектр сигнала на выходе интерполятора. 
Условие теоремы Котельникова (неравенство (3.17) [1]) в данном случае не выполняется (т.к.
), из-за взаимного перекрытия слагаемых
происходит изменение формы спектра
и точное восстановление
, а следовательно и x(t), невозможно.4.2 Задача № 4.52
Непрерывный сигнал
дискретизируется с частотой дискретизации ωд=2,5. Построить графики непрерывного и дискретизированного сигналов (изобразить не менее пяти периодов). Проиллюстрировать графически процесс восстановления непрерывного сигнала по дискретному во временной области с помощью интерполятора 1-го порядка.Решение:
Зная выражение, описывающее непрерывный сигнал, и частоту дискретизации, найдём период дискретизации
, необходимый при построении графика дискретизированного сигнала, выразив его через период Т непрерывного сигнала:
.Графики исходного непрерывного и дискретизированного сигналов представлены на рисунке 6.

Интерполятором называется фильтр, преобразующий отсчёты дискретного сигнала в непрерывный сигнал. Процесс восстановления сводится к подаче дискретного сигнала на вход фильтра, с выхода которого снимается непрерывный сигнал. Математически процесс восстановления сигнала описывается следующим выражением:
,где
- сигнал на выходе интерполятора;
- отсчёты дискретного сигнала;
- импульсная характеристика фильтра, для интерполятора 1-ого порядка она имеет вид, представленный на рисунке 7.

Итак, процесс восстановления заданного непрерывного сигнала по дискретному во временной области с помощью интерполятора 1-го порядка проиллюстрирован графически на рисунке 8, где последний график описывает сигнал, получившийся на выходе интерполятора.

Рисунок 8 Лист 21 - Процесс восстановления заданного непрерывного сигнала по дискретному во временной области с помощью интерполятора 1-го порядка

Рисунок 8 Лист 22 - Процесс восстановления заданного непрерывного сигнала по дискретному во временной области с помощью интерполятора 1-го порядка

Рисунок 8 Лист 23 - Процесс восстановления заданного непрерывного сигнала по дискретному во временной области с помощью интерполятора 1-го порядка