Дискретный симметричный канал без памяти

Пусть – последовательность символов на входе, а

– последовательность символов на выходе канала, к = 1,n. . Тогда вероятность появления символа при условии, что b_к задано определяют условной или переходной вероятностью

Р( / b_к).

Дискретный канал называют каналом без памяти, если каждый символ на его выходе зависит только от соответ­ствующего символа на входе, а условная вероятность вы­ходной последовательности при заданной входной последовательности определяется равенством

Пусть ошибки любого из символов возникают незави­симо с вероятностью р, а правильный прием происходит с вероятностью (1-р).

Тогда условная вероятность прие­ма символа при передаче b_i:

Будем далее рассматривать передачу двоичных сим­волов «0» и «1». Вероятность появления n-мерного век­тора ошибок, содержащего t единиц, которые соответ­ствуют фактическим ошибкам, равна:

В n-мерном векторе t ошибок могут занимать любые позиции, поэтому несложно определить вероятность по­явления t ошибок, расположенных как угодно в пределах последовательности длины п:

где - число различных сочетаний t ошибок (биномиальный коэффициент).

Для случая, когда переходная вероятность р << 1, можно найти вероятность ошибочного приема последовательности длины n:

Рассмотренную модель дискретного канала можно изобразить графически в виде переходных вероятностей.

Граф переходных вероятностей двоичного симметричного канала

Данная модель дискретного канала является по сути аналогом рассмотренного выше непрерывного канала с аддитивным «белым» шумом, в котором отсутствуют за­мирания.

Двоичный симметричный канал со стиранием

Эта модель является обобщением только что рассмот­ренной модели в случае, когда на выходе появляется до­полнительный третий символ (третье решение), если не удается достоверно опознать переданный элемент сигнала.

Для получения такой модели на выходе канала введем двухпороговое устройство с величиной порога , тогда сигнал, принятый в этом канале, имеет вид:

Данный канал называют каналом со стиранием в «нулевой зоне», поскольку здесь может быть правильное решение, если значение порога превышено при фактически переданном символе, ошибочное решение, если превышение порога соответствует непередававшемуся элементу. Наконец, когда амплитуда выходного сигнала Z оказывается в интервале , производится стирание этого символа. Вероятности этих событий равны соответственно , и p_c.

Такой канал можно описать матрицей переходных вероятностей:

и соответственно графом:

. Граф переходных вероятностей двоичного симметричного канала со стираниями

В отличие от предыдущего здесь произведена замена 0→ +1 и 1 → - 1

Для рассматриваемой модели можно рассчитать вероятность ошибки

и вероятность стирания

где - плотность распределения выходного сигнала канала при передаче символа «0», а - при передаче «1».

По аналогии с предыдущим можно рассчитать вероятность того, что в последовательности символов длиной n произошло t ошибок и стираний, расположенных на любых местах:

В заключение отметим, что за счет введения стирания или отказа от принятия решения удается значительно снизить вероятность ошибки, правда за счет возрастания вероятности стирания.