Пропускная способность дискретного канала связи. Пропускная способность дискретного канала с помехами
На рис. 1 приняты следующие обозначения: X, Y, Z, W – сигналы, сообщения; f – помеха; ЛС – линия связи; ИИ, ПИ – источник и приемник информации; П – преобразователи (кодирование, модуляция, декодирование, демодуляция).
Существуют различные типы каналов, которые можно классифицировать по различным признакам:
1.По типу линий связи: проводные; кабельные; оптико-волоконные;
линии электропередачи; радиоканалы и т.д.
2. По характеру сигналов: непрерывные; дискретные; дискретно-непрерывные (сигналы на входе системы дискретные, а на выходе непрерывные, и наоборот).
3. По помехозащищенности: каналы без помех; с помехами.
Каналы связи характеризуются:
1. Емкость канала определяется как произведениевремени использования канала T к, ширины спектра частот, пропускаемых каналом F к и динамического диапазона D к . , который характеризует способность канала передавать различные уровни сигналов
V к = T к F к D к. (1)
Условие согласования сигнала с каналом:
V c £ V k ; T c £ T k ; F c £ F k ; V c £ V k ; D c £ D k .
2.Скорость передачи информации – среднее количество информации, передаваемое в единицу времени.
3.
4. Избыточность – обеспечивает достоверность передаваемой информации (R = 0¸1).
Одной из задач теории информации является определение зависимости скорости передачи информации и пропускной способности канала связи от параметров канала и характеристик сигналов и помех.
Канал связи образно можно сравнивать с дорогами. Узкие дороги – малая пропускная способность, но дешево. Широкие дороги – хорошая пропускная способность, но дорого. Пропускная способность определяется самым «узким» местом.
Скорость передачи данных в значительной мере зависит от передающей среды в каналах связи, в качестве которых используются различные типы линий связи.
Проводные:
1. Проводные – витая пара (что частично подавляет электромагнитное излучение других источников). Скорость передачи до 1 Мбит/с. Используется в телефонных сетях и для передачи данных.
2. Коаксиальный кабель. Скорость передачи 10–100 Мбит/с – используется в локальных сетях, кабельном телевидении и т.д.
3. Оптико-волоконная. Скорость передачи 1 Гбит/с.
В средах 1–3 затухание в дБ линейно зависит от расстояния, т.е. мощность падает по экспоненте. Поэтому через определенное расстояние необходимо ставить регенераторы (усилители).
Радиолинии:
1.Радиоканал. Скорость передачи 100–400 Кбит/с. Использует радиочастоты до 1000 МГц. До 30 МГц за счет отражения от ионосферы возможно распространение электромагнитных волн за пределы прямой видимости. Но этот диапазон сильно зашумлен (например, любительской радиосвязью). От 30 до 1000 МГц – ионосфера прозрачна и необходима прямая видимость. Антенны устанавливаются на высоте (иногда устанавливаются регенераторы). Используются в радио и телевидении.
2.Микроволновые линии. Скорости передачи до 1 Гбит/с. Используют радиочастоты выше 1000 МГц. При этом необходима прямая видимость и остронаправленные параболические антенны. Расстояние между регенераторами 10–200 км. Используются для телефонной связи, телевидения и передачи данных.
3. Спутниковая связь . Используются микроволновые частоты, а спутник служит регенератором (причем для многих станций). Характеристики те же, что у микроволновых линий.
2. Пропускная способность дискретного канала связи
Дискретный канал представляет собой совокупность средств, предназначенных для передачи дискретных сигналов .
Пропускная способность канала связи – наибольшая теоретически достижимая скорость передачи информации при условии, что погрешность не превосходит заданной величины.Скорость передачи информации – среднее количество информации, передаваемое в единицу времени. Определим выражения для расчета скорости передачи информации и пропускной способности дискретного канала связи.
При передаче каждого символа в среднем по каналу связи проходит количество информации, определяемое по формуле
I (Y, X) = I (X, Y) = H(X) – H (X/Y) = H(Y) – H (Y/X) , (2)
где: I (Y, X) – взаимная информация, т.е.количество информации, содержащееся в Y относительно X ; H(X) – энтропия источника сообщений; H (X/Y) – условная энтропия, определяющая потерю информации на один символ, связанную с наличием помех и искажений.
При передаче сообщения X T длительности T, состоящего из n элементарных символов, среднее количество передаваемой информации с учетом симметрии взаимного количества информации равно:
I(Y T , X T) = H(X T) – H(X T /Y T) = H(Y T) – H(Y T /X T) = n . (4)
Скорость передачи информации зависит от статистических свойств источника, метода кодирования и свойств канала.
Пропускная способность дискретного канала связи
. (5)
Максимально-возможное значение, т.е. максимум функционала ищется на всем множестве функций распределения вероятности p(x) .
Пропускная способность зависит от технических характеристик канала (быстродействия аппаратуры, вида модуляции, уровня помех и искажений и т.д.). Единицами измерения пропускной способности канала являются: , , , .
2.1 Дискретный канал связи без помех
Если помехи в канале связи отсутствуют, то входные и выходные сигналы канала связаны однозначной, функциональной зависимостью.
При этом условная энтропия равна нулю, а безусловные энтропии источника и приемника равны, т.е. среднее количество информации в принятом символе относительно переданного равно
I (X, Y) = H(X) = H(Y); H (X/Y) = 0.
Если Х Т – количество символов за время T , то скорость передачи информации для дискретного канала связи без помех равна
(6)где V = 1/ – средняя скорость передачи одного символа.
Пропускная способность для дискретного канала связи без помех
(7)
Т.к. максимальная энтропия соответствует для равновероятных символов, то пропускная способность для равномерного распределения и статистической независимости передаваемых символов равна:
. (8)
Первая теорема Шеннона для канала:Если поток информации, вырабатываемый источником, достаточно близок к пропускной способности канала связи, т.е.
, где - сколь угодно малая величина,
то всегда можно найти такой способ кодирования, который обеспечит передачу всех сообщений источника, причем скорость передачи информации будет весьма близкой к пропускной способности канала.
Теорема не отвечает на вопрос, каким образом осуществлять кодирование.
Пример 1. Источник вырабатывает 3 сообщения с вероятностями:
p 1 = 0,1; p 2 = 0,2 и p 3 = 0,7.
Сообщения независимы и передаются равномерным двоичным кодом (m = 2 ) с длительностью символов, равной 1 мс. Определить скорость передачи информации по каналу связи без помех.
Решение: Энтропия источника равна
[бит/с].
Для передачи 3 сообщений равномерным кодом необходимо два разряда, при этом длительность кодовой комбинации равна 2t.
Средняя скорость передачи сигнала
V =1/2 t = 500 .
Скорость передачи информации
C = vH = 500 × 1,16 = 580 [бит/с].
2.2 Дискретный канал связи с помехами
Мы будем рассматривать дискретные каналы связи без памяти.
Каналом без памяти называется канал, в котором на каждый передаваемый символ сигнала, помехи воздействуют, не зависимо от того, какие сигналы передавались ранее. То есть помехи не создают дополнительные коррелятивные связи между символами. Название «без памяти» означает, что при очередной передаче канал как бы не помнит результатов предыдущих передач.
Соотношения (7.1)–(7.3), определяющие скорость передачи и пропускную способность канала и линии связи, являются общими, и поэтому они применимы как для дискретных, так и для непрерывных каналов, как для каналов без шумов, так и для каналов с шумами. Разница заключается в способе вычисления количества информации, содержащейся в последовательности выходных сигналов Z T , о входных сигналах Y T , т.е. I (Z T , Y T ).
Для вычисления I (Z T , Y T ) можно использовать соотношения (5.30) или (5.31). Из этих соотношений получаем
I(Z T ,Y T) = H(Z T) – H(Z T | Y T) = H(Y T) – H(Y T | Z T). (8.9)
Будем полагать, что шумы, действующие в канале связи, имеют эргодический характер. Это значит, что, например, при длительной многократной передаче сигнала у i сигналы z на выходе канала с вероятностью, как угодно близкой к единице, образуют типичную последовательность. То же самое справедливо и при передаче эргодической последовательности различных сигналов у. При таком условии выход канала связи может рассматриваться как эргодический источник.
Для последовательности длительностью Т, содержащей М сигналов такого источника, имеем
H(Z T) = MH(Z), (8.10)
где H(Z) – энтропия выходного сигнала или, точнее, энтропия выхода канала связи, рассматриваемого как эргодический источник.
Величина H(Z) может быть подсчитана по формуле, аналогичной (6.10),
H(Z) = (8.11)
При этом Q l и Q k обозначены характерные состояния выхода канала связи.
Такое же соотношение получим и для вычисления условной энтропии
H(Z T | Y T) = MH(Z | Y), (8.12)
где H(Z |Y) – энтропия выходного сигнала канала связи при известных входных сигналах.
Повторяя рассуждения, приведенные при выводе (6.10), получим
H(Z |Y) = (8.13)
При этом p(Q l | Q k , y j) – условная вероятность перехода выхода канала связи из состояния Q k в состояние Q l при передаче сигнала y j .
Из (8.9), (8.10) и (8.12) следует, что
I(Z T , Y T) = MH(Z) – MH(Z | Y).
При определении скорости передачи информации по (7.3 ’) учтем, что ; при этом, как и ранее, - средняя длительность сигнала одного сообщения. Тогда получим
Повторяя рассуждения, аналогично найдем
В последнем равенстве - поток информации на выходе кодирующего устройства, характеризует потерю информации, обусловленную действием помех.
Из найденных соотношений и (7.3) следует, что пропускная способность канала связи при наличии помех может быть определена из условия
Оба определения равноправны и дают одно и то же значение С с. Использование того или иного определения дикдуется удобством анализа. При отыскании оптимальных статистических характеристик передаваемых сигналов (у ) необходимо иметь в виду следующее:
Характерные состояния выхода канала связи (Q k , Q l ) могут определяться двумя обстоятельствами:
а) наличием фиксированных ограничений, т.е. запретов, накладываемых на допустимую последовательность передачи различных сигналов, и
б) коррелятивными связями между символами, вызываемыми действием шумов.
Каналы, у которых на каждый передаваемый сигнал (символ) шум воздействует независимоот того, какие сигналы передавались ранее, называются каналами без памяти. В этих каналах шумы не вызывают дополнительных коррелятивных связей между сигналами. В настоящее время основные выводы теории информации получены применительно к каналам без памяти.
Проиллюстрируем вычисление пропускной способности канала на следующем примере.
Пусть требуется определить пропускную способность канала связи, по которому передаются двоичные сигналы со скоростью v x , если вероятность превращения в результате действия помех каждого из этих сигналов в противоположный равна р (вероятность правильного приема, следовательно, 1 – р ). Передаваемые сигналы предполагаются независимыми.
Рис. 8.3. Двоичный симметричный канал
В этом случае алфавит Х и алфавит Y состоят из двух символов: Х = (х 1 ,х 2), Y =(у 1 , у 2). Диаграмма рис. 8.3 показывает возможные варианты передачи и соответствующие им вероятности. Такой канал называется симметричным.
Средняя условная энтропия
Но p (x 1) + p (x 2)=1.
H (Y ôX )= -p log p – (1 – p )log (1 – p ).
Отсюда видно, что H (Y ôX )не зависит от характеристик источника, т.е. от р (х 1)и р (х 2),и определятся только помехами в канале передачи.
Максимальное количество информации на один символ получается, следовательно, при таком распределении вероятностей р (х i ),при котором оказывается максимальным член H (Y ). Но H (Y )не может превосходить величины
H m (Y )= log m =log 2
(что достигается при р (х 1)= р (х 2)=1/2.Поэтому имеем:
max{I (Y , X ) = log 2 + p log p + (1 – p )log (1 – p )
и, следовательно, пропускная способность
C = v x max {I (Y , X )} =
= v x . (8.19)
Отсюда следует, в частности, что при p = 0,т.е. при отсутствии шумов в канале, имеем максимальное значение С
С max = v x log 2.
При р =1 также имеем детерминированный случай, когда сигналы х 1 переводятся в сигналы х 2 и наоборот с вероятностью, равной единице. При этом пропускная способность канала также максимальна.
Минимальное значение пропускная способность имеет при p =1/2(C max = 0).
Если на вход канала подаются сигналы от всех возможных источников дискретных сообщений с одинаковым количеством символов в единицу времени u = 1/T и числом элементарных символов т, то выражение для С и, соответственно, для пропускной способности канала в расчете на единицу времени выглядит так:
Отсюда при т = 2 имеем (8.19).
Наибольшая производительность источника в этом случае достигается при максимальной энтропии.
4.3.1 Модели дискретных каналов .
Дискретным каналом называют совокупность средств, предназначенных для передачи дискретных сигналов. Такие каналы широко используются, например, при передачи данных, в телеграфии, радиолокации.
Дискретные сообщения, состоящие из последовательности знаков алфавита источника сообщений (первичного алфавита) z 1 , z 2 , …, z l , преобразуются в кодирующем устройстве в последовательность символов. Объем m алфавита символов (вторичного алфавита) u 1 , u 2 , …, u m , как правило, меньше объема l алфавита знаков, но они могут и совпадать.
Материальным воплощением символа является элементарный сигнал, получаемый в процессе манипуляции – дискретного изменения определенного параметра переносчика информации. Элементарные сигналы формируются с учетом физических ограничений, накладываемых конкретной линией связи. В результате манипуляции каждой последовательности символов ставится в соответствии сложный сигнал. Множество сложных сигналов конечно. Они различаются числом, составом и взаимным расположением элементарных сигналов.
Термины «элементарный сигнал» и «символ», так же как «сложный сигнал» и «последовательность символов», в дальнейшем будут использоваться как синонимы.
Информационная модель канала с помехами задается множеством символов на его входе и выходе и описанием вероятностных свойств передачи символов. В общем случае канал может иметь множество состояний и переходить из одного состояния в другое как с течением времени, так и в зависимости от последовательности передаваемых символов.
В каждом состоянии канал характеризуется матрицей условных вероятностей p(s i /z i) того, что переданный символ z i будет воспринят на выходе как символ s i . Значения вероятностей в реальных каналах зависят от многих различных факторов: свойств сигналов, являющихся физическими носителями символов (энергия, вид модуляции и т.д.), характер и интенсивность воздействующих на канал помех, способа определения сигнала на приемной стороне.
При наличии зависимости переходных вероятностей канала от времени, что характерно для всех реальных каналов, он называется нестационарным каналом связи. Если эта зависимость несущественна, используется модель в виде стационарного канала, переходные вероятности которого не зависят от времени. Нестационарный канал может быть представлен рядом стационарных каналов , соответствующих различным интервалам времени.
Канал называется с «памятью» (с последействием), если переходные вероятности в данном состоянии канала зависят от его предыдущих состояний. Если переходные вероятности постоянны , т.е. канал имеет только одно состояние, он называется стационарным каналом без памяти . Под k -ичным каналом подразумевается канал связи, у которого число различных символов на входе и выходе одинаково и равно k .
Стационарный дискретный двоичный канал без памяти однозначно определяется четырьмя условными вероятностями: p(0/0), p(1/0), p(0/1), p(1/1). Такую модель канала принято изображать в виде графа , представленного на рис. 4.1. где p(0/0) и p(1/1) – вероятности неискаженной передачи символов, а p(0/1) и p(1/0) – вероятности искажения (трансформация) символов 0 и 1 соответственно.
Граф – модель стационарного двоичного канала без памяти
Если вероятности искажения символов можно принять равными, т.е. p(0/1)≈p(1/0)=q , то такой канал называют двоичным симметричным каналом [при p(0/1)≠p(1/0) канала называется несимметричным]. Символы на его выходе правильно принимают с вероятностью p и неправильно – с вероятностью 1-p=q . Математическая модель упрощается.
Именно этот канал исследовался наиболее интенсивно не столько в силу своей практической значимости (многие реальные каналы описываются им весьма приближенно), сколько в силу простоты математического описания.
Важнейшие результаты, полученные для двоичного симметричного канала, распространены на более широкие классы каналов.
Следует отметить еще одну модель канала, которая в последнее время приобретает все большее значение. Это дискретный канал со стиранием. Для него характерно, что алфавит выходных символов отличается от алфавита входных сигналов. На входе, как и ранее, символы 0 и 1 , а на выходе канала фиксируются состояния, при которых сигнал с равным основанием может быть отнесен как к единице, так и к нулю. На месте такого символа не ставится ни нуль, ни единица: состояние отмечается дополнительным символом стирания S . При декодировании значительно легче исправить такие символы, чем ошибочно определенные.
На рис. 4.2. приведены модели стирающего канала при отсутствии (рис. 4.2, а) и при наличии (рис. 4.2, б) трансформации символов.
Граф-модель стационарного двоичного канала без памяти со стиранием.
4.3.2 Скорость передачи информации по дискретному каналу .
Характеризуя дискретный канал связи, используют два понятия скорости передачи: технической и информационной.
Под технической скорости передачи V T , называемой также скоростью манипуляции, подразумевают число элементарных сигналов (символов), передаваемых по каналу в единицу времени. Она зависит от свойств линии связи и быстродействия аппаратуры канала.
С учетом возможных различий в длительностях символов скорость
(4.8)
где τ ср – среднее значение длительности символа.
При одинаковой продолжительности τ всех передаваемых символов τ ср =τ .
Единицей измерения технической скорости служит бод – скорость, при которой за одну секунду передается один символ.
Информационная скорость или скорость передачи информации, определяется средним количеством информации , которое передается по каналу в единицу времени. Она зависит как от характеристик данного канала связи, таких, как объем алфавита используемых символов, техническая скорость их передачи, статистические свойства помех в линии, так и от вероятностей поступающих на вход символов и их статистической взаимосвязи.
Если по каналу передается z k символов в единицу времени, т.е. техническая скорость равна V T , а среднее количество информации на один символ канала равно J(Z, S) , то скорость передачи информации по каналу R k задается соотношением
(4.9)
где J(Z, S) – среднее количество информации, переносимое одним символом.
4.3.3 Пропускная способность дискретного канала без помех .
Для теории и практики важно выяснить, до какого предела и каким путем можно повысить скорость передачи информации по конкретному каналу связи. Предельные возможности канала по передаче информации характеризуется его пропускной способностью.
Пропускная способность канала С д равна той максимальной скорости передачи информации по данному каналу, которой можно достигнуть при самых совершенных способах передачи и приема:
При заданном алфавите символов и фиксированных характеристиках канала (например, полосе частот, средней и пиковой мощности передатчика) остальные характеристики должны быть выбраны такими, чтобы обеспечить наибольшую скорость передачи по нему элементарных сигналов, т.е. обеспечить максимальное значение V T . Максимум среднего количества информации, приходящейся на один символ принятого сигнала I(Z, S) , определяется на множестве распределений между символами S 1 , …, S i , …, S m .
Пропускная способность канала, как и скорость передачи информации по каналу, измеряется числом двоичных единиц информации в секунду (дв. ед./с. или бит./с.).
Так как в отсутствии помех имеет место взаимно-однозначное соответствия между множеством символов {z} на выходе канала и {s} на его входе, то I(Z, S)=I(S, Z)=H(S). Максимум возможного количества информации на символ равен logm , где m – объем алфавита символов, откуда пропускная способность дискретного канала без помех
(4.11)
Следовательно, для увеличения скорости передачи информации по дискретному каналу без помех и приближения ее к пропускной способности канала последовательность букв сообщения должна подвергнутся такому преобразованию в кодере, при котором различные символы в его выходной последовательности появлялись бы по возможности равновероятно, а статистические связи между ними отсутствовали бы.
Доказано (см , §5.4), что это выполнимо для любой эргодической последовательности букв, если кодирование осуществлять блоками такой длины, при которой справедлива теорема об их асимптотической равновероятности.
Расширение объема алфавита символов m приводит к повышению пропускной способности канала (рис. 4.3.), однако возрастает и сложность технической реализации.
График изменения С Д =φ(m) , где m – объем алфавита символов передачи.
4.3.4 Пропускная способность дискретного канала с помехами .
При наличии помех соответствие между множествами символов на входе и выходе канала связи перестает быть однозначным. Среднее количество информации I(S, Z), передаваемое по каналу одним символом, определяется в этом случае соотношением
Если статистические связи между символами отсутствуют, энтропия сигнала на выходе линии связи равна
(4.13)
При наличии статистической связи энтропию определяют с использованием цепей Маркова. Поскольку алгоритм такого определения ясен и нет необходимости усложнять изложение громоздкими формулами, ограничимся здесь только случаем отсутствия связей.
Апостериорная энтропия характеризует уменьшение количества переданной информации вследствие возникновения ошибок. Она зависит как от статистических свойств последовательностей символов, поступающих на вход канала связи, так и от совокупности переходных вероятностей, отражающих вредное действие помехи.
Если объем алфавита входных символов Z равен m 1 , а выходных символов S – m 2 , то
(4.14)
Подставив выражения (4.13) и (4.14) в (4.12) и проведя несложные преобразования, получим среднее количество информации
(4.15)
Скорость передачи информации по каналу с помехами
(4.16)
Считая скорость манипуляции V T предельно допустимой при заданных технических характеристиках канала, величину I(S,Z) можно максимизировать, изменяя статистические свойства последовательностей символов на входе канала посредством преобразователя (кодера канала). Получаемое при этом предельное значение C Д скорости передачи информации по каналу называют пропускной способностью дискретного канала связи с помехами :
(4.17)
где p(z) – множества возможных распределений вероятностей входных сигналов.
Важно подчеркнуть, что при наличии помех пропускная способность канала определяет наибольшее количество информации в единицу времени, которое может быть передано со сколь угодно малой вероятностью ошибки.
Показано , что к пропускной способности канала связи с помехами можно приблизиться, кодируя эргодическую последовательность букв источника сообщений блоками такой длины, при которой справедлива теорема об асимптотической равновероятности длинных последовательностей.
Произвольно малая вероятность ошибки оказывается достижимой только в пределе, когда длина блоков становится бесконечной.
При удлинении кодируемых блоков возрастает сложность технической реализации кодирующих и декодирующих устройств и задержка в передаче сообщений, обусловленная необходимостью накопления требуемого числа букв в блоке. В рамках допустимых усложнений на практике при кодировании могут преследоваться две цели: либо при заданной скорости передачи информации стремятся обеспечить минимальную ошибку, либо при заданной достоверности – скорости передачи, приближающуюся к пропускной способности канала.
Предельные возможности канала никогда не используются полностью. Степень его загрузки характеризуется коэффициентом использования канала
, (4.18)
где R u (Z) – производительность источника сообщений; С Д – пропускная способность канала связи.
Поскольку нормальное функционирование канала возможно, как показано далее, при изменении производительности источника в пределах 0≤ R u (Z)≤ С Д , λ теоретически может изменятся в пределахот 0 до 1.
Пример 4.4 Определить пропускную способность двоичного симметричного канала (ДСК) со скоростью манипуляции V T в предположении независимости передаваемых символов.
Запишем соотношение (4.14) в следующем виде:
Воспользовавшись обозначениями на графе (рис. 4.4), можем записать
Так как p(0) + p(1) =1, то
Величина H(Z|S) не зависит от вероятностей входных символов, что является следствием симметрии канала.
Следовательно, пропускная способность
Максимум H(Z) достигается при равенстве вероятностей появления символов, он равен 1. Отсюда
(4.19)
График зависимости пропускной способности ДСК от p показан на рис. 4.5. При увеличении вероятности трансформации символа с 0 до ½ С Д (p) уменьшится от 1 до 0. Если p=0, то шум в канале отсутствует и его пропускная способность равна 1. При p=1/2 канал бесполезен, так как значения символов на приемной стороне с равным успехом можно устанавливать по результатам подбрасывания монеты (герб – 1, решетка – 0). Пропускная способность канала при этом равна нулю.
(Информационно-измерительные подходы для оценки качества технических средств хронометрии)
(Теория электрической связи)
Скорость передачи информации и пропускная способность дискретного канала без помех
Передача информации происходит во времени, поэтому можно ввести понятие скорости передачи как количество информации, передаваемой в среднем за единицу времени. Для эргодических последовательностей сообщений, где допускается усреднение во времени, скорость передачи равна: Здесь J(aT) - количество информации,...Пропускная способность непрерывного канала связи
Пусть сигнал на выходе канала равен сумме входного сигнала и присутствующего в канале нормального шума: а статистические свойства сигнала и смеси сигнала и шума описываются «-мерными плотностями вероятности: Если канал имеет ограниченную ширину полосы пропускания Р, то смесь сигнала и шума...(Теория электрической связи)
Сети с заданными пропускными способностями узлов и связей.
Пусть в сети N= (К, R) заданы пропускные способности связей санузлов g;,j= 1,2,..., | к |. Необходимо найти максимальный поток между источником 5 и стоком /, при этом полный поток, входящий в узел Хр не должен превышать^ для всех j. Такая задача возникает,...(Основы функционирования систем сервиса)
Скорость передачи информации и пропускная способность дискретных каналов с помехами
Отличительной особенностью рассмотренных ранее каналов без помех является то, что при выполнении условия теоремы Шеннона количество принятой информации на выходе канала всегда равно количеству информации, переданной от источника сообщений. При этом, если на вход канала поступил сигнал щ, то на выходе...(Теоретические основы информационных процессов и систем)