Зв'язок між пропускною здатністю лінії і її смугою пропущення

Чим вище частота несучого періодичного сигналу, тим більше інформації в одиницю часу передається по лінії і тем вище пропускна здатність лінії при фіксованому способі фізичного кодування. Однак, з іншого боку, зі збільшенням частоти періодичного несучого сигналу збільшується і ширина спектру цього сигналу, тобто різниця між максимальною і мінімальною частотами того набору синусоїд, що у сумі дадуть обрану для фізичного кодування послідовність сигналів. Лінія передає цей спектр синусоїд з тими спотвореннями, що визначаються її смугою пропущення. Чим більше невідповідність між смугою пропущення лінії і шириною спектра інформаційних сигналів, які передаються, тим більше сигнали спотворюються і тем імовірніше помилки в розпізнаванні інформації приймаючою стороною, а значить, швидкість передачі інформації насправді виявляється менше, ніж можна було припустити.

Зв'язок між смугою пропущення лінії і її максимально можливою пропускною здатністю, не залежить від прийнятого способу фізичного кодування, встановив Клод Шеннон: С = F log₂ (1 + Р_с/Р_ш), де С — максимальна пропускна здатність лінії в бітах за секунду, F — ширина смуги пропущення лінії в герцах, Р_с — потужність сигналу, Р_ш — потужність шуму.

З цього співвідношення видно, що хоча теоретичної межі пропускної здатності лінії з фіксованою смугою пропущення не існує, на практиці така межа існує. Дійсно, підвищити пропускну здатність лінії можна за рахунок збільшення потужності передавача чи  зменшення потужності шуму (перешкод) на лінії зв'язку. Обидві ці складові піддаються зміні з важкими зусиллями. Підвищення потужності передавача веде до значного збільшення його габаритів і вартості. Зниження рівня шуму вимагає застосування спеціальних кабелів з гарними захисними екранами, що дуже дорого, а також зниження шуму в передавачі і проміжній апаратурі, чого досягти дуже не просто. До того ж вплив потужностей корисного сигналу і шуму на пропускну здатність обмежено логарифмічною залежністю, що росте далеко не так швидко, як прямо-пропорційно. Так, при досить типовому вихідному відношенні потужності сигналу до потужності шуму в 100 разів підвищення потужності передавача в 2 рази дасть тільки 15% збільшення пропускної здатності лінії. Близьким по суті до формули Шеннона є наступне співвідношення, отримане Найквистом, що також визначає максимально можливу пропускну здатність лінії зв'язку, але без обліку шуму на лінії: С = 2Flog₂М, де М — кількість помітних станів інформаційного параметра.

Якщо сигнал має 2 стани, то пропускна здатність дорівнює подвоєному значенню ширини смуги пропущення лінії зв'язку (мал.2.10а). Якщо ж передавач використовує більш ніж 2 стійкі стани сигналу для кодування даних, то пропускна здатність лінії підвищується, тому що за один такт роботи передавач передає декілька біт вихідних даних, наприклад 2 біти при наявності чотирьох помітних станів сигналу

Хоча формула Найквиста явно не враховує наявність шуму, побічно його вплив відбивається у виборі кількості станів інформаційного сигналу. Для підвищення пропускної здатності каналу хотілося б збільшити цю кількість до значних величин, але на практиці ми не можемо цього зробити через шум на лінії. Наприклад, для наведеного на мал.2.10 прикладу, можна збільшити пропускну здатність лінії ще в два рази, використавши  для кодування даних не 4, а 16 рівнів. Однак якщо амплітуда шуму часто перевищує різницю між сусідніми 16 рівнями, то приймач не зможе стійко розпізнавати дані, що пердаються. Тому кількість можливих станів сигналу фактично обмежується співвідношенням потужності сигналу і шуму, а формула Найквиста визначає граничну швидкість передачі даних у тому випадку, коли кількість станів вже обрано з урахуванням можливостей стійкого розпізнавання приймачем. Приведені співвідношення дають граничне значення пропускної здатності лінії, а ступінь наближення до цієї межі залежить від конкретних методів фізичного кодування, які будуть розглянуті нижче.