6.3 Үздіксіз және дискретті байланыс каналдарының моделі

Ақпараттық жүйелердегі хабарлама түрлері

Дискретті хабарлама жеке символдардың соңғы тізбегі болып табылады. Дискретті хабарламаны сигналға түрлендіру үшін хабарламаны кодтау операциясын орындау керек, сол кезде ақпаратты беру жылдамдығы мен кедергіге төзімділігі артады.

Үздіксіз хабарлама уақыттың үздіксіз функциясымен анықталады. Үздіксіз хабарламаларды дискретті әдістермен беруге болады. Бұл үшін үздіксіз сигналды (хабарламаны) уақытта дискреттеу мен деңгей бойынша кванттауға ұшыратады. Қабылдаушы жақта дискретті есептеулер бойынша үздіксіз функцияны қалпына келтіру орындалады.

Хабарламаны математикалық түрде сипаттау кезінде дискреттік хабарламалардың құрылуы хабарлама көзінің алфавитінен кез келген символды кездейсоқ тізбектей таңдау ретінде қарастырылады.

Үздіксіз хабарламалардың құрылуы кездейсоқ үздіксіз процестің іске асырылуын (реализация) таңдау болып табылады. Негізгі ақпараттық сипаттамаларға хабарламалардағы ақпарат саны, хабарлама шығындығы, энтропия, хабарлама көзінен шығару мүмкіндігі, ақпаратты беру жылдамдығы жатады.

Аталған сипаттамаларды дискретті хабарлама үшін қарастырайық.

Ақпарат көлемі A, m дискретті хабарламадан тұрсын, әр хабарлама n символ кірсін. Қабылданған белгілеулерде дискретті символдардың жалпы саны N0=mn болады. Осындай көздердегі хабарламаларда ақпарат саны қалай анықталатынын көрсетейік.

Ақпарат санын анықтау кезінде келесі шарттар орындалуы керек:

• ұзақ созылған хабарламаларда әдетте, ақпарат саны көп болады;

• егер алфавит көлемі үлкен болса, онда әрбір жеке хабарламада ақпарат көбірек болады;

• бірнеше хабарламада алынған ақпарат аддитивтік шартын қанағаттандыру керек.

Хабарламалардың жоғарыда көрсетілген шарттарда қанағаттандыратын ыңғайлы сипаттамасы ақпарат санының логарифмдік өлшемі І болады, нақтырақ айтсақ:

I = logN0=nlogm.

Бұл формуланы 1928 жылы Р.Хартли ақпарат санының өлшемі ретінде ұсынған. Хартли формуласы хабарламалар құрылуының кездейсоқ сипатын көрсетпейді. Бұл кемшілікті жою үшін хабарламадағы ақпарат санын символдардың пайда болу ықтималдығымен байланыстыру керек. Бұл мәселені 1948 жылы К.Шеннон шешті.

Ақпарат санын анықтау

Хабарлама бір символдан тұрсын дейік. Егер барлық символдардың пайда болу ықтималдығы бірдей және P = 1/m болса, онда символдың тасымалдайтын ақпарат санын былай көрсетуге болады:

I1 = log m = -log P.

Мұнда ақпарат саны символдың пайда болу ықтималдығымен байланысты. Шынайы хабарламаларда символдар ai  A әртүрлі ықтималдықтармен пайда болады P(ai), сондықтан

Ii = -log P(ai).

Хабарлама көзінің бір символына сай келетін ақпараттық орта саны алфавиттің барлық көлемінің орташа мәні арқылы табуға болады.

H(A) = - . (6.1)

Бұл шама дискреттік хабарламаның энтпропиясы деп аталады. (6.1) формула Шеннон формуласы деген атқа ие.

Энтропия хабарлама көзінің іс-әрекетіндегі анықталмағандықтың мәні ретінде қарастырылады. Ықтималдық тәсілімен келгенде ақпарат көзінің күйі анықталмағандықпен сипатталады. Анықталмағандық хабарламаны қабылдау кезінде, яғни ақпарат алғанда азаяды. Сондықтан хабарлама көзінің бір символына келетін, алынатын ақпарат анықталмағандық деңгейін сан түрінде анықтайды. Энтропия символдардың пайда болу ықтималдығынан үздіксіз функция болып табылады және келесі қасиеттерге ие:

• дискретті хабарламалар көзінің энтропиясы заттық шама, шектеулі және теріс емес;

• егер бірлік ықтималдығымен бір ғана символ таңдалса, энтропия 0-ге тең (көздің әрекетінде анықталмағандық жоқ);

• егер көздің барлық символдары тәуелсіз және бірдей ықтималдықпен пайда болса, онда энтропия максималды:

Hmax = mPlogP = m(1/m)log(1/m) = log m.

Егер символдар өзара байланысқан болса, онда шартты энтропия түсінігі қолданылады.

H(A’/A) = - , (6.2)

мұндағы, P(aj’/ai) – ai символынан кейінгі aj символының пайда болуының шартты ықтималдығы.

Символдарың корреляциялық байланысы мен шынайы хабарламаларда олардың пайда болу ықтималдығының теңсіздігінен бір символдың тасымалдайтын ақпараттың орташа саны азаяды. Бұл жоғалтулар шығындылық коэффициентімен сипатталады:

R=(H1-H)/H1=1-H/log m,

H1– бір символ тасымалдай алатын ақпараттың максималды саны, H – бір символдың шынайы хабарлама тасымалдайтын ақпарат саны (мысалы, европалық тілдер үшін r≥0,5 ).

Логарифм негізін (1)-де көбінесе 2-ге тең деп алады. Бұл жерде ақпарат санының өлшемі бит (binary digit) болып табылады.

Хабарлама көзінің шығару қабілеті деп көздің уақыт бірлігіндегі беретін ақпараттың орташа санын атайды, дәлірек айтқанда

H’ = H/t [бит/с].

Ақпаратты беру арналары үшін аналогтық сипаттаманы енгіземіз, ол С – ақпаратты беру жылдамдығы. Оның максималды шамасы арнаның өткізу қабілеттігі деп аталады. Дискретті арна үшін:

C=V∙ log m [бит/с], (6.3)

Мұндағы, V– электрлік кодтық сигналдарды беру жылдамдығы.

Дискретті хабарлама көздерінің ақпараттық сипаттамалары

Символдардың пайда болу ықтималдығының теңсіздігі мен олардың арасындағы өзара байланысты ескере отырып, шартты энтропия қасиетін қарастырайық.

Қарапайымдылық үшін ai символының пайда болуы алдыңғы aj символының қандай болғанына ғана байланысты деп алайық (хабарламаның құрылу процесі – Марковтың қарапайым тізбегі). Екі символдың бірге пайда болу энтропиясы

H(A, A’) = , (6,4)

мұндағы P(ai,aj’)  – ai және  aj’ символдарының бірге пайда болу ықтималдығы. aiaj’ буынына келетін ақпарат саны log P(ai,aj’)-ға тең.

P(ai,aj/)=P(ai) P(aj//ai), екенін ескере отырып,

H(A, A’) = -

= - (6.5)

деп жазамыз.

Нормалау шарттарын ескере отырып

,

екі символдың бірге пайда болу энтропиясы ұшін соңғы мәнді мына түрде жазамыз:

H(A, A’) = H(A) + H(A’/A), (6.6)

Мұндағы, H(A) – (6.1)-де анықталған және (6.5)-тегі біріншіге сәйкес келетін көздің энтропиясы, H(A’/A)  – (6.2) мәнімен анықталатын көздің шартты энтропиясы.

Біріккен екі символдың тасымалдайтын ақпараттың орташа саны олардың біріншісі тасымалдайтын ақпараттың орташа саны мен біріншісінің пайда болуынан кейін екіншісінің тасымалдайтын ақпараттың орташа санының суммасына тең болады.

Шартты энтропия дегеніміз алғашқысы белгілі болу шартындағы келесісінің тасымалдайтын орташа ақпарат саны болып табылады:

H(A’/A) = H(A, A’) - H(A).

Егер ai және aj’ символдары өзара байланысты болса, онда H(A’/A) < H(A’). Символдары тәуелсіз көздер үшін

H(A, A’) = H(A) + H(A’).

Корреляциялық байланыстар символдар арасында болуы мүмкін (L+1) онда көз жады L символға тең болады.

Екілік ақпарат көздерінің қасиеттері

Көздің символдары a1, a2 (m = 2), олардың пайда болу ықтималдығы P(a1), P(a2) болсын. Шартты ықтималдықтарды P(a1/a1’), P(a2/a2’), P(a1/a2’), P(a2/a1’) деп белгілейік.

Ықтималдықтары тең емес тәуелсіз символдар жағдайы

Ықтималдықтары P(a1)=P(a2)=P=1/2,  шартты ықтималдықтары нөлге тең. Ондай көздің энтропиясы максималды болады:

Hmax =-(1/2)log(1/2) -1/2)log(1/2) log2 = 1 бит/симв.

Осылайша, 1 бит – бұл екілік хабарлама көзі тасымалдайтын ақпараттың орташа максималды саны.

Ықтималдықтары тең емес тәуелсіз символдар жағдайы

Ықтималдықтары P(a1)=P, P(a2)=1-P, шартты ықтималдықтар нөлге тең. Мұндай көздің энтропиясы мынаған тең болады

H(P) = -PlogP-(1-P)log(1-P). (6.7)

Энтропия максимумы P=1/2 табылады. P≠1/2 болса, H(P)<Hmax  болатындықтан, мұндай көздің шығару қабілеттігі максималдан аз болады. Шығындылығы

r(P)=1-H(P)/Hmax≥0

Тең ықтималдықты корреляциялық символдар жағдайы P(a1)=P(a2)=P=1/2 болсын, шартты ықтималдықтары нөлден өзгеше және P(a1/a1’)=P(a2/a2’), P(a1/a2’)=P(a2/a1’) болсын. (6.2) қатынасты ескергендегі шартты энтропия мынаған тең болады:

H(A/A’) = -P[P(a1/a1’)log P(a1/a1’)+ P(a2/a1’)log P(a2/a1’)]-

-P[P(a2/a2’)log P(a2/a2’) + P(a1/a2’)log P(a1/a2’)]=

= -2P[P(a1/a1’)log P(a1/a1’) + P(a2/a1’)log P(a2/a1’)].

Мысалы, егер P(a1/a1’)=0.7, P(a1/a2’)=0,3, то H(A/A’) = -(1/2)[0.7log0.7-0.31log0.31] ≈ 0.88бит/симв, r = 1-0.88=0.12

Екілік көздің коррелирленбегендегі тең ықтималдықты символдардың энтропиясы 1 бит/симв – ға тең.  Сәйкесінше символдар арасында статистикалық байланыстардың болуы энтропияның азаюы мен шығындылықтың көбеюіне әкеледі.

Ақпараттың сигнал қуаттылығы ақпаратты тасымалдау салмағы сияқты ақпараттың көлемін бағалай алмайды.

• Ескі кітап, егер ондағы беттер толық болса ол сізге жаңа кітап сияқты соншалықты ақпарат береді.

• Тасты скрижаль, салмағы үш тонна, археологиялық журналдағы жақсы сурет сияқты археологтарға соншалықты ақпарат береді.

• Радио студия соңғы жаңалықтарды берген кезде мәскеулік тұрғын, Қарағанды тұрғыны бірдей ақпарат алады, бірақ Қарағандыдағы радиотолқынның энергия ағымы Алматыныкінен аздау.

1. Тұрмыстағы ақпаратты өлшеу (ақпараттың жаңа түрі). Сіз қандайда бір хабар алдыңыз (мысалы, өзіңіз жақсы көретін журналдан мақаланы оқыдыңыз). Бұл мақалада қандайда бір ақпарат көлемі бар. Қалай бағалауға болады, қанша ақпарат алдыңыз? Басқаша айтқанда, ақпарат қалай өлшенеді? Мақала қанша үлкен болса сонша ақпарат бар деп айтуға болады ма?

Бірдей хабар алған әртүрлі адамдар ақпараттың көлемін өздерінше әртүрлі бағалайды. Бұның бәрі адамдардың білімділік деңгейі осы хабар алғанға дейін әртүрлі болды. Сондықтан бұл хабар туралы аз білген адамдар көп ақпарат алды деп ойлайды, ал кім көп білді олар ақпаратты мүлдем алмаған сияқты болады. Хабардағы ақпараттың көлемі тұтынушының осы хабарға деген қажеттілігіне байланысты.

Осылай тұжырымдасақ ақпаратты өлшеу бірліктерін қандай критерилар арқылы енгізуге болатыны түсініксіз. Ақпараттың көзқарасы бойынша біз ақпараттың ғылыми ашылуларда, әуендік стильде қоғамдық дамудың жаңа теорияларындағы көлемді бағалай аламыз.

2. Техникадағы ақпаратты өлшеу. Техникадағы (хабарды тасымалдау және кодтау теориясы) ақпарат көлемін символдардың кодталатын мөлшері, тасымалдануы немесе сақталуы ретінде түсінеді.

Техникада (белгілер мен символдардың тасымалдануы, өңделуі, сақталуы ақпарат деп есептеледі) көбінесе ақпарат көлемін анықтаудың оңай тәсілін қолданады, ол ақпарат көлемді деп аталынуы мүмкін. Ол хабардағы символдар санының есептеуіне негізделген, яғни ұзындықпен байланысты және мазмұнды есепке алмайды. Есептеуіш техникада екі стандартты өлшем бірліктері қолданылады: бит (binary digit) және байт (byte). Бит – екілік алфавиттің екілік белгісі {0, 1}. Бит – ақпаратты өлшеудің минимальды бірлігі.

Байт – СИ жүйесіндегі ақпарат көлемінің бірлігі. Байт – сегізразрядты екілік код, оның көмегімен бір символды көруге болады.

Клавиатурадан белгілерді ЭЕМ ге еңгізгенде машинаға бір байт ақпарат беріледі. Есептеуіш техникадағы ақпаратты өлшеу бірдігі бит, ал ақпараттың элементарлы бірліктері:

1 байт – 8 бит

1 килобайт =1024 байт

1 мегабайт =1024 Кбайт

Хабардың ақпараттық көлемі (хабардың ақпараттық өлшемі) - бит, байт немесе өңделген бірліктермен (Кбайт, Мбайт және т.б) өлшенген ақпарат көлемі. Хабардың ұзындығы хабарды жазуға пайдаланатын әртүрлі символдардың санына байланысты.

Мысалы, "мир" деген сөз орысша алфавитте үш белгімен беріледі, ал ағылшынша тілде бес (реасе), ал КОИ-8 де жиырма төрт биттермен беріледі (111011011110100111110010).

Алғашқы хабар тілдің ақпараттық көлемінің машиналық тілмен көрінуі (КОИ-8) символдар, биттер және байттарда Рим 11110010 11101001 11101101 3 24 3 мир 11101101 11101001 11110010 3 24 3 миру мир! 11101101 11101001 11110010 11110101 00100000 11101101 11101001 11110010 00100001 9 72 9.

Егер сіз РИМ деген сөзде жиырма төрт битті ақпарат бар, ал МИРУ МИР! деген сөзде жетпіс екі бит бар деп айтсаңыз дұрыс болады. Бірақ, битпен ақпаратты өлшеу алдында сіз осы хабардағы символдар мөлшерін анықтауыңыз керек. Бізге символдармен, ал машинаға кодтармен жұмыс істеу үйреншікті. Әрбір символ сегіз битті кодпен жайдан жай кодталынбайды. Сондықтан ыңғайлылық үшін техникаға ақпараттың «үлкен» бірлігі жаңадан енгізілді – байт. Енді сізге техникалық хабарламадағы ақпараттың көлемін жеңіл есептеуіңізге болады – ондағы символдар көлемімен сәйкес келеді.

3. Ақпарат теориясындағы ақпаратты өлшеу (ақпарат түсірілмеген анықталмағандық сияқты).

Ақпарат теориясында ақпарат көлемін оның формасына, мазмұнына және анықсыздыққа (берілген сигнал түрінде берілген хабарды алғаннан кейін жоғалады) сигналдың сандық сипаттамасы, бұл жағдайда ақпараттың көлемі хабарды сол немесе басқа оқиғадан алынуына тәуелді. Абсолютті сенімді оқиға үшін (оқиға міндетті түрде болады, сондықтан болу мүмкіндігі бірге тең) хабардағы мүмкіндік көлемі ол туралы О тең. Оқиға қаншалықты мүмкін болса, хабардағы ақпарат соншалықты көп болады. Тек мүмкіндікке жақын жауаптар ИӘ немесе ЖОҚ деген сөздер бір бит ақпарат береді. Ақпарат көлемін бағалау ақпарат теориясының заңына негізделеді. Хабар бағалы, тек егер бізге хабардың мағынасы түсінікті болса.

Ақпаратты беру арналары тағайындалуы бойынша телефондық, телеметрикалық, сандық мәліметтерді беру сияқты негізгі түрлерге жіктеледі. Байланыс желілерінің сипатына байланысты радиобайланыс және проводты байланыс арналары болады: кабельдік, толқынды, волоконды-оптикалық және т.б. Жүздеген килогерцтен ондаған мегагерцке дейін диапазонда жұмыс істейтін кабельді байланыс арналары ең жақсы қасиеттерге ие.

Түрлі жиілікті диапазондардағы радиобайланыс арналары көптеген жағдайларда аралық станцияларсыз алшақтатылған байланысты ұйымдастыруға мүмкіндік береді, сондықтан кабельдімен салыстырғанда неғұрлым үнемді болып табылады.

Көп арналы телефонды және теледидарлық байланыста ондаған мегагерцтен ондаған гигагерцке дейін жиілікті диапазонда жұмыс істейтін жердегі радиорелейлі байланыс арналары кең таралды деуге болады.

Спутникті байланыс желілері қызмет атқару қағидасы бойынша жасанды Жер серіктерінде орнатылған ретрансляторлары бар радиорелейлі желілердің көп түрлілігін білдіреді, ол әрбір серік үшін 10000 км шамада байланыс алшақтығын қамтамасыз етеді. Спутниктік байланыс жиілігінің диапазоны қазіргі таңда 250 ГГц-ке дейін кеңейтілген, ол байланыс жүйелерінің сапалы көрсеткіштерінің артуын қамтамасыз етеді.

Неғұрлым жоғары жиілікті диапазондарға өту антенналардың шағын көлемі барысында тік бағытталған сәулені алуға мүмкіндік береді, атмосфералық және өнеркәсіптік тосқауылдар ықпалын азайтуға, кең сызықты байланыс арналарын ұйымдастыруға мүмкіндік береді.