4. Информацияның түрлері. Дискреттеу процесі, дискреттеу жиілігі. Найквист теоремасы.

Информацияның екі түрі бар: дискретті (сандық) жəне үздіксіз (аналогты). Дискретті информация қандай да бір шаманың тізбектік дəл мəнімен, ал үздіксіз – үздіксіз процесімен сипатталады. Үздіксіз информацияны, мысалы, атмосфералық қысымның датчигі, немесе автомашинаның жылдамдық датчигі шығарады. Дискретті информацияны кез келген сандық көрсеткіштен алуға болады: электроннды сағат, магнитофонның санағышы жəне т.б.

Д искретті информация өңдеуге ыңғайлы, бірақ үздіксіз информация практикада жиі кездеседі, сондықтан үздіксіз информацияны дискреттіге (дискреттеу) жəне керісінше айналдыру білу қажет. Модем (бұл сөз модуляция жəне демодуляция сөздерден тұрады) осындай аударуға арналған құрал: ол компьютерден алынған сандық берілгендерді дыбысқа немесе электрмагнитті тербелістерге – дыбыстың көшірмесіне аударады жəне керісінше.

Үздіксіз информацияны дискреттіге аударғанда үздіксіз шаманың мəнін анықтау периодын (Т= 1/ν) анықтайтын ν дискреттеу жиілігі маңызды.

Дискреттеу жиілігі жоғары болған сайын, үздіксіз информацияны дискреттіге аудару дəлдірек болады. Бірақ бұл жиілік өскен сайын осындай аудару кезінде алынған дискретті берілгендердің де өлшемі, жəне де оларды өңдеу, жіберу жəне сақтау қиыншылығы өседі. Дискреттеу дəлдігін арттыру үшін оның жиілігін шексіз өсіру міндетті емес. Бұл жиілікті Найквист (Nyquist) теоремасымен анықталатын шекке дейін өсіру дұрыс.

Кез келген үздіксіз шама бірнеше бір-біріне беттестірілген, гармониктер деп аталатын жəне келесі түрдегі функциялармен анықталатын Asin (ωt + φ), мұнда А– амплитуда, ω – жиілік, t – уақыт, φ– фаза, толқындық процестермен сипатталады.

Найквист теоремасы. Дəл дискреттеу үшін оның жиілігі дискреттелетін шамаға кіретін гармониктің ең жоғары жиілігінің екі есесінен көп болу керек.

Бұл теореманы қолдану мысалы ретінде лазерлі компакт-дискілерді қарастыруға болады, оларда дыбыс информациясы сандық түрде сақталады. Дискреттеу жиілігі артқан сайын, дыбыс дəлдірек болады, жəне де бір дискіге мұндай информация аз жазылады. Бірақ жай адамның құлағы жиілігі 20 КГц-ке дейін дыбысты айырады, сондықтан одан көп жиілікті дыбысты жазу мəнсіз. Найквист теоремасы бойынша дискреттеу жиілікті40 КГц-тен аз болмау керек (өндіріс стандарты бойынша компакт-дискіде 44,1 КГц жиілік қолданады).

5. Дискреттік информацияны өлшеуідің ықтималдылық тәсілі.

Информация теориясының негізінде Шеннон ұсынған бір кездейсоқ шамадағы басқа кездейсоқ шамамен салыстырғанда информацияның мөлшерін өлшеу тəсілі жатыр. Бұл тəсіл информацияның мөлшерін санмен келтіруге мүмкіндік береді.

Х жəне Y дискретті кездейсоқ шамалар үшін үлестірулермен жəне бірлескен үлестіру заңдарымен берілген.

Y шамасымен салыстырғанда Х шамасындағы информация мөлшері келесігі тең:

Х-дискретты шама. Р-ықтималдық тығыздығының таралуы.

I(x,x)=∑p_i*log(2)p_i/p_i*p_i= - ∑p_i*log(2)p_i.

S(x)=I(x,x) – информациялық энтропия.

S(x,y)= - ∑p_ij*log(2)p_ij;

Касиеттеры:

1. I(x,y)≥0; I(x,y)=0 информация жоқ; x,y-тәуелсіз шама.

2. I(x,y)=I(y,x);

3. S(x)=0 болса x=const.

4. I(x,y)=S(x)+S(y)-S(x,y);

5. I(x,y)≤I(x,x)

I(x,y)=I(x,x)-----x(y)