Количество информации

1.

Количество информации

2.

Основные используемые величины:

3.

Измерение количества информации
Используется величина, называемая байтом
1 byte = 8 bit (bit - «binary digit» - «двоичная цифра»)
Бит - 1 из 2 вариантов, а байт 1 из 256 (28)
Более крупные единицы измерения:

4.

Вычисление информационного объема текста
чтобы найти информационный объем
сообщения I, нужно умножить количество
символов K на число бит, на символ i:
I=K·i
(K – количество символов, i – информационный
вес символа)

5.

Содержательный подход
Содержательный - вероятностный подход:
субъективный подход, зависит от мнения т.к.
разные субъекты (люди) оценивают
информацию по-разному
используется при качественной оценке
информации - новая, срочная, важная и т.д.
информативность сообщения характеризуется
содержащейся в нем полезной информацией

6.

Вычисление количества информации
при Содержательном подходе
Формула Шеннона для неодинаковой вероятности:
I = –log2р
Формула Шеннона для различных вероятностей: