Информация. Способы измерения информации

1. Информация -

Информация
отраженное многообразие
«хлеб управления»
снятая неопределенность
сведения, разъяснения, изложение
сведения об окружающем мире и
протекающих
в
нем
процессах,
воспринимаемые
человеком
или
специальными устройствами

2. Информация. Способы измерения информации

3. Подходы к измерению количества информации

Алфавитный подход
Содержательный подход

4. Информация как мера неопределенности

Начальная неопределенность
знаний = 2
Конечная неопределенность
знаний = 1
Неопределенность
уменьшилась в
Количество
информации =
2 раза
1 бит
1 бит – это количество информации, уменьшающее
неопределенность знаний о предмете в два раза.

5.

N = 2I
формула Хартли,
где N – изменение неопределенности
I – количество информации
Начальная
Конечная
Уменьшение
(число
возможных
исходов)
(конечное
число
возможных
исходов)
(кол-во раз)
N
Количество
информации, I
Неопределенность
8
4
2
1 бит
4
2
2
1 бит
2
1
2
1 бит

6. Задачи

Подсказка: N = 2I
На светофоре горит желтый свет. После этого
загорелся зелёный.
Какое количество информации Вы получили?
N = 2 I = 1 бит
Вам пришла телеграмма «Встречайте завтра.
Поезд №32. Вагон №7».
Какое количество информации Вы получили,
если в этот город приходят 4 поезда, а в
каждом поезде по 16 вагонов.
N1 = 4
I1 = 1 бит
N2 = 16
I = I1+I2 = 5 бит
I2 = 4 бит

7.

В колоде 32 карты.
Определите количество информации,
содержащейся в сообщениях:
a)
«Из колоды вытащили карту красной
масти»
b)
«Из колоды вытащили карту масти
пики»
c)
«Из колоды вытащили туза»
d)
«Из колоды вытащили червового
короля»

8. Игра «Угадай число?»

Ваш друг загадал
число от 1 до 32.
Задайте
ему
минимальное число
вопросов,
чтобы
отгадать это число.
N1 = 32
I1 = 5 бит
29
30
31
32
25
26
27
28
21
22
23
24
17
18
19
20
13
14
15
16
9
10
11
12
5
6
7
8
1
2
3
4

9. Поход в гости

Однажды Вася решил пойти к
своему другу Коле в гости. Но забыл
номер квартиры. В подъезде 8
этажей по 4 квартиры на этаже. На
вопросы друзьям он получил
следующие ответы:
1.
2.
3.
29
30
31
32
25
26
27
28
21
22
23
24
Коля живет выше 4 этажа.
Номер его квартиры нечетный.
Номер квартиры заканчивается
на 1.
17
18
19
20
13
14
15
16
9
10
11
12
Какое количество информации
получил Вася в каждом случае?
Достаточно
ли
этой
информации для определения
номера квартиры?
5
6
7
8
1
2
3
4
I1=1 бит
I2=1 бит
I3=3 бит

10. Алфавит

Буква
Номер
Буква
21
ф
22
х
Номер
Буква
Номер
1
2
а
б
11
12
к
л
23
ц
24
ч
3
4
в
г
13
14
м
н
25
ш
26
щ
5
6
д
е, ё
15
16
о
п
27
ъ
28
ы
7
8
ж
з
17
18
р
с
29
ь
30
э
9
10
и
й
19
20
т
у
31
ю
32
я

11.

Век живи –
век учись.

12.

ЕДИНИЦЫ ИЗМЕРЕНИЯ ИНФОРМАЦИИ
СИМВОЛЬНЫЙ АЛФАВИТ КОМПЬЮТЕРА
• русские (РУССКИЕ) буквы
• латинские (LAT) буквы
• цифры (1, 2, 3, 4, 5, 6, 7, 8, 9, 0)
• математические знаки (+, -, *, /, ^, =)
• прочие символы («», №, %, <, >, :, ;, #, &)
N = 2i
N = 256 = 2 8
i = 8 бит = 1 байт
1 байт - это информационный вес одного символа компьютерного алфавита
1 килобайт
= 1 Кб
= 2 10 байт = 1024 байта
1 мегабайт
= 1 Мб = 2 10 Кб
= 1024 Кб
1 гигабайт
= 1 Гб
= 1024 Мб
= 2 10 Мб

13.

АЛФАВИТНЫЙ ПОДХОД К ИЗМЕРЕНИЮ ИНФОРМАЦИИ
АЛФАВИТ – это вся совокупность символов, используемых в некотором
языке для представления информации
МОЩНОСТЬ АЛФАВИТА ( N ) – это число символов в алфавите.
i
N
2 = N
N
I = K i
i
i
I
K
I
МОЩНОСТЬ АЛФАВИТА
число символов в алфавите (его размер)
ИНФОРМАЦИОННЫЙ ВЕС СИМВОЛА
количество информации в одном символе
K
ЧИСЛО СИМВОЛОВ В СООБЩЕНИИ
КОЛИЧЕСТВО ИНФОРМАЦИИ В СООБЩЕНИИ

14.

ПЕРЕДАЧА ИНФОРМАЦИИ

15.

РУССКИЙ АЛФАВИТ
Определим количество информации, которое
несет буква русского алфавита:
N = 32 => 32 = 2I => 25 = 2I => I=5 битов.
Буква русского алфавита несет
5 битов информации
(при алфавитном подходе к измерению
количества информации).

16.

ИНФОРМАЦИОННЫЙ ОБЪЕМ ТЕКСТА
ЗАДАЧА
Книга, подготовленная с помощью компьютера, содержит 150 страниц. На
каждой странице – 40 строк, в каждой строке – 60 символов (включая пробелы
между словами). Каков объем информации в книге?
РЕШЕНИЕ
Мощность компьютерного алфавита равна 256, поэтому один символ несет 1 байт
информации. Значит, страница книги содержит 40 60 = 2400 байт информации.
[кол-во символов в строке] [кол-во строк] = [информационный объем страницы]
Объем всей информации в книге (в разных единицах):
[информационный объем страницы] [кол-во страниц] = [информационный объем книги]
2400 150 = 360 000 байт / 1024 = 351,5625 Кбайт / 1024 = 0,34332275 Мбайт

17.

Dlrahfz/
Если допустить, что алфавит этой знаковой системы равен 8, то
получаем:
i
2=
N 3 бита * 8 =
i
2 =8
24
бита
i
2 = 2*2*2
i
3
2 =2
i = 3 бита

18.

Как определить количество
информации в информационном
сообщении, которое представлено
при помощи последовательности
знаков?
Dlrahfz/

19. Как определить количество информации в информационном сообщении, которое представлено при помощи последовательности знаков?

Алгоритм определения количества
информации (алфавитный подход)
1. Определить количество знаков в
алфавите системы.
2. Определить по формуле2i=N
количество информации, которое несет
в себе каждый знак (I).
3. Подсчитать количество знаков в
сообщении (К).
4. Умножить (К) на (I).

20. Алгоритм определения количества информации (алфавитный подход)

1. Группа:
Без труда не вытащишь и рыбки из
пруда.
2. Группа:
Обед узнают по кушанью, а ум по
слушанью.