Подходы к измерению информации

1. ПОДХОДЫ К ИЗМЕРЕНИЮ ИНФОРМАЦИИ

ИНФОРМАЦИЯ И ИНФОРМАЦИОННЫЕ ПРОЦЕССЫ
СПО

2. КЛЮЧЕВЫЕ СЛОВА

✦ измерение информации
✦ содержательный подход
✦ алфавитный подход
✦ кодовая таблица

3. СОДЕРЖАТЕЛЬНЫЙ ПОДХОД

Информация – это снятая неопределенность. Величина
неопределённости некоторого события – это количество
возможных результатов данного события.
Клод Элвуд Шеннон (1916-2001) –
американский инженер и математик.
Является
основателем
теории
информации, нашедшей применение в
современных
высокотехнологических
системах связи.
В 1948 году предложил использовать
слово
«бит»
для
обозначения
наименьшей единицы информации.

4. СОДЕРЖАТЕЛЬНЫЙ ПОДХОД

Сообщение, уменьшающее неопределённость знания о результате
какого-либо события в 2 раза, несёт 1 бит информации.
Такой подход к измерению информации называют
содержательным.

5.

Количество информации i, содержащееся в сообщении об
одном из N равновероятных результатов некоторого события,
определяется из формулы
2i = N.

6. ЗАДАЧА 1

Петя и Вася заинтересовались игрой «Крестики- нолики» на поле
размером n × n. Количество информации, полученное вторым игроком
после первого хода первого игрока, составляет 6 бит. Требуется выяснить
максимальные размеры поля, на котором играют Петя и Вася.
Решение:
i=6
2i = N
26 = 64
n –?
n×n=N
64 = 8 × 8
Ответ: 8 × 8.

7. Алфавитный подход

Андрей Николаевич Колмогоров
(1903-1987)
Один из крупнейших математиков ХХ века.
Им
получены
основополагающие
результаты в математической логике,
теории сложности алгоритмов, теории
информации, теории множеств и ряде
других
областей
математики
и
её
приложений.
Информация
–
последовательность
символов (букв, цифр, кодов точек
изображения) некоторого алфавита.

8. АЛФАВИТНЫЙ ПОДХОД

Согласно Колмогорову, количество информации, содержащейся в
последовательности символов, определяется минимально возможным
количеством двоичных знаков, необходимых для кодирования этой
последовательности, безотносительно к содержанию представленного ею
сообщения. Данный подход к определению количества информации
называют алфавитным.
Информационным объёмом сообщения называется количество двоичных
символов, которое используется для кодирования этого сообщения. В двоичном
коде один двоичный разряд несёт 1 бит информации.

9. АЛФАВИТНЫЙ ПОДХОД

Алгоритм
вычисления
информационного
объёма
сообщения:
• определить N – мощность используемого алфавита
• определить i – информационный вес символа алфавита в
i
битах (2 = N)
• вычислить информационный объём сообщения I (I=i*K)

10. ЕДИНИЦЫ ИЗМЕРЕНИЯ ИНФОРМАЦИИ

1 Кбайт
(килобайт) = 210 байт
1 Мбайт (мегабайт) = 210 Кбайт = 220 байт
1 Гбайт
1 Тбайт
1 Пбайт
(гигабайт)
= 210 Мбайт = 220 Кбайт = 230 байт
(терабайт) = 210 Гбайт = 220 Мбайт = 230 Кбайт = 240 байт
(петабайт) = 210 Тбайт = 220 Гбайт = 230 Мбайт = 240 Кбайт = 250 байт

11. ЗАДАЧА 2

Для регистрации на некотором сайте пользователю надо придумать пароль, состоящий
из 10 символов. В качестве символов можно использовать десятичные цифры и шесть
первых букв латинского алфавита, причём буквы используются только заглавные.
Пароли кодируются посимвольно. Все символы кодируются одинаковым и минимально
возможным количеством бит. Для хранения сведений о каждом пользователе в системе
отведено одинаковое и минимально возможное целое число байт.
Необходимо выяснить, какой объём памяти потребуется для хранения 100 паролей.
Решение:
N = 10 + 6 =16
I100 = 100 ∙ I
16 = 2i, i = 4 (бит на символ)
K = 10
I=K ∙ I
I = 10 ∙ 4 = 40 (бит) = 5 (байт)
n –?
N = 2i
I100 = 100 ∙ 5 = 500 (байт)
Ответ: 500 байт.

12. ЗАДАЧА 3

Объём сообщения, состоящего из 8192 символов, равен 16 Кбайт. Какова
максимальная мощность алфавита, использованного при передаче
сообщения?
Решение:
I = 16 Кбайт =
=16 ∙
213 бит
I = K ∙ i, i = I/K i = 16 ∙ 213/8192 = 16 (бит)
N = 2i
N = 216 = 65 536 (символов)
K = 8192 символа
N –?
Ответ: максимальная мощность алфавита – 65 536 символов.

13.

14. ЗАДАЧА 4

B некоторой стране автомобильный номер длиной 6 символов
составляют из заглавных букв (используются только 33 буквы)
и десятичных цифр в любом порядке. Каждый такой номер в
компьютерной
программе
записывается
минимально
возможным и одинаковым целым количеством байтов (при этом
используют
посимвольное
кодирование,
все
символы
кодируются
одинаковым
и
минимально
возможным
количеством битов). Определи объем памяти, отводимый этой
программой для записи 125 номеров. (Ответ дай в байтах.)

15. ЗАДАЧА 5

При регистрации в компьютерной системе каждому пользователю выдается
пароль, состоящий из 15 символов и содержащий только символы из 12буквенного набора: А, В, Е, К, М, Н, О, Р, С, Т, У, X. В базе данных для
хранения сведений о каждом пользователе отведено одинаковое и
минимально возможное целое число байт. При этом используют
посимвольное кодирование паролей, все символы кодируются одинаковым и
минимально возможным количеством бит. Также для каждого пользователя в
системе хранятся дополнительные сведения, для этого отведено 12 байт.
Определи объем памяти, необходимый для хранения сведений о 50
пользователях. (Ответ дай в байтах.)

16. ЗАДАЧА 6

При регистрации в компьютерной системе каждому пользователю выдается
пароль, состоящий из 20 символов и содержащий только символы из 10символьного набора: А, В, C, D, Е, F, G, H, K, L. В базе данных для хранения
сведений о каждом пользователе отведено одинаковое и минимально
возможное целое число байт. При этом используют посимвольное
кодирование паролей, все символы кодируют одинаковым минимально
возможным количеством бит. Также для каждого пользователя в системе
хранятся дополнительные сведения, для чего выделено целое число байт,
одно
и
то
же
для
всех
пользователей.
Для хранения сведений о 20 пользователях потребовалось 300 байт. Сколько
байт выделено для хранения дополнительных сведений об одном
пользователе? В ответе запиши только целое число (количество байт).
Реши самостоятельно.

17. ВОПРОСЫ И ЗАДАНИЯ

Объём сообщения, содержащего 11264 символа, равен 11
Кбайт. Определите максимальную мощность алфавита,
который мог быть использован для кодирования этого
сообщения. Какова минимальная мощность алфавита,
использование
которого
привело
бы
к
такому
же
информационному объёму закодированного сообщения?

18. ВОПРОСЫ И ЗАДАНИЯ

В школе 750 учащихся, коды учащихся записаны в школьной
информационной системе с помощью одинакового минимально
возможного количества бит. Каков информационный объём в
байтах сообщения о кодах 180 учащихся начальных классов?

19. ВОПРОСЫ И ЗАДАНИЯ

В школьной базе данных каждый ученик получил идентификатор,
состоящий ровно из 6 символов. В качестве символов используются все
заглавные буквы русского алфавита, кроме Ё, Ы, Ъ и Ь, а также все
десятичные цифры за исключением цифры 0. Каждый такой
идентификатор в информационной системе записывается минимально
возможным и одинаковым целым количеством байт (при этом используют
посимвольное кодирование и все символы кодируются одинаковым и
минимально возможным количеством бит). Определите объём памяти,
необходимый для хранения в этой системе 180 идентификаторов
учащихся старших классов. Ответ выразите в килобайтах.

20. ВОПРОСЫ И ЗАДАНИЯ

В ходе телевизионного шоу проводится СМС-голосование:
каждый телезритель отдаёт свой голос за одного из 12
артистов — участников шоу, отправляя сообщение с его
номером. Голос каждого телезрителя, отданный за того или
иного участника, кодируется одинаковым и минимально
возможным количеством бит и сохраняется для подведения
итогов. За время телевизионного шоу в голосовании приняли
участие 163 840 зрителей. Определите объём сохранённой
информации о голосовании и выразите его в килобайтах.

21. ВОПРОСЫ И ЗАДАНИЯ

При регистрации в компьютерной системе каждому пользователю
выдаётся пароль, состоящий из 6 символов и содержащий только
символы из шестибуквенного набора А, В, С, D, E, F. Для хранения
сведений о каждом пользователе отведено одинаковое и минимально
возможное целое число байт. При этом используют посимвольное
кодирование паролей и все символы кодируются одинаковым и
минимально возможным количеством бит. Кроме собственно пароля, для
каждого пользователя в системе хранятся дополнительные сведения,
занимающие 15 байт. Определите объём памяти в байтах, необходимый
для хранения сведений о 120 пользователях.

22. ВОПРОСЫ И ЗАДАНИЯ

Каждый сотрудник предприятия получает электронный пропуск, на
котором записаны личный код сотрудника, номер подразделения и
дополнительная информация. Личный код состоит из 10 символов,
каждый из которых может быть одной из 20 разрешённых латинских букв
(6 букв не используется для записи кодов) или одной из цифр от 1 до 9
(ноль не используется). Для записи кода на пропуске отведено
минимально возможное целое число байт, при этом используют
посимвольное кодирование, все символы кодируют одинаковым
минимально возможным количеством бит. Номер подразделения —
целое число от 1 до 100, он записан как двоичное число и занимает
минимально возможное целое число байт. Всего на пропуске хранится 16
байт данных. Сколько байт выделено для хранения дополнительных
сведений об одном сотруднике?