Информация и алфавит

1. Информация и алфавит

Сообщение есть последовательность знаков алфавита. При
их передаче возникает проблема распознавания знака: каким
образом прочитать сообщение, т.е. по полученным сигналам
установить исходную последовательность знаков первичного
алфавита.
Появление конкретного знака (буквы) в конкретном месте
сообщения – событие случайное. Следовательно узнавание
знака требует получения некоторой порции информации.
Предположим, что появление всех знаков (букв) алфавита в
сообщении равновероятно.