Лекция 2. Информационные характеристики каналов связи

1. Информационные характеристики каналов связи

1.
2.
3.
4.
5.
Структура канала связи
Модель источника информации
Пропускная способность канала связи
Канал связи с помехами
Объем канала

2. Структура канала связи

Источник
информации
Модулятор
Приемник
информации
Линия связи
Демодулятор

3. Модель источника информации

A {a1 , a2 ,..., an }
1. H 0 ( A) log n
n
2. H1 ( A) p ( ai ) log p( ai )
i 1
n
n
3. H 2 ( A) p( ai , a j ) log p ( a j / ai )
i 1 j 1
n
n
n
4. H 3 ( A) p ( ai , a j ,a k ) log p( ak / ai a j )
i 1 j 1 k
...
H 0 ( A) H1 ( A) H 2 ( A) H 3 ( A) ... H ( A)

4. Последовательность символов

…at – 3at – 2at – 1at…
…
at – 3
at – 2
at – 1
at
…

5. Пропускная способность канала связи

Вход
X
Канал связи
Выход
Y
I ( X ;Y ) H ( X ) H ( X / Y ) H (Y ) H (Y / X )
I ( X ;Y )
R
T
C Rmax

6. Теорема Шеннона I

Дан канал связи без помех с
пропускной способностью C и источник
информации с энтропией за единицу
времени H. Передача информации от
данного источника по данному каналу
без задержек возможна тогда и только
тогда, когда H C.

7. Канал связи с помехами

Помехи
Вход
X
Выход
Y
Канал связи
y1
p(y1/xi)
xi
p(yn/xi)
…
yn

8. Бинарный симметричный канал связи с помехами

X {0,1},Y {0,1}, I ( X ;Y ) H (Y ) H (Y / X )
max{ H (Y )} log 2 1
H Y / X (0 / 0) p X (0) pY / X (0 / 0) log pY / X (0 / 0)
H Y / X (1 / 0) p X (0) pY / X (1 / 0) log pY / X (1 / 0)
H Y / X (0 / 1) p X (1) pY / X (0 / 1) log pY / X (0 / 1)
H Y / X (1 / 1) p X (1) pY / X (1 / 1) log pY / X (1 / 1)
pY / X (0 / 1) pY / X (1 / 0) p
pY / X (0 / 0) pY / X (1 / 1) 1 p
H (Y / X ) p log p (1 p ) log(1 p )
1 p log p (1 p ) log(1 p )
C
T

9. m-ичный симметричный канал связи с помехами

X {0,1,..., m 1}, Y {0,1,..., m 1}, I ( X ;Y ) H (Y ) H (Y / X )
max{ H (Y )} log m
H Y / X (0 / 0) p X (0) pY / X (0 / 0) log pY / X (0 / 0)
H Y / X (1 / 0) p X (0) pY / X (1 / 0) log pY / X (1 / 0)
...
H Y / X (m 1 / 0) p X (0) pY / X (m 1 / 0) log pY / X (m 1 / 0)
...
pY / X (1 / 0) ... pY / X (m 1 / 0) ... pY / X (m 2 / m 1) p (m 1)
pY / X (0 / 0) ... pY / X (1 / 1) ... pY / X (m 1 / m 1) 1 p
H (Y / X ) (m 1)( p (m 1)) log( p (m 1)) (1 p ) log(1 p )
log m (m 1) ( p (m 1)) log ( p (m 1)) (1 p ) log(1 p )
C
T

10. Теорема Шеннона II

Дан канал связи с помехами с
пропускной способностью R и источник
информации с энтропией за единицу
времени H. Передача информации от
данного источника по данному каналу
без задержек и искажений возможна
тогда и только тогда, когда H R.

11. Непрерывные каналы связи

Каналы, используемые для передачи непрерывных
сигналов, принято называть непрерывными.
Реальные непрерывные каналы представляют
собой сложные инерционные нелинейные объекты,
характеристики которых случайным образом
изменяются во времени. Для анализа таких
каналов разработаны математические модели
различных уровней сложности и степени
адекватности реальным каналам. Наиболее
широко получили распространение модели,
являющиеся разновидностями гауссова канала.

12. Гауссов канал

Под гауссовым каналом понимают математическую модель
реального канала, построенную при следующих
допущениях:
1. Основные физические параметры канала являются
известными детерминированными величинами;
2. Полоса пропускания канала ограничена частотой Fк, герц;
3. В канале действует аддитивный гауссовый белый шум –
аддитивная флюктуационная помеха ограниченной
мощности с равномерным частотным спектром и
нормальным распределением амплитуд.
Предполагается также, что по каналу передаются сигналы с
постоянной средней мощностью, статистические связи
между сигналами и шумом отсутствуют, ширина спектра
сигнала и помехи ограничена полосой пропускания
канала.

13. Преобразование Фурье

X ( j )
x(t )e
j t
dt,
1
x(t )
2
X ( j ) e
j t
X ( j ) X ( )e
j ( )
d ,

14. Полоса пропускания канала

x(t ) X ( i ) cos( it ( i ))
i 0
Ограничение на полосу пропускание канала
показывает, что гармонические составляющие с
частотами, значения которых превышают 2πFк,
будут искажены при прохождении через этот
канал.

15. Погрешность представления сигнала

Реальные сигналы являются ограниченными во
времени. Это означает, что они имеют
бесконечный спектр частот. Поэтому вводится
некоторая частота Fср = ωср/2π, такая, что
xˆ (t ) x(t ) ,
1
xˆ (t )
2
ср
j t
X
(
j
)
e
d ,
ср
ε – заданная погрешность представления сигнала x(t).

16. Помеха

При прохождении через канал связи к сигналу
x(t) добавляется (на него накладывается)
помеха n(t), представляющая сумму
гармонических составляющих, амплитуды
которых распределены по нормальному
закону с нулевым средним. При этом все
гармонические составляющие помехи имеют
одинаковую мощность и любые две выборки
помехи некоррелированы между собой, как
бы близко по времени они не располагались.

17. Дискретные отсчеты сигнала

Непрерывные сигналы, имеющие спектр
частот Fср могут быть переданы в виде
дискретных отсчетов через интервалы
времени Δt = 1 / (2Fср).

18. Количество информации в непрерывном канале

Пусть в канале связи на передаваемое сообщение
x(t) накладывается помеха n(t), а длительность
сообщения составляет T.
Количество информации, содержащееся в принятых
сообщениях Y относительно переданных X,
определяется равенством I(X;Y) = H(Y) – H(Y|X).
Значение H(Y/X) обусловлено только шумами и
может быть заменено на энтропию шума H(N).
Тогда I(X;Y) = H(Y) – H(N). При этом
H(Y) = H(y1, y2, …, ym), H(N) = H(n1, n2, …, nm),
где m = 2FсрT.

19. Пропускная способность непрерывного канала

I ( X ;Y )
H (Y ) H ( N )
R lim
lim
T
T
T
T
I ( X ;Y ) max
C Rmax lim
T
T
P
I ( X ;Y ) max FcрT log 1 FсрTD
N
P
D log
N
P
С Fcр log 1 Fср D
N

20. Объем канала

Vк Tк Fк Dк
Vс Tс Fс Dс
1.Vк Vс
2.Tк Tс , Fк Fс , Dк Dс

21. Теоремы Шеннона для непрерывных каналов связи

В заключение отметим, что для
непрерывных каналов связи также
справедливы теоремы Шеннона о
кодировании (предполагается, что
кодируются выборки непрерывного
сигнала, взятые с интервалом
дискретизации, величина которого не
больше значения определяемого
теоремой Котельникова).