1 КОЛИЧЕСТВО ИНФОРМАЦИИ

Практическая работа № 1 «Определение количества информации»

Варианты заданий

Номер N фамилии студента по журналу.

Разработать визуальное приложение на языке Visual C++, осуществляющее расчет количества информации с использованием комбинаторных мер, формулы Шеннона и определение целесообразности информации по Харкевичу.

1 Рассчитать количество информации с использованием комбинаторных мер.

2 Рассчитать количество информации по Шеннону.

3 Рассчитать целесообразность информации по Харкевичу.

4 Оформить отчет по практической работе.

5 Ответить на контрольные вопросы.

Контрольные вопросы

1 Что называется количеством информации?

2 Каким образом рассчитывается количество информации при равновероятном появлении символов в сообщении?

3 Каким образом рассчитывается количество информации при разновероятном появлении символов в сообщении?

4 Каким образом рассчитывается количество информации с использованием комбинаторных мер?

5 Каким образом рассчитывается целесообразность информации по Харкевичу?

2 ВИДЫ ИНФОРМАЦИИ

Практическая работа № 2 «Оценка количества информации»

Варианты заданий

Варианты заданий приведены в таблице 2.1.

По двоичному симметричному каналу связи с помехами передаются два сигнала x₁ и x₂ с априорными вероятностями p(x₁) = 3/4 и p(x₂) = 1/4. Из-за наличия помех вероятность правильного приёма каждого из сигналов уменьшается до p( y₁ / x₁ ) = 7/8 и p( y₂ / x₂ ) = 7/8. Необходимо определить:

1) полную информацию I (x) на выходе источника сигналов;

2) взаимную частную информацию I ( y₂, x₂) двух случайных сигналов на выходе и входе канала связи относительно друг друга (количество информации о сигнале x₂ источника в сообщении y₂ приёмника);

3) условную частную информацию I (x₂ / y₂ ), содержащуюся в сообщении x₂ источника при условии приёма сообщения y₂ ;

4) среднее количество информации I ( y₂, X ) в принятом сообщении y₂ относительно всех передаваемых сообщений X (x₁, x₃) ;

5) среднее количество взаимной информации I (Y , X ) в сообщениях Y приёмника о сообщениях X источника.

Таблица 2.1 – Исходные данные вариантов заданий

1 Разработать алгоритм программы.

2 Разработать визуальное приложение, осуществляющее оценку количества информации:

· расчёт полной информации I (x) на выходе источника сигналов;

· расчёт взаимной частной информации I ( y₂, x₂) двух случайных сигналов на выходе и входе канала связи относительно друг друга (количество информации о сигнале x₂ источника в сообщении y₂ приёмника);

· расчёт условной частной информации I (x₂ / y₂ ), содержащейся в сообщении x₂ источника при условии приёма сообщения y₂ ;

· расчёт среднего количества информации I ( y₂, X ) в принятом сообщении x₂ относительно всех передаваемых сообщений X (x₁, x₃ ) ;

· расчёт среднего количества взаимной информации I (Y , X ) в сообщениях Y приёмника о сообщениях X источника.

3 Оформить отчет по лабораторной работе, включающий разделы:

· постановка задачи;

· блок-схема программы;

· скриншоты программы;

· код программы (функции обработчиков событий);

· выводы.

Контрольные вопросы

1 Каким образом определяется количество информации, получаемое в результате эксперимента?

2 Какие виды информации для дискретной случайной величины?

3 Какие виды информации для непрерывной случайной величины?

4 Каким образом определяется полная информация I ( X ) о величине X при непосредственном её наблюдении?

5 Каким образом определяется частная информация I ( y_i → x_i ) о значении x_i  величины X , содержащаяся в значении y_j величины Y ?

3 ВИДЫ ЭНТРОПИИ

Практическая работа № 3 «Оценка энтропийных характеристик»

Варианты заданий

Три дискретных источника информации X (x₁, x₂, x₃ ), Y ( y₁, y₂ ), Z (z₁, z₂ ) . Вероятности появления сообщений P(x_i ), P( y_i ), P(z_i ) заданы векторами

Необходимо определить среднюю неопределённость каждого источника и установить связь между энтропиями.

Варианты заданий приведены в таблице 3.1.

Таблица 3.1 – Варианты исходных данных

1 Разработать алгоритм программы.

2 Разработать визуальное приложение, осуществляющее оценку энтропийных характеристик:

· расчёт энтропии для дискретной случайной величины;

· расчёт энтропии для непрерывной случайной величины.

3 Оформить отчет по лабораторной работе, включающий разделы:

· постановка задачи;

· блок-схема программы;

· скриншоты программы;

· код программы (функции обработчиков событий);

· выводы.

Контрольные вопросы

1 Что называется энтропией?

2 Какие виды энтропии различают для дискретной случайной величины?

3 Какие виды энтропии различают для непрерывной случайной величины?

4 Каким образом рассчитывается вероятностная мера неопределённости Шеннона?

5 Каким образом рассчитывается относительная энтропия?

4 ИНФОРМАЦИОННЫЕ ХАРАКТЕРИСТИКИ СИСТЕМ

Практическая работа № 4 «Оценка информационных характеристик систем»

Варианты заданий

По двоичному симметричному каналу связи с помехами передаются два сигнала x₁ и x₂ с априорными вероятностями p(x₁ ) и p(x₂ ). Из-за наличия помех вероятность правильного приёма сигнала уменьшается до p( y₁ / x₁) и p( y₂ / x₂ ) .

Длительность каждого сигнала t = 0,1 с. Необходимо определить:

1) производительность и избыточность источника;

2) скорость передачи информации и пропускную способность канала. Исходные данные вариантов заданий приводятся в таблице 4.1.

Таблица 4.1 – Исходные данные вариантов заданий

1 Разработать алгоритм программы.

2 Разработать визуальное приложение, осуществляющее оценку информационных характеристик систем:

· расчёт производительности и избыточности источника;

· расчёт скорости передачи информации и пропускной способности канала связи.

3 Оформить отчет по лабораторной работе, включающий разделы:

· постановка задачи;

· блок-схема программы;

· скриншоты программы;

· код программы (функции обработчиков событий);

· выводы.

Контрольные вопросы

1 Назовите существуют информационные характеристики системы.

2 Что такое пропускная способность канала?

3 Как рассчитывается коэффициент избыточности?

4 Как рассчитывается производительность источника?

5 Как рассчитывается скорость передачи информации по каналу?

5 ПРЕОБРАЗОВАНИЕ СИГНАЛОВ

Практическая работа № 5 «Дискретное преобразование сигналов»

Варианты заданий

Используя теорему Котельникова, произвести дискретное преобразование и восстановление аналогового сигнала, аналитическое выражение которого имеет следующий вид:

u(t) = U_m1 cos(w₁t + 𝜑₀₁ ) + U_m2 cos(w₂t + 𝜑_0.2 ) , (5.4)

где u(t) – мгновенное значение напряжения;

t – текущее время;

U_m1 и U_m2 – амплитуды напряжения;

w₁ и w₂ – угловая частота (w = 2pF );

𝜑₀₁ и 𝜑₀₂ – начальная фаза напряжения.

Значения параметров сигнала выбирается в соответствии с таблицей 5.1 или 5.2.

Таблица 5.1 – Варианты заданий с 1 по 10

Таблица 5.2 – Варианты заданий с 11 по 20

1 Разработать алгоритм программы.

2 Разработать визуальное приложение, осуществляющее преобразование сигналов.

3 Оформить отчет по лабораторной работе, включающий разделы:

· постановка задачи;

· блок-схема программы;

· скриншоты программы;

· код программы (функции обработчиков событий);

· выводы.

Контрольные вопросы

1 Что называется дискретным сигналом?

2 Что называется непрерывным сигналом?

3 Что называется дискретизацией?

4 Что называется квантованием?

5 Как формулируется теорема Котельникова?

6 ЭФФЕКТИВНОЕ КОДИРОВАНИЕ

Практическая работа № 6 «Эффективное кодирование. Метод Шеннона – Фано»

Варианты заданий

Вариант 1. Плохой работник с инструментами не в ладу.

Вариант 2. Добрая слава лучше богатства.

Вариант 3. Хорошее начало обеспечивает хороший конец.

Вариант 4. Верный как сталь.

Вариант 5. Весёлый словно сверчок.

Вариант 6. Чистый как новая булавка.

Вариант 7. Древний как холмы.

Вариант 8. Лающие собаки редко кусают.

Вариант 9. Пустая посуда звенит громче.

Вариант 10. Крайности сходятся.

Вариант 11. Доброе здоровье дороже богатства.

Вариант 12. Нечестно нажитое впрок не идёт.

Вариант 13. Словно кошка на горячих кирпичах.

Вариант 14. Свой своего ищет.

Вариант 15. У маленьких кувшинов большие ручки.

Вариант 16. Маслом каши не испортишь.

Вариант 17. Не сразу Москва строилась.

Вариант 18. Сколько стран, столько и обычаев.

Вариант 19. Куй железо, пока горячо.

Вариант 20. Исключение подтверждает правило.

Вариант 21. Свет клином не сошёлся.

Вариант 22. Что с возу упало, то пропало.

Вариант 23. В лес ведёт не одна дорога.

Вариант 24. Последняя капля переполняет чашу.

Вариант 25. Больше дела, меньше слов.

1 Разработать алгоритм программы.

2 Разработать визуальное приложение, осуществляющее кодирование сообщения методом Шеннона – Фано.

3 Оформить отчет по лабораторной работе, включающий разделы:

· постановка задачи;

· блок-схема программы;

· скриншоты программы;

· код программы (функции обработчиков событий);

· выводы.

Контрольные вопросы

1 Что называется эффективным кодированием?

2 Какое условие выполнения кодирования методом Шеннона – Фано?

3 Какой алгоритм метода Шеннона – Фано?

4 Как формулируется теорема Шеннона о кодировании в дискретном канале без помех?

5 Какая структура кодовой таблицы?

Практическая работа № 7 «Эффективное кодирование. Метод Хаффмана»

Варианты заданий

Вариант 1. У маленьких кувшинов большие ручки.

Вариант 2. Маслом каши не испортишь.

Вариант 3. Не сразу Москва строилась.

Вариант 4. Сколько стран, столько и обычаев.

Вариант 5. Куй железо, пока горячо.

Вариант 6. Исключение подтверждает правило.

Вариант 7. Свет клином не сошёлся.

Вариант 8. Что с возу упало, то пропало.

Вариант 9. В лес ведёт не одна дорога.

Вариант 10. Последняя капля переполняет чашу.

Вариант 11. Больше дела, меньше слов.

Вариант 12. Плохой работник с инструментами не в ладу.

Вариант 13. Добрая слава лучше богатства.

Вариант 14. Хорошее начало обеспечивает хороший конец.

Вариант 15. Верный как сталь.

Вариант 16. Весёлый словно сверчок.

Вариант 17. Чистый как новая булавка.

Вариант 18. Древний как холмы.

Вариант 19. Лающие собаки редко кусают.

Вариант 20. Пустая посуда звенит громче.

Вариант 21. Крайности сходятся.

Вариант 22. Доброе здоровье дороже богатства.

Вариант 23. Нечестно нажитое впрок не идёт.

Вариант 24. Словно кошка на горячих кирпичах.

Вариант 25. Свой своего ищет.

1 Разработать алгоритм программы.

2 Разработать визуальное приложение, осуществляющее кодирование сообщения методом Хаффмана.

3 Оформить отчет по лабораторной работе, включающий разделы:

· постановка задачи;

· блок-схема программы;

· скриншоты программы;

· код программы (функции обработчиков событий);

· выводы.

Контрольные вопросы

1 Что называется оптимальным префиксным кодом?

2 Какие существуют свойства оптимального кода для вероятностных распределений?

3 Какой этапы включает алгоритм метода Хаффмана?

4 Что понимается под кодовым деревом?

5 Какие выделяют отличия метода кодирования Хаффмана от метода кодирования Шеннона – Фано?

7 УНИВЕРСАЛЬНОЕ КОДИРОВАНИЕ ИСТОЧНИКОВ

Практическая работа № 8 «Универсальное кодирование. Двухпроходное побуквенное кодирование»

Варианты заданий

1 A little pot is soon hot.

2 A drop in the bucket.

3 A dog in the manger.

4 A word is enough to the wise.

5 A rolling stone gathers no moss.

6 All is well that ends well.

7 All is fish that comes to his net.

8 All that glitters id not gold.

9 Brevity is the soul of wit.

10 Custom is a second nature.

11 Better to do well than to say well.

12 Every country has its customs.

13 Hawks will not pick hawks’ eyes out.

14 It is never too late to learn.

15 Lost time is never found again.

16 Never put off till tomorrow what you can do today.

17 Speech is silver but silence is good.

18 Seconds thoughts are best.

19 Plenty is no plague.

20 The least said, the soonest mended.

21 The first blow is half the battle.

22 The mountain has brought forth a mouse.

23 To get out of bed on the wrong side.

24 To give a lark to catch a kite.

25 To make the cup run over.

1 Разработать алгоритм программы.

2 Разработать визуальное приложение, осуществляющее двухпроходное побуквенное кодирование.

3 Оформить отчет по лабораторной работе, включающий разделы:

· постановка задачи;

· блок-схема программы;

· скриншоты программы;

· код программы (функции обработчиков событий);

· выводы.

Контрольные вопросы

1 Что называется универсальным кодированием?

2 Что называется двухпроходным побуквенным кодированием?

3 Как формулируется постановка задачи универсального кодирования источника?

4 Какие ограничения накладываются на множество моделей источника?

5 Какие ограничения накладываются на множество допустимых алгоритмов?

8 АЛГОРИТМЫ КОДИРОВАНИЯ ИСТОЧНИКОВ, ПРИМЕНЯЕМЫЕ В АРХИВАТОРАХ

Практическая работа № 9 «Метод Лемпела – Зива»

Варианты заданий

1 Cut your coat according to your cloth.

2 Between two stools one goes to the ground.

3 East or west, home is best.

4 Empty vessels make the greatest sound.

5 Many a true word is spoken in jest.

6 Mutual admiration society.

7 One today is worth two tomorrow.

8 New brooms sweep clean.

9 No sweet without some sweat.

10 Take care of the pence and the pounds will take care of themselves.

11 Promise little, but do much.

12 Small rain lays great dust.

13 The mill cannot grind with the water that is past.

14 To cry with one eye and laugh with the other.

15 To pour water into a sieve.

16 To measure other people’s corn by one’s own bushel.

17 To play with fire.

18 To plough the sand.

19 To pay one back in one’s own coin.

20 When the fox preaches, take care of your geese.

21 Who has no tested bitter, knows not what is sweet.

22 Two heads are better then one.

23 To work with the left hand.

24 Zeal without knowledge is a run way horse.

25 You cannot judge a tree by its hark.

1 Разработать алгоритм программы.

2 Разработать визуальное приложение, осуществляющее кодирование методом Лемпела – Зива.

3 Оформить отчет по лабораторной работе, включающий разделы:

· постановка задачи;

· блок-схема программы;

· скриншоты программы;

· код программы (функции обработчиков событий);

· выводы.

Контрольные вопросы

1 Как формулируется определение монотонного кода?

2 Какие существуют виды монотонного кода?

3 Какие этапы включает алгоритм метода Лемпела – Зива?

4 Какие преимущества имеет алгоритм Лемпела – Зива?

5 Какие выделяют аспекты практической реализации алгоритма Лемпела – Зива?

Практическая работа № 10 «Метод Лемпела – Зива – Велча»

Варианты заданий

1 When the fox preaches, take care of your geese.

2 Who has no tested bitter, knows not what is sweet.

3 Two heads are better then one.

4 To work with the left hand.

5 Zeal without knowledge is a run way horse.

6 You cannot judge a tree by its hark.

7 To pour water into a sieve.

8 To measure other people’s corn by one’s own bushel.

9 To play with fire.

10 To plough the sand.

11 To pay one back in one’s own coin.

12 Take care of the pence and the pounds will take care of themselves.

13 Promise little, but do much.

14 Small rain lays great dust.

15 The mill cannot grind with the water that is past.

16 To cry with one eye and laugh with the other.

17 Many a true word is spoken in jest.

18 Mutual admiration society.

19 One today is worth two tomorrow.

20 New brooms sweep clean.

21 No sweet without some sweat.

22 Cut your coat according to your cloth.

23 Between two stools one goes to the ground.

24 East or west, home is best.

25 Empty vessels make the greatest sound.

1 Разработать алгоритм программы.

2 Разработать визуальное приложение, осуществляющее кодирование методом Лемпела – Зива – Велча.

3 Оформить отчет по лабораторной работе, включающий разделы:

· постановка задачи;

· блок-схема программы;

· скриншоты программы;

· код программы (функции обработчиков событий);

· выводы.

Контрольные вопросы

1 Что понимается под интервальным кодированием?

2 Какие этапы включает алгоритм метода «стопка книг»?

3 Какие этапы включает алгоритм метода Лемпела – Зива – Велча?

4 Какие преимущества имеет метод Лемпела – Зива?

5 Какие существуют аспекты практического применения метода Лемпела – Зива – Велча?

9 КОДИРОВАНИЕ ИНФОРМАЦИИ ПРИ ПЕРЕДАЧЕ ПО ДИСКРЕТНОМУ КАНАЛУ С ПОМЕХАМИ

Практическая работа № 11 «Помехоустойчивое кодирование. Код Хэмминга»

Варианты заданий

1 A dog in the manger.

2 A drop in the bucket.

3 A fly in the ointment.

4 A hard nut to crack.

5 A storm in a tea cup.

6 All covet, all lose.

7 As black as a crow.

8 As bold as brass.

9 As busy as a bee.

10 As clear as day.

11 As fit as a butter.

12 As like as two peas.

13 As large as life.

14 As fit as a fiddle.

15 As melancholy as a cat.

16 As pale as a ghost.

17 As poor as Job.

18 As slippery as an eel.

19 As true as steel.

20 As thin as a rake.

21 As ugly as sin.

22 As old as the hills.

23 As merry as a cricket.

24 As neat as a picked bone.

25 As mad as a March here.

1 Разработать алгоритм программы.

2 Разработать визуальное приложение, осуществляющее кодирование и восстановление сообщения с обнаружением и исправлением 1 ошибки с использованием кода Хэмминга.

3 Оформить отчет по лабораторной работе, включающий разделы:

· постановка задачи;

· блок-схема программы;

· скриншоты программы;

· код программы (функции обработчиков событий);

· выводы.

Контрольные вопросы

1 Что называется помехоустойчивым кодированием?

2 Какие виды кодов помехоустойчивого кодирования выделяются?

3 Как формулируется теорема Шеннона о кодировании для канала с помехами?

4 Что называется кодом Хэмминга?

5 Какие существуют этапы кодирования и декодирования сообщения с использованием кода Хэмминга?