Данный документ содержит перечень из девяти практических задач по дисциплине, связанной с теорией информации и кодированием. Задания охватывают темы расчета безусловной и условной энтропии, анализа информационных характеристик каналов связи с использованием матричного метода, определения информационных потерь при передаче сигналов, а также построения автокорреляционных функций (АКФ) для периодических сигналов.
Задача 1
Взаимодействие двух систем А и В описывается следующей матрицей:
Определить безусловную энтропию системы А и системы В, и Н(А/В).
Задача 2
Определить все возможные информационные характеристики канала связи, в котором взаимосвязь источника с приемником может быть описана матрицей вида:
Задача 3
В результате статистических испытаний канала связи получены следующие условные вероятности перехода одного сигнала в другой:
- р(b1/a1)=0.85
- р(b2/a1)=0.1
- р(b3/a1)=0.05
- р(b1/a2)=0.09
- р(b2/a2)=0.91
- р(b3/a2)=0
- р(b1/a3)=0.08
- р(b2/a3)=0
- р(b3/a3)=0.92
Построить канальную матрицу и определить общую условную и взаимную энтропию сообщений, передаваемых по данному каналу связи, если на выходе источника сигналы появились с равной вероятностью.
Задача 4
Обладают ли информационной полнотой следующие информационные характеристики:
Задача 5
Вероятность появления сигналов на входе приемника сообщений равна соответственно р(b1)=0.2, р(b2)=0.3, р(b3)=0.5. Канал связи описан следующей канальной матрицей: [IMAGE_3]
Определить энтропию источника сообщений.
Задача 6
Вероятность появления сигналов на выходе источника сообщений равна соответственно р(а1)=0.4, р(а2)=0.3, р(а3)=0.3. Канал связи описан следующей канальной матрицей: [IMAGE_4]
Определить информационные потери, которые приходятся на сигнал b1.
Задача 7
Определить энтропию источника сообщений, передаваемых по каналу связи, и состоящих из равновероятных символов и информационные потери при передачи информации, если влияние помех в канале описывается матрицей: [IMAGE_5]
Задача 8
При передачи информации по каналу связи с помехами статистические испытания дали следующие результаты:
| 100 раз передавали цифру приняли цифру | 93 раз |
| 100 раз передавали цифру приняли цифру | 5 раза |
| 100 раз передавали цифру приняли цифру | N раз |
| 100 раз передавали цифру приняли цифру | 97 раз |
| 100 раз передавали цифру приняли цифру | 1 раз |
| 100 раз передавали цифру приняли цифру | 1 раз |
| 100 раз передавали цифру приняли цифру | N раз |
| 100 раз передавали цифру приняли цифру | 98 раз |
| 100 раз передавали цифру приняли цифру | 1 раз |
| 100 раз передавали цифру приняли цифру | 1 раз |
| 100 раз передавали цифру приняли цифру | 100 раз |
Определить информационные потери при передаче каждой отдельной цифры по данному каналу связи, если символы этого алфавита появляются на выходе источника сообщений с вероятностями: p(1)=0.3, p(2)=0.3, p(3)=0.3, p(4)=0.1.
Задача 9
Дан периодический сигнал с периодом 7*N мкс:
Требуется построить осциллограмму сигнала для Вашего номера N по журналу, АКФ и найти интервал корреляции.