Теория информации

Учебное пособие содержит краткое изложение основных понятий и разделов теории информации, таких как энтропия, собственная и взаимная информация, условная энтропия. Рассмотрен пример вычисления этих характеристик для сложной системы. Приведены описание и параметры источников информации и текстов на выходе источников; параметров каналов связи без учета и с учетом помех. Рассмотрены вопросы кодирования и декодирования информации – в частности, эффективные и корректирующие коды. Многочисленные задачи и контрольные вопросы в конце каждого раздела повышают методическую ценность пособия. Учебное пособие предназначено для студентов, обучающихся по специальностям 10.05.03 «Информа…