Количественное определение информации. Энтропия и производительность дискретного источника сообщений
Определение количества информации, содержащейся в каждом из символов источника при их независимом выборе. Двоичная единица информации. Информационные характеристики дискретного источника. Зависимость энтропии при равновероятном распределении вероятностей.
Подобные документы
Определение энтропии и количества информации в сообщениях. Определение энтропии сложного сообщения, вырабатываемого двумя зависимыми источниками. Экономное кодированиее информации в системах цифрового спутникового телевидения и Internet, сотовой связи.
реферат, добавлен 11.02.2009Ограниченный динамический диапазон источников сообщений и конечная разрешающая способность получателей информации – людей и исполнительных механизмов. Равномерное и неравномерное квантование сообщений. Искажения при квантовании. Потеря информации.
реферат, добавлен 10.02.2009Структура и информационные характеристики дискретного канала. Расчет энтропии приемника, потери информации при преобразовании цифровых данных в электрический сигнал. Применение единого ключа в симметрических криптосистемах при шифровании и дешифровании.
курсовая работа, добавлен 02.07.2015Статистический анализ вероятностных свойств дискретного источника по заданной реализации отрезка его выходного текста сообщений. Теоретические и эмпирические вероятности появления цепочек символов на выходе источника. Статистическое двоичное кодирование.
курсовая работа, добавлен 07.09.2014Разработка модели системы передачи дискретных сообщений. Принципы кодирования источника при передаче информации. Расчёт вероятностей двоичных символов; энтропии и избыточности кода. Импульсная и комплексно-частотная характеристика согласованного фильтра.
курсовая работа, добавлен 27.03.2016Расчет информационных характеристик источников дискретных сообщений и канала. Согласование дискретного источника с дискретным каналом без шума, методы кодирования и их эффективность. Информационные характеристики источников сообщений, сигналов и кодов.
курсовая работа, добавлен 14.12.2012Количественные закономерности передачи, хранения и обработки информации. Описание ансамбля сообщений совокупностью возможных сообщений и их вероятностей. Определение количества информации, содержащееся в одном сообщении. Кодирование префиксным кодом.
контрольная работа, добавлен 21.05.2015Вероятностное описание символов, аналого-цифровое преобразование непрерывных сигналов. Информационные характеристики источника и канала, блоковое кодирование источника. Кодирование и декодирование кодом Лемпела-Зива. Регенерация цифрового сигнала.
курсовая работа, добавлен 22.09.2014Изучение радиотехнических систем передачи информации. Назначение и функции элементов модели системы передачи (и хранения) информации. Помехоустойчивое кодирование источника. Физические свойства радиоканала как среды распространения электромагнитных волн.
реферат, добавлен 10.02.2009Новый подход оценки значений утраченных пикселей, основанный на минимизации энтропии коэффициентов дискретного косинусного преобразования (ДКП) блока изображения. Задача устранения импульсного шума и реконструкции утерянных участков изображений.
контрольная работа, добавлен 29.03.2011Статистический анализ вероятностных свойств дискретного источника по заданной реализации отрезка его выходного текста сообщений. Расчет спектров модулирующего и модулированного сигналов. Эквивалентная вероятность ошибочного приема двоичного элемента.
курсовая работа, добавлен 15.04.2012Дискретизация непрерывного сигнала. Увеличение объемов обрабатываемой информации. Вероятностный подход к измерению информации. Оценка количества информации. Количественная зависимость между вероятностью события и количеством информации в сообщении о нем.
курсовая работа, добавлен 04.12.2011Структурная схема одноканальной системы передачи дискретных сообщений. Выбор оптимального типа кодирования. Код Хаффмана. Минимальная длина кодовой комбинации равномерного кода. Энтропия источника сообщений. Расчет информационной скорости на выходе.
курсовая работа, добавлен 08.11.2012Технические характеристики типового источника питания. Основные сведения о параметрических стабилизаторах. Расчет типовой схемы включения стабилизатора на К142ЕН3. Расчет источника питания с умножителем напряжения, мощности для выбора трансформатора.
курсовая работа, добавлен 17.03.2015Информационные характеристики источника сообщений и первичных сигналов. Структурная схема системы передачи сообщений, пропускная способность канала связи, расчет параметров АЦП и ЦАП. Анализ помехоустойчивости демодулятора сигнала аналоговой модуляции.
курсовая работа, добавлен 20.10.2014Структурная схема и информационные характеристики цифровой системы передачи непрерывных сообщений, устройства для их преобразования. Определение помехоустойчивости дискретного демодулятора. Выбор корректирующего кода и расчет помехоустойчивости системы.
курсовая работа, добавлен 22.04.2011Расчет спектра, полной и неполной энергии сигналов. Определение параметров АЦП и разработка математической модели цифрового сигнала. Согласование источника информации с каналом связи. Определение вероятности ошибки в канале с аддитивным белым шумом.
курсовая работа, добавлен 07.02.2013Модели частичного описания дискретного канала. Система с РОС и непрерывной передачей информации (РОС-нп). Выбор оптимальной длины кодовой комбинации при использовании циклического кода в системе с РОС. Длина кодовой комбинации.
курсовая работа, добавлен 26.01.2007Принципы определения производительности источника дискретных сообщений. Анализ пропускной способности двоичного симметричного канала связи с помехами, а также непрерывных каналов связи с нормальным белым шумом и при произвольных спектрах сигналов и помех.
реферат, добавлен 14.11.2010Анализ основных положений теории сигналов, оптимального приема и модуляции сигналов. Обзор способов повышения верности передаваемой информации. Расчёт интервала дискретизации сигнала и разрядности кода. Согласование источника информации с каналом связи.
курсовая работа, добавлен 07.02.2013Определение практической ширины спектра сигнала. Согласование источника информации с каналом связи. Определение интервала дискретизации сигнала. Расчет вероятности ошибки при воздействии "белого шума". Расчет энергетического спектра кодового сигнала.
курсовая работа, добавлен 07.02.2013Характеристика форм представления сообщений, характерных для радиотелеметрических систем. Классификация дискретно-аналоговых и цифровых представлений. Направления рационального представления информации. Точностные характеристики передаваемых сообщений.
реферат, добавлен 10.03.2011Разработка стабилизированного источника питания счётчиков серии "Мир": построение схем; выбор конструкции, топологии и элементной базы. Расчёт параметров импульсного трансформатора, печатной платы; определение показателей надёжности и восстанавливаемости.
дипломная работа, добавлен 24.02.2013Анализ условий передачи сигнала. Расчет спектральных, энергетических характеристик сигнала, мощности модулированного сигнала. Согласование источника информации с каналом связи. Определение вероятности ошибки приемника в канале с аддитивным "белым шумом".
курсовая работа, добавлен 07.02.2013Определение интервалов дискретизации и квантования сигнала. Исследование характеристик кодового и модулированного сигнала. Согласование источника информации с каналом связи. Расчёт разрядности кода, вероятности ошибки в канале с аддитивным белым шумом.
курсовая работа, добавлен 07.02.2013