Книга: Балюкевич Э. Л. «Теория информации. Учебно-методический комплекс»
Целью изучения дисциплины «Теория информации» является освоение математических методов решения задач, связанных с процессами хранения и передачи информации, прежде всего в различного рода управляющих системах. При этом изучаются и анализируются фундаментальные результаты, полученные в этой области. Содержание:Цели и задачи дисциплины...... 5 Введение...... 7 Тема 1. Энтропия опыта (системы)...... 9 1. 1. Энтропия как мера (степень) неопределенности состояния системы. Формула Шеннона...... 9 1. 2. Единицы измерения энтропии...... 14 Тема 2. Энтропия сложной системы...... 16 2. 1. Теорема сложения энтропий для независимых подсистем...... 16 2. 2. Условная энтропия системы. Средняя условная энтропия. Энтропия сложной системы, состоящей из зависимых подсистем...... 20 2. 3. Теоремы, выражающие основные свойства энтропии...... 26 2. 4. Энтропия некоторых основных законов распределения вероятностей дискретных случайных величин...... 32 Тема 3. Количество информации для систем с конечным числом состояний....... 51 3. 1. Количество собственной информации...... 51 3. 2. Количество взаимной информации...... 53 3. 3. Количество частной информации...... 57 Тема 4. Математические модели и основные характеристики дискретных эргодических источников и каналов связи...... 73 4. 1. Общая структурная схема системы связи. Примеры систем связи....... 73 4. 2. Дискретные эргодические источники, их свойства и характеристики...... 78 4. 3. Пропускная способность канала связи...... 92 Тема 5. Элементы теории кодирования...... 100 5. 1. Основные понятия кодирования...... 100 5. 2. Оптимальное кодирование информации при отсутствии помех. Теорема Шеннона...... 103 5. 3. Код Шеннона – Фано, Ход Хафмана...... 112 5. 4. Теорема Шеннона о кодировании при наличии помех. Коды, обнаруживающие и исправляющие ошибку. Код Хэмминга....... 122 Глоссарий...... 139 Таблица значений энтропийной функции ??P? ? ?Plog2P...... 141 Список рекомендуемой литературы...... 142 Руководство по изучению дисциплины...... 144 Сборник задач...... 163 Задачи...... 188 Таблица значений энтропийной функции ?(Р)......-Р logP...... 213 Список рекомендуемой литературы...... 214 Издательство: "Евразийский открытый институт" (2009)
ISBN: 9785374002195 |
Другие книги схожей тематики:
Автор | Книга | Описание | Год | Цена | Тип книги |
---|---|---|---|---|---|
Т. Я. Данелян | Общая теория информации (ОТИ). Учебно-методический комплекс | Предмет изучения данной дисциплины составляют основы теории информации, используемых при создании… — КноРус, электронная книга Подробнее... | 2018 | 550 | электронная книга |
См. также в других словарях:
Право — Фемида греческая богиня справедливости, а также символ правосудия У … Википедия
Логарифм — График двоичного логарифма Логарифм числа … Википедия
Красовский Андрей Николаевич — Дата рождения: 23 июня 1953(1953 06 23) (59 лет) Место рождения: г. Свердловск Страна … Википедия
Дипломатия — средство осуществления внешней политики государств, представляющее собой совокупность практических мероприятий, приёмов и методов, применяемых с учётом конкретных условий и характера решаемых задач; официальная деятельность глав государств и… … Википедия
Список аббревиатур — Это служебный список статей, созданный для координации работ по развитию темы. Данное предупреждение не устанавливается на информационные списки и глоссарии … Википедия
Одесский региональный институт государственного управления Национальной академии государственного управления при Президенте Украины — (ОРИГУ НАГУ) … Википедия