Студопедия — Вычисление энтропии сообщения
Студопедия Главная Случайная страница Обратная связь

Разделы: Автомобили Астрономия Биология География Дом и сад Другие языки Другое Информатика История Культура Литература Логика Математика Медицина Металлургия Механика Образование Охрана труда Педагогика Политика Право Психология Религия Риторика Социология Спорт Строительство Технология Туризм Физика Философия Финансы Химия Черчение Экология Экономика Электроника

Вычисление энтропии сообщения






 

Рассматриваемая фраза – «Характеристики, цели и задачи системы.».

Общее количество символов в предложенной фразе, включая пробелы, запятые и точки, составляет 38, из них количество уникальных символов – 18.

Приняв частость повторения букв во фразе за их вероятности, вычислим энтропию сообщения, используя следующую формулу:

.

Результаты вычислений приведены в таблице 1.

 

Таблица 1 – Символы и их вероятности

Символ Количество повторений Pi (вероятность) log2 Pi Pi·log2 Pi
А   0,1053 -3,248 -0,342
Д   0,0263 -5,248 -0,138
Е   0,0789 -3,663 -0,289
З   0,0263 -5,248 -0,138
И   0,1842 -2,441 -0,45
К   0,0526 -4,248 0,224
Л   0,0263 -5,248 -0,138
М   0,0263 -5,248 -0,138
Р   0,0526 -4,248 -0,224
С   0,0789 -3,663 -0,289
Т   0,0789 -3,663 -0,289
Х   0,0263 -5,248 -0,138
Ц   0,0263 -5,248 -0,138
Ч   0,0263 -5,248 -0,138
Ы   0,0263 -5,248 -0,138
Запятая   0,0263 -5,248 -0,138
Точка   0,0263 -5,248 -0,138
Пробел   0,1053 -3,248 -0,342
  -3,381

 

Таким образом, энтропия сообщения равна H = 3,381

 







Дата добавления: 2015-09-04; просмотров: 1098. Нарушение авторских прав; Мы поможем в написании вашей работы!



Обзор компонентов Multisim Компоненты – это основа любой схемы, это все элементы, из которых она состоит. Multisim оперирует с двумя категориями...

Композиция из абстрактных геометрических фигур Данная композиция состоит из линий, штриховки, абстрактных геометрических форм...

Важнейшие способы обработки и анализа рядов динамики Не во всех случаях эмпирические данные рядов динамики позволяют определить тенденцию изменения явления во времени...

ТЕОРЕТИЧЕСКАЯ МЕХАНИКА Статика является частью теоретической механики, изучающей условия, при ко­торых тело находится под действием заданной системы сил...

ЛЕКАРСТВЕННЫЕ ФОРМЫ ДЛЯ ИНЪЕКЦИЙ К лекарственным формам для инъекций относятся водные, спиртовые и масляные растворы, суспензии, эмульсии, ново­галеновые препараты, жидкие органопрепараты и жидкие экс­тракты, а также порошки и таблетки для имплантации...

Тема 5. Организационная структура управления гостиницей 1. Виды организационно – управленческих структур. 2. Организационно – управленческая структура современного ТГК...

Методы прогнозирования национальной экономики, их особенности, классификация В настоящее время по оценке специалистов насчитывается свыше 150 различных методов прогнозирования, но на практике, в качестве основных используется около 20 методов...

Характерные черты официально-делового стиля Наиболее характерными чертами официально-делового стиля являются: • лаконичность...

Этапы и алгоритм решения педагогической задачи Технология решения педагогической задачи, так же как и любая другая педагогическая технология должна соответствовать критериям концептуальности, системности, эффективности и воспроизводимости...

Понятие и структура педагогической техники Педагогическая техника представляет собой важнейший инструмент педагогической технологии, поскольку обеспечивает учителю и воспитателю возможность добиться гармонии между содержанием профессиональной деятельности и ее внешним проявлением...

Studopedia.info - Студопедия - 2014-2024 год . (0.01 сек.) русская версия | украинская версия