Вычисление энтропии сообщения
Рассматриваемая фраза – «Характеристики, цели и задачи системы.».
Общее количество символов в предложенной фразе, включая пробелы, запятые и точки, составляет 38, из них количество уникальных символов – 18.
Приняв частость повторения букв во фразе за их вероятности, вычислим энтропию сообщения, используя следующую формулу:
 .
Результаты вычислений приведены в таблице 1.
Таблица 1 – Символы и их вероятности
| Символ
| Количество повторений
| Pi (вероятность)
| log2 Pi
| Pi·log2 Pi
| | А
|
| 0,1053
| -3,248
| -0,342
| | Д
|
| 0,0263
| -5,248
| -0,138
| | Е
|
| 0,0789
| -3,663
| -0,289
| | З
|
| 0,0263
| -5,248
| -0,138
| | И
|
| 0,1842
| -2,441
| -0,45
| | К
|
| 0,0526
| -4,248
| 0,224
| | Л
|
| 0,0263
| -5,248
| -0,138
| | М
|
| 0,0263
| -5,248
| -0,138
| | Р
|
| 0,0526
| -4,248
| -0,224
| | С
|
| 0,0789
| -3,663
| -0,289
| | Т
|
| 0,0789
| -3,663
| -0,289
| | Х
|
| 0,0263
| -5,248
| -0,138
| | Ц
|
| 0,0263
| -5,248
| -0,138
| | Ч
|
| 0,0263
| -5,248
| -0,138
| | Ы
|
| 0,0263
| -5,248
| -0,138
| | Запятая
|
| 0,0263
| -5,248
| -0,138
| | Точка
|
| 0,0263
| -5,248
| -0,138
| | Пробел
|
| 0,1053
| -3,248
| -0,342
| |
| -3,381
|
Таким образом, энтропия сообщения равна H = 3,381
Обзор компонентов Multisim Компоненты – это основа любой схемы, это все элементы, из которых она состоит. Multisim оперирует с двумя категориями...
|
Композиция из абстрактных геометрических фигур Данная композиция состоит из линий, штриховки, абстрактных геометрических форм...
|
Важнейшие способы обработки и анализа рядов динамики Не во всех случаях эмпирические данные рядов динамики позволяют определить тенденцию изменения явления во времени...
|
ТЕОРЕТИЧЕСКАЯ МЕХАНИКА Статика является частью теоретической механики, изучающей условия, при которых тело находится под действием заданной системы сил...
|
|
Шрифт зодчего Шрифт зодчего состоит из прописных (заглавных), строчных букв и цифр...
Краткая психологическая характеристика возрастных периодов.Первый критический период развития ребенка — период новорожденности Психоаналитики говорят, что это первая травма, которую переживает ребенок, и она настолько сильна, что вся последующая жизнь проходит под знаком этой травмы...
РЕВМАТИЧЕСКИЕ БОЛЕЗНИ Ревматические болезни(или диффузные болезни соединительно ткани(ДБСТ))— это группа заболеваний, характеризующихся первичным системным поражением соединительной ткани в связи с нарушением иммунного гомеостаза...
|
|
Травматическая окклюзия и ее клинические признаки При пародонтите и парадонтозе резистентность тканей пародонта падает...
Подкожное введение сывороток по методу Безредки. С целью предупреждения развития анафилактического шока и других аллергических реакций при введении иммунных сывороток используют метод Безредки для определения реакции больного на введение сыворотки...
Принципы и методы управления в таможенных органах Под принципами управления понимаются идеи, правила, основные положения и нормы поведения, которыми руководствуются общие, частные и организационно-технологические принципы...
|
|
