Количество информации. Единицы измерения информации. Двоичное кодирование информации. Три основные меры информации

Количество информации – числовая характеристика информации, отражающая ту степень неопределенности, которая исчезает после получения информации. Количественное выраженная неопределенность состояния получила название «энтропия». Для определения энтропии используется формула К. Шеннона.

Основные единицы измерения информации:

Бит – наименьшая единица измерения количества информации. Количество информации в одном бите вдвое уменьшает неопределенность знаний.

Байт – основная единица измерения количества информации (8 бит).

1 байт = 8 битов

1 килобайт = 1024 байта = байтов

1 мегабайт = 1024 килобайта = килобайтов

1 гигабайт = 1024 мегабайт = мегабайтов

1 терабайт = 1024 гигабайта = гигабайтов

1 петабайт = 1024 терабайта = терабайтов

1 эксабайт = 1024 петабайта = петабайтов

1 зеттабайт = 1024 эксабайта = эксабайтов

1 йоттабайт = 1024 зеттабайта = зеттабайтов

Кодирование информации – запись информации с помощью некоторой знаковой системы.

Двоичное кодирование информации – кодирование всех видов информации с помощью двух знаков (0 и 1).

Три основные меры информации:

1) Синтаксическая мера информации – связана с воспроизведением формально-структурных характеристик. На синтаксическом уровне учитываются тип носителя и способ представления информации, скорость ее передачи и обработки, размеры кодов представления информации, надежность и точность информации. Объем данных в сообщение измеряется количеством символов принятого алфавита в этом сообщении.

2) Семантическая мера информации – измерение смыслового содержания информации.

Семантическая адекватность – выражает аспект соответствия образа, т.е. отношение информации и её источника.

Тезаурус – мера информации, которая связывает семантические свойства информации со способностью пользователя воспринимать сообщения, другими словами совокупность сведений, которыми располагает данная система или пользователь.

Количество семантической информации – новые знаки, получаемые пользователем (величина относительная).

3) Прагматическая мера информации – полезность информации, ее ценность для пользователя. Обычно измеряется в тех же единицах, что и целевая функция управления системой.

А.А. Харкевич предложил связать меру ценности информации с изменением вероятности достижения цели при обучении этой информации.