Информационный объём символа

Итак, нам нужно понять, как записать любой символ, например, букву «М», в виде двоичного кода. После этого мы можем составить полное сообщение в двоичном коде, «собрав» в единую цепочку коды отдельных символов. Длина этой цепочки и определит количество информации в тексте.

Чаще всего при кодировании текстов коды всех символов имеют одинаковую длину. Такой код называется равномерным.

Вернемся к нашей фразе МАМА МЫЛА РАМУ. В ней используются буквы М, А, Ы, Л, Р, У и пробел, который мы будем обозначать знаком – всего 7 символов. Поскольку никаких других символов в нашем тексте нет, можно считать, что он записан с помощью алфавита, содержащего только 7 знаков. Это число называют мощностью алфавита.

Сколько битов нужно, чтобы все 7 символов имели различные коды? Вспомните, что один бит позволяет закодировать 2 варианта, два бита – 4 варианта, три бита – 8 вариантов. Поэтому двух битов нам не хватит, а трёх уже достаточно. Например, можно присвоить символам такие коды:

М	А	Ы	Л	Р	У

В этом случае информационный объём каждого символа – 3 бита (любой символ занимает 3 бита в памяти компьютера).

В компьютерной технике часто используют 8-битные и 16-битные кодировки, когда на один символ отводится соответственно 8 или 16 битов. В первом случае (8-битная кодировка) можно использовать 2⁸ = 256 различных символов, а 16-битная кодировка позволяет кодировать значительно больше символов: 2¹⁶ = 65536.

Как же определяют, какой символ соответствует, скажем, коду 01010011? Для этого есть международные стандарты, где определены коды всех символов. Например, ASCII – это американский стандартный код для обмена информацией, который определяет символы с кодами от 0 до 127. Этот код включает латинские буквы, цифры, знаки арифметических операций, скобки и др. Другие (расширенные) кодировки включают буквы других алфавитов, в том числе и русского. Например, при использовании 8-битной кодировки мы можем закодировать символы ещё одного алфавита (кроме английского): они получают коды в диапазоне от 128 до 255.

Если используется нестандартная кодировка, при обмене сообщениями нужно еще передать словарь – сообщить, какой букве какой код соответствует.