Задание №5

Контрольные вопросы

1. Что понимается под битом информации?

2. Дайте определение единицы измерения информации байта.

3. Определите понятие разряда в байте.

4. Перечислите производные единицы информации.

5. Что такое мощность алфавита?

6. По какой формуле можно вычислить размер алфавита?

7. Какие существуют основные подходы к измерению информации?

8. Запишите формулу, связывающую между собой количество событий с различными вероятностями и количество информации.

ПРИЛОЖЕНИЕ А

ПРИМЕРЫ ЗАДАЧ (С РЕШЕНИЯМИ)

Пример 1. После экзамена по информатике объявляют оценки («5», «4», «3» или «2»). Какое количество информации будет нести сообщение об оценке студента А, который выучил лишь половину билетов, и сообщение об оценке учащегося Б, который выучил все билеты.

Решение. Опыт показывает, что для учащегося А все четыре оценки (события) равновероятны и тогда количество информации, которое несет сообщение об оценке, можно вычислить по формуле Хартли:

I = Iog ₂ 4 = 2 бита.

В результате наблюдений, для студента В наиболее вероятной оценкой является «5» (р₁ = 1/2), вероятность оценки «4» в два раза меньше (р₂ = 1/4), а вероятности оценок «2» и «3» еще в два раза меньше (р₃ = p₄ =1/8). Так как данные события не являются равновероятными, для подсчета количества информации воспользуемся формулой Шеннона:

I = - ( 1/2·log₂l/2+1/4·log₂l/4+1/8·log₂l/8+1/8·log₂l/8)бит= 1,75 бит

(log₂l/2=-1, log₂l/4=-2, log₂l/8=-3).

Ответ: 2 бита; 1,75 бит.

Пример 2. В барабане для розыгрыша лотереи находится 32 шара. Сколько информации содержит сообщение том, что выпал номер 17?

Решение. Поскольку вытаскивание любого из 32 шаров равновероятно, то количество информации об одном выпавшем номере находится из уравнения: 2 ^I =32. Так как 32=2⁵, то I =5 бит. (Ответ не зависит от того, какой именно выпал номер).

Ответ: 5 бит.

Пример 3. Для регистрации на сайте пользователю требуется придумать пароль. Длина пароля – ровно 11 символов. В качестве символов используются десятичные цифры и 12 различных букв алфавита, причём все буквы используются в двух начертаниях: как строчные, так и заглавные (регистр буквы имеет значение).

Под хранение каждого такого пароля на компьютере отводится минимально возможное и одинаковое целое количество байтов, при этом используется посимвольное кодирование и все символы кодируются одинаковым и минимально возможным количеством битов.

Определите объём памяти, который занимает хранение 60 паролей (пароль должен занимать ЦЕЛОЕ число байт).

Решение.

1) согласно условию, в пароле можно использовать 10 цифр (0...9) + 12 заглавных букв алфавита + 12 строчных букв, всего 10+12+12=34 символа;

2) для кодирования 34 символов нужно выделить 6 бит памяти (5 бит не хватает, они позволяют закодировать только 2⁵=32 варианта);

3) для хранения всех 11 символов пароля нужно 11*6 = 66 бит;

4) поскольку пароль должен занимать целое число байт, берем ближайшее большее (точнее, не меньшее) значение, которое кратно 8: это 72= 9*8; то есть один пароль занимает 9 байт;

5) следовательно, 60 паролей занимают 9*60 = 540 байт.

Ответ: 540 байт.

Пример 4. В базе данных хранятся записи, содержащие информацию о студентах:

<Фамилия> – 16 символов: русские буквы (первая прописная, остальные строчные);

<Имя> – 12 символов: русские буквы (первая прописная, остальные строчные);

<Отчество> – 16 символов: русские буквы (первая прописная, остальные строчные);

<Год рождения> – числа от 1960 до 1997.

Каждое поле записывается с использованием минимально возможного количества бит. Определите минимальное (целое) количество байт, необходимое для кодирования одной записи, если буквы е и ё считаются совпадающими.

Решение.

1) итак, нужно определить минимально возможные размеры в битах для каждого из четырех полей и сложить их;

2) известно, что первые буквы имени, отчества и фамилии – всегда заглавные, поэтому можно хранить их в виде строчных и делать заглавными только при выводе на экран;

3) таким образом, для символьных полей достаточно использовать алфавит из 32 символов (русские строчные буквы, «е» и «ё» совпадают, пробелы не нужны);

4) для кодирования каждого символа 32-символьного алфавита нужно 5 бит (32=2⁵), поэтому для хранения имени, отчества и фамилии нужно
(16+12+16)*5=220 бит;

5) для года рождения есть 38 вариантов, поэтому для него нужно отвести 6 бит
(2⁶ =64≥38);

6) таким образом, всего требуется 226 бита или 29 байт.

Ответ: 29 байт.

Пример 5. Текст содержит 150 страниц; на каждой странице – 40 строк, в каждой строке – 60 символов (для записи текста использовался 256-символьный алфавит). Каков объем информации в Мбайтах содержится в документе?

Решение. Мощность алфавита равна 256 символов, поэтому один символ несет 1 байт информации. Значит, страница содержит 40·60 = 2400 байт информации. Объем всей информации в документе (в разных единицах):

2400·150 = 360 000 байт.

360000/1024 = 351,6 Кбайт.

351,5625/1024 = 0,3 Мбайт.

Ответ: 0,3 Мбайт.

Пример 6. Какова мощность алфавита, с помощью которого записано сообщение, содержащее 2048 символов (страница текста), если его объем составляет 1,25 Кбайта?

Решение. Переведем информационное сообщение в биты:

1,25*1024*8=10240 бит.

Определим количество бит на один символ:

10240:2048=5 бит.

По формуле для мощности алфавита определим количество символов в алфавите:

N =2 ⁱ =2⁵=32 символа.

Ответ: 32 символа.