Измерение Информации

«ИЗМЕРЕНИЕ ИНФОРМАЦИИ»

В вычислительной технике битом называют наименьшую "порцию" памяти компьютера, необходимую для хранения одного из двух знаков "0" и "1", используемых для внутримашинного представления данных и команд.

Бит — слишком мелкая единица измерения. На практике чаще применяется более крупная единица —  байт,  равная  восьми битам. 

Именно восемь битов требуется для того, чтобы закодировать любой из 256 символов алфавита клавиатуры компьютера (256=28).

Широко используются также ещё более крупные производные единицы информации:
1 Килобайт (Кбайт) = 1024 байт = 210 байт,
1 Мегабайт (Мбайт) = 1024 Кбайт = 220 байт,
1 Гигабайт (Гбайт) = 1024 Мбайт = 230 байт.

В последнее время в связи с увеличением объёмов обрабатываемой информации входят в употребление такие производные единицы, как:
1 Терабайт (Тбайт) = 1024 Гбайт = 240 байт,
1 Петабайт (Пбайт) = 1024 Тбайт = 250 байт.

При содержательном подходе возможна качественная оценка информации: полезная, безразличная, важная, вредная…

Пусть в некоторое сообщение содержаться сведения о том, что произошло одно из N равновероятностных событий. Тогда количество информации, заключенное в этом сообщении, –i бит и число N связаны формулой:

N= 2i

Пример1.
В барабане для розыгрыша лотереи находится 32 шара.
Сколько информации содержит сообщение о первом выпавшем номере (например, выпал шар №15)
Решение: поскольку вытаскивание любого из 32 шаров равновероятностное, то количество информации об одном выпавшем номере находиться из уравнения:
2i=32.
Но 32=25. Следовательно, i=5 бит.
Очевидно, ответ не зависит от того, какой именно выпал номер.

Алфавитный подход к измерению информации позволяет определить количество информации, заключенной в тексте.
Множество символов, используемых при записи текста, называется алфавитом. 
Полное количество символов в алфавите называется мощностью. 
Если весь текст состоит из К символов, то при алфавитном подходе размер содержащейся в нем информации равен:

где i – информационный вес одного символа в используемом алфавите
(количество бит на один символ).

I=K*i,

Пример 2.
Книга, набрана с помощью компьютера, содержит 150 страниц;
на каждой странице - 40 строк, в каждой строке - 60 символов.
Какой объем информации в книге?
Решение: мощность компьютерного алфавита равна 256.
Один символ равен 1 байт информации.
Значит, страница содержит 40*60=240 байт информации.
Объём (I) всей информации в книге :
240*150=360000 байт.
360000/1024=351,5625 Кбайт.

Пример 3.
Сообщение занимает 3 страницы по 25 строк. В каждой строке записано по 60 символов. Сколько символов в использованном алфавите, если все сообщение содержит 1125 байт?
Решение: переведем байты в биты: 1125*8=9000. Найдем общее количество символов в заданном тексте: 3*25*60=4500 символов. Далее определим информационный вес одного символа в используемом алфавите (количество бит на один символ) из формулы 

Подставим известные величины: i=9000/4500
i=2.
Если информационный вес одного символа в используемом алфавите (количество бит на один символ)равен 2 , то мощность алфавита составляет 4 символа : 22=4.

i=I/K.

Сообщение о том, что из коробки достали один карандаш несет 6 бит информации. Сколько карандашей в коробке?
При угадывании целого числа в некотором диапазоне получено 9 бит информации. Сколько чисел содержит диапазон?
Подсчитать в килобайтах количество информации в тексте, если текст состоит из 800 символов, а мощность используемого алфавита – 128 символов.
Сколько символов в тексте, если мощность алфавита – 64 символа, а объем информации, содержащейся в нем – 1,5 Кбайта?
Объем оперативной памяти компьютера содержит 163 840 машинных слов, что составляет 0,625 Мбайт. Сколько бит содержит каждое машинное слово?

Переведите:
13Мб в байты
128Мб в гигабайты
0,12Мб в биты
0,01Гб в килобайты
40960 бит в килобайты

ОТВЕТЫ

1.N=2^i. N=2^6=64 карандаша.

2.При угадывании числа в диапазоне от 1 N было получено 9 бит информации. Чему равно N? К. N=2 в степени i, где i - количество информации (бит), в нашем случае будет 2 в степени 9. N=2^9=512. Ответ: диапазон чисел имеет значение от 1 до 512.

3.2^i = 128
i = 7 бит
800 * 7 = 5600 бит
5600 : 8 = 700 байт
700 : 1024 = 0,684 килобайт.

4.РешениеI=K*iK=I:iN=64 ; N=2^ii=61,5 Кб *1024*8=12288K=12288:6=2048Ответ: 2048 символов

5.
1. Переведем 0,625 мегабайт в биты:
0,625 мегабайт = 0,625 * 1024 = 640 килобайт.
640 килобайт = 640 * 1024 = 655360 байт.
655360 байт = 655360 * 8 = 5242880 бит.
2. Определим сколько бит содержит одно машинное слово (разделим общий объем памяти в битах на количество машинных слов:
5242880 / 163840 = 32 бита.

13631488 байт
0,125(0,13) Гб
1006632,96 бит
10485,76 Кб
5 Кб