Подписка на блог

РСС — лучше всего

Ещё есть автоматические трансляции в Тумблере и Же-же. Если что-то не работает, напишите мне: ilyabirman@ilyabirman.ru.

Полбита

А все ли знают, что бывает полбита информации? А то там в комментариях к Ээльмаа поднялся вопрос миллибайтов.

Больше года назад на ДиаLOG’е я писал:
Абстрагируемся от компьютера. Это иногда полезно. Что такое информация? Вопрос почти такой же, как «В чем смысл жизни?» — трудно что-либо внятное ответить. Тогда поставим вопрос по другому: какие цели преследуем мы, передавая информацию другим? Предположим, что кто-то чего-то не знает. Например, ваш возраст. Если этому человеку о вас ничего не известно, то, будем считать, все значения вашего возраста, лежащие в разумных пределах, например, от 0 до 49, равновероятны. Для простоты будем считать, что человеку все же известно, что вам меньше 50 лет, тогда назовем неопределенностью число возможных вариантов, которые может выбрать человек: F=50. Что происходит с этим числом, когда вы называете человеку свой возраст? Оно становится равным единице, т. к. зная, что вам, скажем, 20 лет, человек не может предполагать иного. Назвав число 20, вы передали человеку некоторую информацию, уменьшившую неопределенность в 50 раз.

Определение: 1 бит информации — это такое её количество, которое уменьшает неопределенность в 2 раза. Надеюсь, очевидно, что 1 байт уменьшает неопределенность в 256 раз, а, скажем, 3 байта — в 16777216 раз?

Вернемся к нашим баранам. Предположим, вы сказали нашему персонажу/герою, что вам меньше 25 лет. У него осталось 25 вариантов (от 0 до 24), т. е. F=25. Вы снизили неопределенность в два раза, значит, по определению, передали уважаемому товарищу один бит.

Теперь покажем, что количество информации, переданное вами, может быть и меньше одного бита.

Дело в том, что вероятность того, что вам меньше 25 лет равна вероятности обратного. В компьютере вся логика основана на том, что состояния 1/0 любого бита (в значении binary digit) равновероятны. В жизни бывает иначе. Например, вы сказали, что вам меньше 45 лет. Получил ли ваш собеседник 1 бит информации? По компьютерной логике, да, так как условие «ВОЗРАСТ < 45» может быть либо истинным, либо ложным. Однако, повторюсь, в компьютере любые два исхода считаются равновероятными. Но мы-то понимаем, что вероятность того, что нам менее 45 лет намного выше, чем того, что нам от 45 до 49 (а больше нам быть просто не может, исходя из начальных условий). И мы прекрасно понимаем, что информативность фразы «мне меньше 45 лет» намного ниже, чем указание на диапазон 45..49. Таким образом, сказав, что вам мешьше 45 лет вы передаете собеседнику лишь долю бита информации.

Понять это можно только забыв об единичках и ноликах и осознав, что информация есть мера снижения неопределенности (вот вам и ответ на вопрос, сформулированный в начале заметки).

Вот вам таблица для наглядности. Играем в угадай число (N) от 0 до 99. Слева — информация, которую вы сообщаете о загаданном числе, справа — её количество в битах.

N<1000
N<990,01449957
N<750,415037499
N<501
N<252
N<123,058893689
N<64,058893689
N<16,64385619

Как я посчитал дробные биты догадайтесь сами. Это очень просто.
Подписаться на блог
Поделиться
Отправить
9 комментариев
OnyX
Бывает, но толко не в компе ;) 
Spectator
Элементарно, Ватсон: на полбитах работает так называемая fuzzy logic, когда «то ли да, то ли нет».
OnyX
Но компы же вычисляют в Бинарной логике, т. е. проц видит либо «да», либо «нет». А Fuzzy Logiс это еще один из способов упростить людям жизнь...
banz
Не о том вообще речь. Кого интересует полбита? Есть високосные байты. Каждый четвертый — именно такой
АнтON
Полубит — это когда бабушка надвое сказала, а за тобой выбор — верить или нет. :)
OnyX
Бит это просто единица измерения информации, такая же как и секунда или метр. Так же как и секунду или метр, бит можно разделить на «милибит» или «нанобит». Но комп, так как он тупая груда металла которой все лишь бы округлить, может считать или использовать тока целые биты. Человек же, по сущности существо гениальное :) , может биты делить и воспринимать полубиты...а некоторые двуногие обходятся и вообще без них.
OnyX
Нашел другое определение бита, которое опровергает, по моему мнению, теорию Ильи:** «Сообщение о событии, у которого только два одинаково возможных исхода, содержит одну единицу информации, называемую битом.»**
Илья Бирман
Во-первых, это никак нельзя назвать определением. Во-вторых, то, что тут сказано, никак не противоречит тому, что написал я. В-третьих, это не «теория Ильи», а «вероятностный подход к измерению информации» (или чё-то такое)
OnyX
Почему же это не определение? И чем твое определенней того что нашел я? А насчет противоречия, то конечно противоречит, надо тока подумать немного. А про «Теорию Ильи» это я просто «» забыл...сорри 
Антон
Я, может, гуманитарий на всю голову, но мне интересно, как Вы посчитали. :-)

Пользовательский интерфейс
Доступны два раздела
электронного учебника

Популярное