Типичен пример за побитово поле са правата на файловете в Линукс.
Ако вземем само едната "група" права - прим. тази на собственика имаме 3-битове поле:
read - write - execute
Всеки бит от информация еднозначно определя "ДА или НЕ", "ИСТИНА или ЛЪЖА", "0 или 1" и т.н. Това де факто е точно "бит информация".
Броят комбинации от стойности на n бита (побитово поле или по-сложна структура) при пълно комбиниране е точно 2
n.
Има случаи когато реално информацията в едно побитово поле може да се окаже по-малко от максималната - при "загуба" или "забрана" на някои комбинации.
Прим. ако имаме X
1 ... X
n битове, но прим. стойността на X
5 има смисъл тогава и само тогава когато Х
4 е логическа "1". Тогава казваме,че има корелация (връзка, зависимост) между Х
5 и Х
4 и общото количество информация носено от X
1 ... X
n става по-малко от максимално възможното - 2
n. Казано по друг начин - намалили сме хаоса (ентропията) в системата, следователно тя става по-малко хаотична, "знаем"повече за нея, тя може да ни "изненада" по-малко и следователно обемът информация в нея намалява.
Крайният вариант - една напълно "подредена" система (липсва хаос, ентропията е нула), в която знаем всичко.
Прим., ако отговорът на един въпрос е винаги ДА, то получаването му не носи никаква информация.
По друг начин казано, имаме 100% корелация между всеки един отделен отговор
Нещо много се разфилософствах, май по-добре да ходя да си лягам