Различные подходы к измерению информации

Существуют различные подходы к измерению информации:

• содержательный ( сообщение, которое уменьшает неопределенность знания в два раза, несет 1 бит информации );

• алфавитный ( при использовании двоичного алфавита один символ несет 1 единицу информации - 1 бит );

• вероятностный ( чем меньше вероятность события, тем больше информации содержит сообщение о том, что это событие произошло ).