Урок №4

Количество информации. Содержательный подход.

Для человека получение новой информации приводит к расширению знаний или к уменьшению неопределённости.

Содержательный подход

Для человека получение новой информации приводит к расширению знаний или к уменьшению неопределённости.

Пример:

3. Завтра вторник:

a. Нет новой информации

b. Не уменьшает неопределённость знаний

Вывод: это сообщение не несёт новой информации.

Сообщение содержит информацию для человека, если заключённые в нём сведения являются для этого человека новыми и понятными, следовательно, пополняют его знания.

4. «орёл или решка»:

a. в тот момент, когда монетка упала, неопределённость знаний уменьшилась ровно в два раза.

Количество информации можно рассматривать, как меру уменьшения неопределённости знаний при получении информационных сообщений.

Сообщение, уменьшающее неопределённость знаний в 2 раза, несёт 1бит информации.

Пример:

В корзине лежат 8 шаров. Все шары разного цвета. Сколько информации несет сообщение о том, что из корзины достали красный шар?

Решение:

Число возможных событий N=8

Формула, соединяющая число возможных событий и количество информации:

N=2ⁱ

8=2ⁱ

2³=2ⁱ

i=3 бита

^{Ответ: i=3 бита}