Задачи для самостоятельного решения

  1. «Вы выходите на следующей остановке?» — спросили челове­ка в автобусе. «Нет», — ответил он. Сколько информации со­держит ответ?
  2. Задано число из промежутка от 1 до 64. Какое количество информации необходимо для угадывания числа из этого промежутка?
  3. Какое количество информации получит второй игрок в игре «Угадай число» при правильной стратегии, если первый игрок загадал число из интервала от 1 до 128?
  4. Какое количество информации получит первый игрок после первого хода второго игрока в игре в «крестики-нолики» на поле 3 на 3?
  5. Каково было количество возможных событий, если после реализации одного из них мы получили количество информации равное 3 бита? 7 бит?
  6. Какой объем информации содержит сообщение, уменьшаю­щее неопределенность знаний в 8 раз?
  7. Вы подошли к светофору, когда горел желтый свет. После этого загорелся зеленый. Какое количество информации вы при этом получили?
  8. Сколько бит информации несет сообщение о том, что на светофоре горит зеленый свет?
  9. На железнодорожном вокзале 8 путей отправления поездов. Вам сообщили, что ваш поезд прибывает на четвертый путь. Сколько информации вы получили?
  10. Была получена телеграмма: «Встречайте, вагон 7». Известно, что в составе поезда 16 вагонов. Какое количество информа­ции было получено?
  11. При угадывании целого числа в диапазоне от 1 до N было по­лучено 9 бит информации. Чему равно N?
  12. При угадывании целого числа в некотором диапазоне было получено 8 бит информации. Сколько чисел содержит этот диапазон?
  13. Сообщение о том, что ваш друг живет на 10 этаже, несет 4 бита информации. Сколько этажей в доме?
  14. Сколько информации несет сообщение о том, что из колоды карт достали
    – карту черной масти?
    – карту бубновой масти?
    – одну карту?
  15. В школьной библиотеке 16 стеллажей с книгами. На каждом стеллаже 8 полок. Какое количество информации содержится в сообщениях
    – «книга лежит на 2 полке»?
    – «книга находится на 5-ом стеллаже на 3 полке»?
  16. Загадано слово из 10 букв. Вы просите открыть пятую букву. Вам ее открыли. Сколько информации вы получили?
  17. Какое количество информации несет сообщение: «Встреча на­значена на май»?

18. Проводятся две лотереи: «5 из 30» и «3 из 42». Сообщение о результатах какой из лотерей несет больше информации?

19. Проводится лотерея «6 из 42».

А) Сколько бит информации мы получаем при выпадении 1-го шара из 42?

Б) Сколько бит информации мы получаем при выпадении 3-го шара (из 41)?

В) Какое количество информации несет сообщение о результатах лотереи?


Разновероятные события

p=K/N i=log2(1/p) N/K= 2i i= log2(N/K) p - вероятность события N - общее число возможных исходов K - число возможных исходов интересующего нас события i – количество информации в сообщении о событии с вероятностью p  
  1. В коробке 5 синих и 15 красных шариков. Какое количество информации несет сообщение, что из коробки достали синий шарик?

N=15+5=20 всего шариков

K=5 – синих

N/K=20/5=4

2i=4

i=2 бита

Ответ: 2 бита.

2.В коробке находятся кубики трех цветов: красного, желтого и зеленого. Причем желтых в два раза больше красных, а зеленых на 6 больше, чем желтых. Сообщение о том, что из коробки случайно вытащили желтый кубик, содержало 2 бита информации. Сколько было зеленых кубиков?

Ж – желтые, К – красные, З - зеленые

Ж=2К

З=Ж+6=2К+6

N=К+Ж+З=К+2К+2К+6=5К+6

iж=2 бита

(5К+6)/2К=22

5К+6=4*2К

К=2

З=2*2+6=10

Ответ: было 10 зеленых кубиков

3.Студенты группы изучают один из трех языков: английский, немецкий или французский. Причем 12 студентов не учат английский. Сообщение, что случайно выбранный студент Петров изучает английский, несет log23 бит информации, а что Иванов изучает французский – 1 бит. Сколько студентов изучают немецкий язык?

Ф – учат французский, А – учат английский

12 не учат английский => N=12+А – общее количество студентов.

iA=log23 бит – количество информации о том, что студент изучает английский

(12+А)/А=3

12+А=3А, А=6 – 6 студентов изучают английский

N=12+6=18 – всего 18 студентов

Iф=1 бит – количество информации о том, что студент изучает французский

18/Ф=2

Ф=9

18-А-Ф=18-6-9=3 студента изучают немецкий.

4.В колоде содержится 32 карты. Из нее наугад взяли 2 карты. Какое количество информации несет сообщение о том, что выбраны туз и король одной масти?

N1=32

K1=4 (4 туза в колоде)

N1/ K1=32/4=8

i1=log28=3 бита

После этого в колоде остается 31 карта.

N2=31

K2=1 (только один король той же масти, что и туз, вытянутый в первый раз)

N2/ K2=31/1=31

i1=log231 бит

i1+ i2=3+ log231 бит

Ответ: 3+ log231 бит

5.В составе 16 вагонов, среди которых К – купейные, П – плацкартные и СВ – спальные. Сообщение о том, что ваш друг приезжает в СВ, несет 3 бита информации. Определите, сколько в поезде вагонов СВ.

N=16

K=СВ

i=3 бита

i=log2(N / K)

3=log2(16/СВ)

16/СВ=8

СВ=2

Ответ: 2

6.Ученики класса, состоящего из 21 человека, изучают немецкий или французский языки. Сообщение о том, что ученик A изучает немецкий язык, несет log23 бит информации. Сколько человек изучают французский язык?

N=21

log23= log2 (21/K)

21/K=3

К=7

21-7=14 учеников изучают французский язык

Ответ: 14

7. Определить, какое количество информации несет буква «О», используя таблицу частот появления букв в русском тексте.

Буква Частота Буква Частота Буква Частота Буква Частота
пробел 0,175 o 0,090 е, ë 0,072 а 0,062
и 0,062 т 0,053 н 0,053 с 0,045
р 0,040 в 0,038 л 0,035 к 0,028
м 0,026 д 0,025 п 0,023 у 0,021
я 0,018 ы 0,016 з 0,016 ъ, ь 0,014
б 0,014 г 0,013 ч 0,012 й 0,010
х 0,009 ж 0,007 ю 0,006 ш 0,006
ц 0,004 щ 0,003 э 0,003 ф 0,002
                 

I=log2(1/N)=-log2(N) , где N – вероятность появления буквы

N=0,09

I= - log2(0,09)