equiprobable събития

В следната ситуация се счита:

1) лице получава съобщение за дадено събитие; с напредъка на човешкото познание е известно, че несигурността на очакваното събитие. Несигурността на знания може да бъде изразено като или няколко възможни варианта за събитията или очакваната вероятността за това събитие;

2) в резултат на получаване на съобщението по несигурност знания се отстранява: някои от възможния брой варианти се появи, за да изберете един;

3) изчислено съгласно формула количеството информация в полученото съобщение, изразено в бита.

Формулата за изчисляване на количеството на информацията зависи от ситуацията, която може да бъде два:

1. Всички възможни сценария са еднакво вероятни. Техният брой е ограничен и равно на Н.

2. Вероятности (р) възможните сценарии са различни и са известни предварително:

Все още N са - броят на възможните варианти на събития.

С въвеждането на понятието за вероятност, е необходимо да се докладва, че вероятността за някакво събитие - количество, което може да варира от нула до единица. Вероятността за невъзможна случай е равна на нула (например: "Утре слънцето не ще се повиши над хоризонта"), вероятността за определен случай е равна на единица (например: "Утре слънцето се издига над хоризонта").

Вероятността за събитие се определя чрез многократни наблюдения (измервания, тестове). Такива измервания са посочени като статистическа. И по-голямата броят на измерванията се извършва, за да се определи точно вероятността на събитието.

Математическият определението на вероятност е: veroyatnostravna отношение на броя на резултатите, водещи до събитието на общия брой на еднакво възможни резултати.

Събитията са еднакво, ако нито един от тях има предимства пред другия.

Ако буквата и означаване на количеството информация в съобщението, че е имало един от N еднакво вероятни събития, стойностите на аз и N са свързани помежду си Хартли формула: