Commençons par donner une définition simple d'une probabilité. Considérons une expérience aléatoire (ou épreuve aléatoire), et Ω l'univers associée à cette expérience (ensemble de tous les résultats possibles).

Une probabilité est une application qui à un événement quelconque lié à l'expérience aléatoire associe un nombre réel (noté ), de telle manière que satisfasse les axiomes de Kolmogorov :

Premier axiome

Pour tout événement :

Deuxième axiome

P (Ω) = 1.

Troisième axiome

Toute suite d'événements deux à deux disjoints, , satisfait:

.

Ces axiomes sont connus comme étant les axiomes de Kolmogorov, du nom de Andrei Kolmogorov qui les a développés.

Alternativement, une probabilité peut être interprétée comme une mesure sur une σ-algèbre ou tribu de sous-ensembles d'un univers Ω (ces sous-ensembles étant les événements), telle que la mesure de l'univers soit égale à 1.

Cette propriété est importante, puisqu'elle nous amène naturellement au concept de probabilité conditionnelle. Tout ensemble A de probabilité non nulle définit une autre probabilité sur l'univers:

pour tout événement B de ,

se note aussi  et habituellement  se lit «la probablité conditionnelle de B sachant A» ou «la probablité de B sachant que A s'est réalisé».