Les définitions et les techniques statistiques sont nombreuses et varient selon les domaines dans lesquels elles sont utilisées.
Les notions concernant les variables aléatoires en probabilité sont les mêmes que les notions de variables statistiques en statistique.
Sur un ensemble de N valeurs ou tirages, on peut définir les concepts suivants :
-
Fréquence :
si l'événement A se produit N(A) fois sur les N, la "fréquence de l'événement A" est 
-
Probabilité :
quand le nombre de tirages augmente, on passe de la statistique à la probabilité, on remplace la fréquence par la probabilité de l'événement i, p(i). La somme des N valeurs de p(i) vaut 1:
- Les liens entre probabilité et statistique sont forts. Les statistiques partent de la réalité d'une population et cherchent à la modéliser avec des lois mathématiques pour l'expliquer et/ou extrapoler son comportement à une autre population. Les probabilités définissent les lois mathématiques auxquelles obéissent des expériences régies par la hasard.
