Maîtrisez les bases des probabilités

Convergence en probabilité

Première approche

Vous connaissez déjà le sens du mot convergence qui décrit le comportement d'une suite numérique à l'infini, et qui signifie que les termes de cette suite de réels sont de plus en plus proches d'un réel donné, appelé la limite de la suite.

On retrouve l'idée de se rapprocher de plus en plus d'une valeur dans la convergence en probabilité.

Cette fois, on considère non pas une suite de réels, mais une suite de variables aléatoires $\$\backslash ((X\_n)\backslash )\$$ et une variable aléatoire $\$\backslash (X\backslash )\$$ , définies sur le même espace probabilisé. On dit que $\$\backslash ((X\_n)\; \backslash )\$$ converge en probabilité vers $\$\backslash (X\backslash )\$$  si la probabilité que l'écart entre les variables aléatoires de la suite $\$\backslash ((X\_n)\backslash )\$$ et $\$\backslash (X\backslash )\$$ dépasse un réel $\$\backslash (\backslash epsilon\backslash )\$$ arbitrairement choisi, sous-entendu aussi petit soit-il, tend vers zéro.

On dit convergence en probabilité parce que c'est la probabilité que cet écart dépasse $\$\backslash (\backslash epsilon\backslash )\$$ qui tend vers zéro.

Énoncé

Notation

  $\$\backslash (X\_n\; \backslash underset\{n\; \backslash to\; +\backslash infty\}\{\backslash overset\{p\}\{\backslash longrightarrow\}\}X\backslash )\$$ ou encore $\$\backslash (X\_n\; \{\backslash overset\{\backslash mathbb\{P\}\}\{\backslash longrightarrow\}\}X\backslash )\$$

Exemple

On considère une suite de variables aléatoires $\$\backslash ((X\_n)\backslash )\$$ suivant la loi de Poisson de paramètre $\$\backslash (\backslash lambda\backslash )\$$ et on s'intéresse à une autre suite de variables aléatoires notée $\$\backslash (\backslash bar\{X\_n\}\backslash )\$$ et définie par :

  $\$\backslash (\backslash bar\{X\_n\}=\; \backslash frac\{1\}\{n\}\backslash sum\_\{i=1\}^\{n\}\; X\_i\backslash )\$$

Admettons que l'on démontre la limite suivante :

$\$\backslash (\backslash forall\; \backslash epsilon\; >0,\; \backslash lim\backslash limits\_\{n\; \backslash rightarrow\; +\backslash infty\}\; \backslash mathbb\{P\}(|\backslash bar\; \{X\_n\}\; -\; \backslash lambda|\; \backslash geq\; \backslash epsilon)\; =\; 0\backslash )\$$

Alors on aura démontré que la suite de variables aléatoires $\$\backslash ((\backslash bar\{X\_n\})\backslash )\$$ converge en probabilité vers la variable aléatoire $\$\backslash (\; Y\; \backslash )\$$ définie par :

 $\$\backslash (Y(\backslash Omega)\; =\; \{\backslash lambda\}\backslash )\$$ et $\$\backslash (\backslash mathbb\{P\}(Y=\backslash lambda)\; =\; 1\backslash )\$$

 $\$\backslash (Y\backslash )\$$ est ce que l'on appelle la variable certaine égale à $\$\backslash (\backslash lambda\backslash )\$$ .

Loi faible des grands nombres

Définition de la moyenne empirique

Pour bien comprendre le sens de la loi faible des grands nombres, nous avons besoin de définir une suite de variables aléatoires particulière que l'on appelle la moyenne empirique.

Étant donné une suite de variables aléatoires $\$\backslash ((X\_n)\backslash )\$$, on appelle moyenne empirique de cette suite la suite de variables aléatoires ( $\$\backslash (\backslash bar\{X\_n\}\backslash )\$$ ) définie par :

 $\$\backslash (\backslash bar\{X\_n\}=\; \backslash frac\{1\}\{n\}\backslash sum\_\{i=1\}^\{n\}\; X\_i\backslash )\$$

Il s'agit de la moyenne arithmétique des termes de la suite $\$\backslash ((X\_n)\backslash )\$$ .

Énoncé de la loi faible des grands nombres

Interprétation

Étant donné une suite de variables aléatoires indépendantes de même espérance et variance, la moyenne empirique de cette suite converge en probabilité vers la variable certaine égale à l'espérance, commune à toutes les variables aléatoires de la suite.

Exemple

Prenons l'exemple d'une suite de variables aléatoires de Bernoulli de paramètre $\$\backslash (\backslash frac\{1\}\{6\}\backslash )\$$ . On peut par exemple imaginer que l'on réalise une série de lancers avec un dé non truqué et que $\$\backslash ((X\_n)\backslash )\$$ est une suite de variables aléatoires qui prennent la valeur 1 lorsque l'on obtient un $\$\backslash (6\backslash )\$$ et la valeur $\$\backslash (\; 0\backslash )\$$ lorsque l'on obtient un autre nombre.

Ces variables aléatoires ont toutes pour espérance $\$\backslash (\; \backslash frac\{1\}\{6\}\backslash )\$$ et pour variance $\$\backslash (0\backslash )\$$ , puisqu'elles suivent toutes une loi de Bernoulli de paramètre $\$\backslash (\; \backslash frac\{1\}\{6\}\backslash )\$$ .

Selon la loi des grands nombres, si on fait un grand nombre de lancers, et que l'on calcule la moyenne des valeurs des variables aléatoires qui tour à tour prendront la valeur 0 ou 1, alors la probabilité que la moyenne de ces valeurs, c'est-à-dire la moyenne de ces 0 et 1, s'éloigne de $\$\backslash (\backslash frac\{1\}\{6\}\; \backslash )\$$ tend vers 0, lorsque le nombre de lancers tend vers l'infini.

Ce qui est très intuitif et flatte notre bon sens.