Initiez-vous à la statistique inférentielle

Mathématiquement

 Un estimateur est exhaustif si la loi de l'échantillon $\$\backslash (\backslash left(X\_1,\backslash ldots,X\_n\backslash right)\backslash )\$$ conditionnellement à l'estimateur $\$\backslash (\backslash widehat\{\backslash theta\}\backslash )\$$ est indépendante du paramètre $\$\backslash (\backslash theta\backslash )\$$ .

Un estimateur $\$\backslash (\backslash widehat\{\backslash theta\}\backslash )\$$ de $\$\backslash (\backslash theta\backslash )\$$ est consistant (convergeant) si :

$\$\backslash [\backslash widehat\{\backslash theta\}\backslash xrightarrow\{\backslash mathbb\{P\}\}\backslash theta\backslash ]\$$

Le biais de l'estimateur $\$\backslash (\backslash widehat\{\backslash theta\}\backslash )\$$ de $\$\backslash (\backslash theta\backslash )\$$ vaut :

$\$\backslash [\backslash operatorname\{Biais\}\backslash left(\backslash widehat\{\backslash theta\},\backslash theta\backslash right)=\backslash mathbb\{E\}\backslash left(\backslash widehat\{\backslash theta\}\backslash right)-\backslash theta\backslash ]\$$

Le risque quadratique d'un estimateur vaut :

$\$\backslash [R\backslash left(\backslash widehat\{\backslash theta\},\backslash theta\backslash right)=\backslash mathbb\{E\}\backslash left[\backslash left(\backslash widehat\{\backslash theta\}-\backslash theta\backslash right)^\{2\}\backslash right]\backslash ]\$$

Retour au taux de guérison

La loi forte des grands nombres (échantillon i.i.d de loi $\$\backslash (\backslash mathcal\{B\}(p)\backslash )\$$ ) assure que :

$\$\backslash [\backslash overline\{X\}\backslash xrightarrow\{\backslash operatorname\{p.s\}\}\backslash mathbb\{E\}\backslash left(X\_1\backslash right)=p\backslash ]\$$

La convergence presque sûre entraînant la convergence en probabilité, l'estimateur est donc consistant.

L'estimateur est sans biais, en effet :

$\$\backslash [\backslash mathbb\{E\}\backslash left(\backslash overline\{X\}\backslash right)=\backslash frac\{1\}\{n\}\backslash sum\_\{i=1\}^n\; \backslash mathbb\{E\}\backslash left(X\_\{i\}\backslash right)=p\backslash ]\$$

L'estimateur étant sans biais, le risque quadratique est égal à la variance :

$\$\backslash [R\backslash left(\backslash overline\{X\},p\backslash right)=\backslash operatorname\{Var\}\backslash left(\backslash overline\{X\}\backslash right)=\backslash frac\{1\}\{n^2\}\backslash sum\_\{i=1\}^n\; \backslash operatorname\{Var\}\backslash left(X\_\{i\}\backslash right)\backslash ]\$$

car les variables $\$\backslash (X\_i\backslash )\$$ sont indépendantes, donc non corrélées, d'où :

$\$\backslash [R\backslash left(\backslash overline\{X\},p\backslash right)=\backslash frac\{p(1-p)\}\{n\}\backslash ]\$$

Le risque quadratique fournit un indicateur de la dispersion de $\$\backslash (\backslash overline\{X\}\backslash )\$$ autour de la valeur à estimer $\$\backslash (p\backslash )\$$ . Certes on ne connaît pas sa valeur qui dépend de $\$\backslash (p\backslash )\$$ , mais on peut l'estimer par :

$\$\backslash [\backslash frac\{\backslash overline\{X\}\backslash left(1-\backslash overline\{X\}\backslash right)\}\{n\}\backslash ]\$$

On constate que le risque quadratique décroît logiquement quand la taille de l'échantillon augmente.

Notons que ces résultats sont valables quelle que soit la loi, pas seulement pour une loi $\$\backslash (\backslash mathcal\{N\}\backslash left(\backslash mu,\backslash sigma^2\backslash right)\backslash )\$$.

Retour à la consommation d'essence

La loi forte des grands nombres (et un théorème, celui de Slutsky) assure que les estimateurs $\$\backslash (\backslash overline\{X\}\backslash )\$$ , $\$\backslash (V\backslash )\$$ et $\$\backslash (S^\{\backslash prime\; 2\}\backslash )\$$ sont consistants :

$\$\backslash [\backslash overline\{X\}\backslash xrightarrow\{\backslash operatorname\{p.s\}\}\backslash mu\backslash ]\$$

$\$\backslash [V\backslash xrightarrow\{\backslash operatorname\{p.s\}\}\backslash sigma^2\backslash ]\$$

$\$\backslash [S^\{\backslash prime\; 2\}\backslash xrightarrow\{\backslash operatorname\{p.s\}\}\backslash sigma^2\backslash ]\$$

 $\$\backslash (\backslash overline\{X\}\backslash )\$$ est un estimateur sans biais de $\$\backslash (\backslash mu\backslash )\$$ :

$\$\backslash [\backslash mathbb\{E\}\backslash left(\; \backslash overline\{X\}\backslash right)\; =\backslash mu\backslash ]\$$

$\$\backslash (V\backslash )\$$ est un estimateur biaisé, mais asymptotiquement sans biais, de $\$\backslash (\backslash sigma^\{2\}\backslash )\$$ :

$\$\backslash [\backslash mathbb\{E\}\backslash left(\; V\backslash right)\; =\backslash sigma^\{2\}-\backslash frac\{1\}\{n\}\backslash sigma^\{2\}\backslash quad\backslash xrightarrow\{n\backslash rightarrow\; +\backslash infty\}\backslash ,\backslash sigma^\{2\}\backslash ]\$$

Si $\$\backslash (V\backslash )\$$ est un estimateur biaisé (mais asymptotiquement sans biais) de $\$\backslash (\backslash sigma^\{2\}\backslash )\$$ , $\$\backslash (S^\{\backslash prime\; 2\}\backslash )\$$ est quant à elle sans biais :

$\$\backslash [\backslash mathbb\{E\}\backslash left(\; S^\{\backslash prime\; 2\}\backslash right)\; =\backslash sigma^\{2\}\backslash ]\$$

C'est pour cela qu'on retrouve usuellement dans les logiciels la version dite sans biais (unbiased) $\$\backslash (S^\{\backslash prime\; 2\}\backslash )\$$ .