Initiez-vous à la statistique inférentielle

L'objectif

Dans les travaux de modélisation que le data analyst sera amené à traiter, il y a aura régulièrement des hypothèses sur des lois de probabilité qu'il lui faudra vérifier.

Il existe de nombreux tests pour vérifier qu'un échantillon suit ou non une loi de probabilité donnée, on en donne ici deux représentants, un dans le cas discret, le test dit du Khi-deux, et un dans le cas continu, le test de Kolmogorov Smirnov.

Si on reprend nos deux exemples introductifs, la loi de probabilité était acquise dans le premier cas (loi de Bernoulli) tandis que dans le second cas on a supposé que l'échantillon était potentiellement gaussien. Cette dernière hypothèse peut tout à fait être testée ; si Kolmogorov-Smirnov est utilisable (et présenté ici car plutôt intuitif), il nous faut reconnaître que l'on utilise souvent d'autres tests comme celui de Shapiro-Wilk (non présenté ici).

Le test du Khi-deux

L'idée

On considère un échantillon dont la loi de probabilité est discrète, avec un nombre de valeurs potentielles finies (si la loi n'est pas de support borné, il suffit de regrouper les valeurs en queue, de probabilité plus faible).
Prenons un exemple simple, le lancer d'un dé à 6 faces. Pour savoir s'il est équilibré, il nous faudrait idéalement vérifier que la probabilité d'obtenir la face 1 vaut $\$\backslash (\backslash frac\{1\}\{6\}\backslash )\$$, ... , la probabilité d'obtenir la face 6 vaut $\$\backslash (\backslash frac\{1\}\{6\}\backslash )\$$. Le test du Khi-deux nous simplifie la tâche car il permet de regrouper ces six tests élémentaires. Pour cela on considère une (pseudo-)distance entre les probabilités estimées (que sont les fréquences empiriques) et les valeurs testées : plus cette quantité sera grande, plus on sera enclin à rejeter l'hypothèse que le dé est équilibré.

Le test

On suppose qu'on dispose de $\$\backslash (n\backslash )\$$ variables aléatoires $\$\backslash (X\_\{i\}\backslash )\$$ discrètes, à valeurs dans $\$\backslash (\backslash left\backslash \{\; a\_\{1\},\backslash ldots,a\_\{k\}\backslash right\backslash \}\; \backslash )\$$, indépendantes et de même loi caractérisée par $\$\backslash (p=\backslash left(\; p\_\{1\},\backslash ldots,p\_\{k\}\backslash right)\backslash )\$$ où $\$\backslash (p\_\{i\}=\backslash mathbb\{P\}\backslash left(\; X=a\_\{i\}\backslash right)\; \backslash )\$$.
On souhaite tester :

$\$\backslash [\backslash begin\{cases\}\; H\_\{0\}=p^\{0\}\backslash \backslash \; H\_\{1\}\backslash ne\; p^\{0\}\; \backslash end\{cases\}\backslash ]\$$

où $\$\backslash (p^\{0\}=\backslash left(\; p\_\{1\}^\{0\},\backslash ldots,p\_\{k\}^\{0\}\backslash right)\backslash )\$$ est connue.
On utilise à cet effet le test du Khi-deux avec comme statistique :

$\$\backslash [\backslash xi\_\{n\}=n\backslash sum\_\{i=1\}^\{k\}\backslash frac\{\backslash left(\; \backslash widehat\{p\}\_\{i\}-p\_\{i\}^\{0\}\backslash right)\; ^\{2\}\}\{p\_\{i\}^\{0\}\}\backslash ]\$$

.

$\$\backslash (\backslash widehat\{p\}\_\{i\}\backslash )\$$ est égal à la fréquence empirique de la valeur $\$\backslash (a\_i\backslash )\$$.

La loi asymptotique de $\$\backslash (\backslash xi\_\{n\}\backslash )\$$ sous $\$\backslash (H\_0\backslash )\$$ est connue, il s'agit d'une loi du Khi-deux à $\$\backslash (k-1\backslash )\$$ degrés de liberté. On prend donc comme décision, pour un niveau de test $\$\backslash (\backslash alpha\backslash )\$$ :

• le rejet de $\$\backslash (H\_\{0\}\backslash )\$$ si $\$\backslash (\backslash xi\_\{n\}>\backslash chi\_\{k-1,1-\backslash alpha\}^\{2\}\backslash )\$$ ,

• le non-rejet de $\$\backslash (H\_\{0\}\backslash )\$$ si $\$\backslash (\; \backslash xi\_\{n\}\backslash leq\backslash chi\_\{k-1,1-\backslash alpha\}^\{2\}\backslash )\$$ .

Le coin R : exemple des dés de Weldon

Weldon a réalisé   $\$\backslash (n=26306\backslash )\$$ lancers de 12 dés à 6 faces et a comptabilisé, à chaque lancer, le nombre de dés indiquant soit 5 soit 6. Il a obtenu les résultats suivants :

Soit $\$\backslash (X\_i\backslash )\$$ la v.a.r. à valeurs dans  $\$\backslash (\; \backslash left\backslash \{\; 0,\backslash ldots,12\backslash right\backslash \}\backslash )\$$ désignant le nombre de faces comportant un cinq ou un six lors du $\$\backslash (i\backslash )\$$ -ème lancer.

Dans le cas où les dés sont équilibrés : $\$\backslash (X\_i\backslash sim\backslash mathcal\{B\}\backslash left(\backslash frac\{1\}\{3\}\backslash right)\backslash )\$$ .

On teste si les dés sont équilibrés :

n <- c(185,1149,3265,5475,6114,5194,3067,1331,403,105,14,4,0)
p0 <- dbinom(0:12,12,1/3)
chisq.test(n,p=p0)

## Warning in chisq.test(n, p = p0): Chi-squared approximation may be
## incorrect

## 
## Results of Hypothesis Test
## --------------------------
## 
## Alternative Hypothesis: 
## 
## Test Name: Chi-squared test for given probabilities
## 
## Data: n
## 
## Test Statistic: X-squared = 41.31222
## 
## Test Statistic Parameter: df = 12
## 
## P-value: 4.344864e-05

Le test n’est pas valide car les effectifs ne sont pas suffisants pour les valeurs 10, 11 et 12. On agrège ces modalités et on relance les calculs :

n <- c(185,1149,3265,5475,6114,5194,3067,1331,403,105,18)
p0 <- c(dbinom(0:9,12,1/3),sum(dbinom(10:12,12,1/3)))
chisq.test(n,p=p0)

## 
## Results of Hypothesis Test
## --------------------------
## 
## Alternative Hypothesis: 
## 
## Test Name: Chi-squared test for given probabilities
## 
## Data: n
## 
## Test Statistic: X-squared = 35.4943
## 
## Test Statistic Parameter: df = 10
## 
## P-value: 0.0001027878

On rejette très largement l’hypothèse de dés équilibrés au niveau de test 5%.

Le test de Kolmogorov Smirnov

L'idée

On considère un échantillon dont la loi de probabilité est continue.
Revenons à notre exemple de la consommation d'essence. Pour évaluer si cet échantillon peut être considéré comme gaussien, on peut étudier l'écart entre la fonction de répartition d'une loi normale et celle estimée de notre échantillon : la fonction de répartition empirique !
Plus cette quantité est grande, plus on est enclin à rejeter l'hypothèse comme quoi l'échantillon est gaussien. Le test du Kolmogorov-Smirnov, qui permet de tester toute loi de probabilité, repose sur l'écart maximum observé entre les deux fonctions de répartition, l'empirique et la théorique testée. La loi de cette statistique est toujours la même quelle que soit la loi testée, et est connue asymptotiquement : on peut donc réaliser sans souci un test d'adéquation.

Le test

Soit $\$\backslash ((X\_\{1\},\backslash ldots,X\_\{n\})\backslash )\$$ un échantillon i.i.d de même loi que $\$\backslash (X\backslash )\$$ admettant $\$\backslash (F\backslash )\$$ comme fonction de répartition.
On souhaite tester :

$\$\backslash [\backslash begin\{cases\}H\_\{0\}:F=F\_\{0\}\backslash \backslash H\_\{1\}:F\backslash ne\; F\_\{0\}\backslash end\{cases\}\backslash ]\$$

où $\$\backslash (F\_\{0\}\backslash )\$$ est connue.
On utilise à cet effet le test de Kolmogorov-Smirnov avec comme statistique :

$\$\backslash [D\_\{n\}=\backslash sup\_\{x\backslash in\backslash mathbb\{R\}\}\backslash left|F\_\{emp\}(x)-F\_\{0\}(x)\backslash right|\backslash ]\$$

où $\$\backslash (F\_\{emp\}\backslash )\$$ est la fonction de répartition empirique de l'échantillon :

$\$\backslash [F\_\{emp\}(x)=\backslash frac\{1\}\{n\}\backslash sum\_\{i=1\}^\{n\}\backslash ,\; \backslash mathbb\{1\}\_\{X\_i\backslash leq\; x\}\backslash ]\$$

La statistique de test $\$\backslash (D\_\{n\}\backslash )\$$ est basée sur la distance maximale entre la fonction de répartition empirique de l'échantillon, estimation de sa fonction de répartition, et $\$\backslash (F\_\{0\}\backslash )\$$.

La loi asymptotique de $\$\backslash (D\_\{n\}\backslash )\$$ sous $\$\backslash (H\_0\backslash )\$$ est connue. Son équation, pas très explicite, n'est pas donnée ici ; elle est néanmoins implémentée dans les logiciels et permet de déterminer la p-valeur, utilisée en pratique pour la prise de décision.

Le coin R : exemple de la consommation d'essence

On peut tester l’adéquation de la consommation d’essence à une loi normale à l’aide de Kolmogorov-Smirnov :

ks.test(essence$conso,"pnorm",mean=mean(essence$conso),sd=sd(essence$conso))

## Warning in ks.test(essence$conso, "pnorm", mean = mean(essence$conso), sd
## = sd(essence$conso)): ties should not be present for the Kolmogorov-Smirnov
## test

## 
## Results of Hypothesis Test
## --------------------------
## 
## Alternative Hypothesis: two-sided
## 
## Test Name: One-sample Kolmogorov-Smirnov test
## 
## Data: essence$conso
## 
## Test Statistic: D = 0.04830966
## 
## P-value: 0.9262283

On ne peut donc pas rejeter l’hypothèse de normalité au niveau de test 5%.

On aurait également pu lancer un test de Shapiro-Wilk :

shapiro.test(essence$conso)

## 
## Results of Hypothesis Test
## --------------------------
## 
## Alternative Hypothesis: 
## 
## Test Name: Shapiro-Wilk normality test
## 
## Data: essence$conso
## 
## Test Statistic: W = 0.9871523
## 
## P-value: 0.2743285

Résumons !

Au cours de cette partie 4, nous avons vu beaucoup de tests statistiques différents. Voici un petit résumé des différents types de tests que nous avons vu :

• Tests sur les paramètres de la loi d'un échantillon :

  • sur une proportion,

  • sur une moyenne,

  • sur une variance.

• Test de comparaison de deux échantillons (gaussiens).

• Tests d'adéquation à une loi :

  • dans le cas discret : test du Khi-deux.

  • dans le cas continu : test de Kolmogorov-Smirnov.