Réalisez des modélisations de données performantes

À ce stade, la régression linéaire a livré toutes ses possibilités.

Nous avons estimé $\$\backslash (\backslash beta\_1\backslash )\$$ , $\$\backslash (\backslash beta\_2\backslash )\$$ et $\$\backslash (\; \backslash sigma^2\backslash )\$$ , et nous sommes également en mesure de calculer le coefficient de détermination.

Mais nous ne pouvons pas tester les paramètres ni établir d'intervalles de confiance sur ces paramètres.

Pour pouvoir le faire, nous allons donc ajouter une hypothèse de loi : l'hypothèse gaussienne, c'est-à-dire que nous considérons que $\$\backslash (\backslash epsilon\backslash )\$$ suit une loi normale $\$\backslash (\backslash mathcal\{N\}(0,\backslash sigma^2)\backslash \; .\backslash )\$$

Si nous reprenons le modèle de la régression linéaire simple entre le pic d'ozone et la température à midi, nous allons pouvoir tester si la température à midi est significative pour expliquer le pic d'ozone.

Avec cette hypothèse, on parle de modèle linéaire gaussien simple.

Dans le modèle linéaire gaussien simple, on considère, en sus des hypothèses formulées dans le cadre du modèle linéaire simple :

$\$\backslash [\backslash varepsilon\backslash sim\backslash mathcal\{N\}\backslash left(0,\backslash sigma^2\backslash right)\backslash \backslash ]\$$

Dans ce cadre, $\$\backslash (\backslash left(\backslash varepsilon\_i\backslash right)\_\{i\backslash in\backslash \{1,\backslash ldots,n\backslash \}\}\backslash )\$$ est un échantillon i.i.d de loi $\$\backslash (\backslash mathcal\{N\}\backslash left(0,\backslash sigma^2\backslash right)\backslash )\$$ .

Testez la significativité de $\$\backslash (\backslash beta\_1\backslash )\$$ et $\$\backslash (\backslash beta\_2\backslash )\$$

Pour $\$\backslash (j\backslash in\backslash \{1,2\backslash \}\backslash )\$$ , on teste : 

$\$\backslash [\backslash begin\{cases\}H\_\{0\}\; :\backslash beta\_j=0\backslash \backslash H\_\{1\}\; :\backslash beta\_j\backslash neq\; 0\backslash end\{cases\}\backslash ]\$$

On utilise comme statistique de test :

$\$\backslash [T\_j=\backslash frac\{\backslash widehat\{\backslash beta\}\_j\}\{\backslash widehat\{\backslash sigma\}\_\{\backslash widehat\{\backslash beta\}\_j\}\}\backslash ]\$$

où :

$\$\backslash [\backslash sigma^2\_\{\backslash widehat\{\backslash beta\}\_1\}=\backslash frac\{\backslash sigma^2\backslash sum\_\{i=1\}^n\; x\_i^2\}\{n\backslash sum\_\{i=1\}^n\backslash left(x\_i-\backslash bar\{x\}\backslash right)^2\}\backslash \; ,\backslash \backslash \; \backslash sigma^2\_\{\backslash widehat\{\backslash beta\}\_2\}=\backslash frac\{\backslash sigma^2\}\{\backslash sum\_\{i=1\}^n\backslash left(x\_i-\backslash bar\{x\}\backslash right)^2\}\backslash \backslash ]\$$

Plus cette quantité est grande, plus on est enclin à rejeter l'hypothèse de nullité du paramètre.

On peut montrer que, sous $\$\backslash (H\_0\backslash )\$$ , $\$\backslash (T\_j\backslash )\$$ admet comme loi la loi de Student à $\$\backslash (n-2\backslash )\$$ degrés de liberté.

$\$\backslash [T\_j\backslash sim\backslash mathcal\{T\}\backslash left(n-2\backslash right)\backslash \backslash ]\$$

On décide du rejet de $\$\backslash (H\_0\backslash )\$$ au niveau de test $\$\backslash (\backslash alpha\backslash )\$$ si  

$\$\backslash [\backslash left|t\_j\backslash right|>t\_\{n-2,1-\backslash frac\{\backslash alpha\}\{2\}\}\backslash ]\$$

où $\$\backslash (t\_\{n-2,1-\backslash frac\{\backslash alpha\}\{2\}\}\backslash )\$$ désigne le quantile d'ordre $\$\backslash (1-\backslash frac\{\backslash alpha\}\{2\}\backslash )\$$ de la loi $\$\backslash (\backslash mathcal\{T\}(n-2)\backslash )\$$ .

En pratique, dire que l'on rejette cette hypothèse $\$\backslash (H\_0\backslash )\$$ pour $\$\backslash (\backslash beta\_2\backslash )\$$ revient à conserver la variable $\$\backslash (X\; \backslash )\$$ comme explicative.

Obtenez des intervalles de confiance pour $\$\backslash (\backslash beta\_1\backslash )\$$ et $\$\backslash (\backslash beta\_2\backslash )\$$

Pour $\$\backslash (\; j\backslash in\backslash left\backslash \{1,2\backslash right\backslash \}\backslash )\$$ , le paramètre $\$\backslash (\backslash beta\_j\; \backslash )\$$ admet comme intervalle de confiance de niveau $\$\backslash (1-\backslash alpha\backslash )\$$ :

$\$\backslash [\backslash left[\backslash widehat\{\backslash beta\}\_j-\; t\_\{n-2,1-\backslash frac\{\backslash alpha\}\{2\}\}\backslash \; \backslash widehat\{\backslash sigma\}\_\{\backslash widehat\{\backslash beta\}\_j\}\backslash ,\; ;\; \backslash ,\backslash widehat\{\backslash beta\}\_j\; +\; t\_\{n-2,1-\backslash frac\{\backslash alpha\}\{2\}\}\backslash \; \backslash widehat\{\backslash sigma\}\_\{\backslash widehat\{\backslash beta\}\_j\}\backslash right]\backslash ]\$$

Il est également possible d'établir une région de confiance simultanée des deux paramètres $\$\backslash (\backslash beta\_1\backslash )\$$ et $\$\backslash (\backslash beta\_2\backslash )\$$ (via une loi de Fisher), ainsi qu'un intervalle de confiance pour $\$\backslash (\backslash sigma^2\backslash )\$$ (via une loi du khi-deux).

Et voilà pour le test de notre modèle. Maintenant, passons à la pratique. Nous allons appliquer une régression linéaire simple sur le jeu de données de l'ozone.