Réalisez des modélisations de données performantes

L'intérêt d'un modèle de régression linéaire réside dans sa capacité à expliquer une partie des variations de la variable  $\$\backslash (Y\backslash )\$$ par les variations de la variable $\$\backslash (X\backslash )\$$ . La variation d'une variable $\$\backslash (Y\; \backslash )\$$ est obtenue en considérant les différences entre les valeurs observées $\$\backslash (y\_\{i\}\backslash )\$$ et leur moyenne $\$\backslash (\backslash overline\{y\}\backslash )\$$ .

Or on a :

$\$\backslash [y\_\{i\}-\backslash overline\{y\}=\backslash widehat\{y\}\_\{i\}-\backslash overline\{y\}+y\_\{i\}-\backslash widehat\{y\}\_\{i\}\; \backslash ]\$$

où $\$\backslash (\backslash widehat\{y\}\_\{i\}-\backslash bar\{y\}\backslash )\$$ est la variation expliquée (ou restituée) par le modèle (on a $\$\backslash (\backslash overline\{y\}=\backslash overline\{\backslash widehat\{y\}\}\backslash )\$$ ), alors que $\$\backslash (\; y\_\{i\}-\backslash widehat\{y\}\_\{i\}\backslash )\$$ est la variation non expliquée par le modèle.

On peut établir la formule de décomposition de la variance (ANOVA : ANalysis Of VAriance) :

•  $\$\backslash (\backslash operatorname\{SCT\}\backslash )\$$ (Somme des Carrés Totale) traduit la variation totale de $\$\backslash (Y\backslash )\$$ .

•  $\$\backslash (\backslash operatorname\{SCE\}\backslash )\$$ (Somme des Carrés Expliquée) traduit la variation expliquée par le modèle.

•  $\$\backslash (\backslash operatorname\{SCR\}\backslash )\$$ (Somme des Carrés Résiduelle) traduit la variation inexpliquée par le modèle.

On appelle coefficient de détermination la quantité suivante :

$\$\backslash [\backslash operatorname\{R\}^2=\backslash frac\{\backslash operatorname\{SCE\}\}\{\backslash operatorname\{SCT\}\}\backslash ]\$$

Ce coefficient $\$\backslash (\backslash operatorname\{R\}^2\backslash )\$$ est dans $\$\backslash ([0,1]\; \backslash )\$$ , puisque :

 $\$\backslash (0\backslash leq\; \backslash operatorname\{SCE\}\backslash leq\; \backslash operatorname\{SCT\}\backslash )\$$

Si $\$\backslash (\backslash operatorname\{R\}^2=1\backslash )\$$ , on a alors $\$\backslash (\backslash operatorname\{SCE\}=\backslash operatorname\{SCT\}\backslash )\$$ : toute la variation est expliquée par le modèle.

Si $\$\backslash (\backslash operatorname\{R\}^2=0\backslash )\$$ , on a alors $\$\backslash (\backslash operatorname\{SCR\}=\backslash operatorname\{SCT\}\backslash )\$$ : aucune variation n'est expliquée par le modèle.

Dans le cas de la régression linéaire simple, on obtient :
 $\$\backslash (\backslash operatorname\{R\}^2=r\_\{X,Y\}^\{2\}\backslash )\$$
où $\$\backslash (r\_\{X,Y\}\; \backslash )\$$ est la corrélation linéaire (empirique) entre $\$\backslash (X\; \backslash )\$$ et $\$\backslash (Y\backslash )\$$ .

Le risque de surinterpréter

Il faut veiller à ne pas surinterpréter le coefficient de détermination :

• Un bon ajustement linéaire se traduit par un $\$\backslash (\backslash operatorname\{R\}^2\backslash )\$$ proche de 1.

• A contrario, un $\$\backslash (\backslash operatorname\{R\}^2\backslash )\$$ proche de 1 ne traduit pas forcément un lien linéaire.

• Un $\$\backslash (\backslash operatorname\{R\}^2\backslash )\$$ proche de 0 traduit un mauvais ajustement linéaire, mais n'implique pas qu'aucune relation ne puisse être établie entre les variables.

Pour illustration, la figure suivante présente :

• En haut à gauche : un cas de dépendance linéaire entre deux variables pour lequel le coefficient de détermination est proche de 1.

• En haut à droite : un cas de dépendance, non linéaire, de forme \textit{racine carrée}, entre deux variables, pour lequel le coefficient de détermination est proche de 1.

• En bas à gauche : un cas de dépendance, non linéaire, parabolique, entre deux variables, pour lequel le coefficient de détermination est proche de 0.

• En bas à droite : un cas d'indépendance entre deux variables pour lequel le coefficient de détermination est proche de 0.

Vous savez maintenant comment calculer le coefficient de détermination. Nous allons à présent tester notre modèle.