Réalisez des modélisations de données performantes

Comment interpréter les paramètres ?

Si l'on considère un événement avec une probabilité $\$\backslash (p=\backslash frac\{1\}\{N\}\backslash )\$$ de réussite, cela signifie qu'en moyenne, sur $\$\backslash (N\backslash )\$$ individus, on a 1 réussite contre $\$\backslash (N-1\backslash )\$$ échecs. On parle alors d'une cote de $\$\backslash (N-1\backslash )\$$ chances contre 1.

La cote (l'odds en anglais) pour un individu $\$\backslash (\; i\; \backslash )\$$ d'obtenir la réponse $\$\backslash (Y=1\backslash )\$$ est définie par :

$\$\backslash [\backslash operatorname\{odds\}(i)=\backslash frac\{p\backslash left(\backslash mathbf\{x\}\_i\backslash right)\}\{1-p\backslash left(\backslash mathbf\{x\}\_i\backslash right)\}\backslash ]\$$

Le rapport de cotes, l'odds ratio, entre 2 individus i et $\$\backslash (i^\backslash prime\backslash )\$$, est défini par :

$\$\backslash [\backslash operatorname\{OR\}\backslash left(i,i^\backslash prime\backslash right)=\backslash frac\{\backslash operatorname\{odds\}\backslash left(i\backslash right)\}\{\backslash operatorname\{odds\}\backslash left(i^\backslash prime\backslash right)\}=\backslash frac\{\backslash frac\{p\backslash left(\backslash mathbf\{x\}\_i\backslash right)\}\{1-p\backslash left(\backslash mathbf\{x\}\_i\backslash right)\}\}\{\backslash frac\{p\backslash left(\backslash mathbf\{x\}\_\{i^\backslash prime\}\backslash right)\}\{1-p\backslash left(\backslash mathbf\{x\}\_\{i^\backslash prime\}\backslash right)\}\}\backslash ]\$$

En toute généralité, on peut interpréter les odds ratios comme suit, pour 2 individus $\$\backslash (i\backslash )\$$ et $\$\backslash (i^\backslash prime\backslash )\$$ :

$\$\backslash [\backslash operatorname\{OR\}\backslash left(i,i^\backslash prime\backslash right)=1\backslash quad\backslash Leftrightarrow\backslash quad\; p\backslash left(\backslash mathbf\{x\}\_i\backslash right)=p\backslash left(\backslash mathbf\{x\}\_\{i^\backslash prime\}\backslash right)\backslash ]\$$

$\$\backslash [\backslash operatorname\{OR\}\backslash left(i,i^\backslash prime\backslash right)>\backslash quad\backslash Leftrightarrow\backslash quad\; p\backslash left(\backslash mathbf\{x\}\_i\backslash right)>\backslash left(\backslash mathbf\{x\}\_\{i^\backslash prime\}\backslash right)\backslash ]\$$

Si les probabilités sont telles que $\$\backslash (p\backslash left(\backslash mathbf\{x\}\_i\backslash right)\backslash ll\; 1\backslash )\$$ et $\$\backslash (p\backslash left(\backslash mathbf\{x\}\_\{i^\backslash prime\}\backslash right)\backslash ll\; 1\backslash )\$$ (cas d'un événement rare), on a :

$\$\backslash [\backslash operatorname\{OR\}\backslash left(i,i^\backslash prime\backslash right)\backslash simeq\backslash frac\{p\backslash left(\backslash mathbf\{x\}\_i\backslash right)\}\{p\backslash left(\backslash mathbf\{x\}\_\{i^\backslash prime\}\backslash right)\}\backslash ]\$$

Par exemple, si $\$\backslash (\; \backslash operatorname\{OR\}\backslash left(i,i^\backslash prime\backslash right)=k,\backslash )\$$ , l'événement a une probabilité $\$\backslash (k\; \backslash )\$$ fois plus importante de se produire pour $\$\backslash (\backslash mathbf\{x\}\_i\backslash )\$$ que pour $\$\backslash (\backslash mathbf\{x\}\_\{i^\backslash prime\}\backslash )\$$ .

Dans le cas de la régression logistique :

$\$\backslash [\backslash operatorname\{logit\}\backslash left(p\backslash left(x\_1,\backslash ldots,x\_p\backslash right)\backslash right)=\backslash beta\_1\backslash ,\; x\_1+\backslash ldots+\backslash beta\_p\backslash ,\; x\_p\backslash ]\$$

on peut montrer que :

$\$\backslash [\backslash operatorname\{OR\}\backslash left(i,i^\backslash prime\backslash right)=\backslash prod\_\{j=1\}^p\; \backslash exp\backslash left(\backslash beta\_j\backslash left(x\_\{ji\}-x\_\{ji^\backslash prime\}\backslash right)\backslash right)\backslash ]\$$

Toutes choses égales par ailleurs, une variation d'une unité sur la $\$\backslash (j\backslash )\$$ -ième variable correspond à un odds ratio égal à $\$\backslash (\backslash exp\backslash left(\backslash beta\_j\backslash right)\backslash )\$$ . L'exponentielle du coefficient peut être vue comme un odds ratio.

Choisissez le modèle adéquat

On peut comparer des modèles entre eux, ou procéder à une sélection automatique de modèle (à l'aide des algorithmes backward, forward et stepwise) en se basant sur des critères tels que l'AIC (critère d'Akaike) ou le BIC (critère de Schwarz) vus dans les chapitres précédents.

Comment prévoir "Y" ?

On considère la règle de décision suivante pour prévoir $\$\backslash (Y\backslash )\$$ ( $\$\backslash (\backslash widehat\{Y\}^\{prev\}\backslash )\$$ désigne la prévision) :

$\$\backslash [\backslash widehat\{Y\}^\{prev\}=\backslash begin\{cases\}1\; \backslash \; \backslash \; \backslash text\{si\}\backslash quad\backslash widehat\{p\}\backslash left(x\_1,\backslash ldots,x\_p\backslash right)>\; s\backslash \backslash \; 0\; \backslash \; \backslash \; \backslash text\{si\}\backslash quad\backslash widehat\{p\}\backslash left(x\_1,\backslash ldots,x\_p\backslash right)\backslash leq\; s\backslash \backslash \backslash end\{cases\}\backslash ]\$$

où $\$\backslash (s\backslash in[0,1]\backslash )\$$ est un seuil fixé par l'utilisateur. Classiquement, on considère $\$\backslash (s=\backslash frac\{1\}\{2\}\backslash )\$$ : si la probabilité prédite est (strictement) supérieure à $\$\backslash (\backslash frac\{1\}\{2\}\backslash )\$$ , on prévoit 1, sinon 0.

On peut évaluer la qualité d'un modèle par validation croisée, et étudier un certain nombre de critères, parmi lesquels la sensibilité et la spécificité, calculées à partir de la matrice de confusion.

Dans le cas d'un classificateur binaire, la matrice de confusion est définie comme suit :

La sensibilité, le taux de positifs classés positifs, vaut:

$\$\backslash [\backslash frac\{\backslash operatorname\{VP\}\}\{\backslash operatorname\{VP\}+\backslash operatorname\{FN\}\}\backslash ]\$$

La spécificité, le taux de négatifs classés négatifs, vaut : 

$\$\backslash [\backslash frac\{\backslash operatorname\{VN\}\}\{\backslash operatorname\{FP\}+\backslash operatorname\{VN\}\}\backslash ]\$$

Appréhendez la courbe ROC

La courbe $\$\backslash (\backslash operatorname\{ROC\}\; \backslash )\$$ (Receiver Operating Characteristic) représente la sensibilité en fonction de la spécificité pour différents seuils de décision $\$\backslash (s\backslash )\$$ . L'aire sous la courbe $\$\backslash (\backslash operatorname\{ROC\}\backslash )\$$ , l' $\$\backslash (\backslash operatorname\{AUC\}\; \backslash )\$$ (Area Under the $\$\backslash (\backslash operatorname\{ROC\}\backslash )\$$ ), est une mesure de la qualité de la classification qui varie entre :

•  $\$\backslash (\backslash operatorname\{AUC\}=\backslash frac\{1\}\{2\}\backslash )\$$ : dans le pire des cas ;

•  $\$\backslash (\backslash operatorname\{AUC\}=1\backslash )\$$ : dans le meilleur des cas.

Et voilà, vous avez procédé à l'analyse des résultats. Voyons tout cela en pratique dans le prochain chapitre. Vous allez prédire le risque de contracter une maladie chez des patients.