Réalisez des modélisations de données performantes

Si l'on considère un événement avec une probabilité $p=\frac{1}{N}$ de réussite, cela signifie qu'en moyenne, sur $N$ individus, on a 1 réussite contre $N-1$ échecs. On parle alors d'une cote de $N-1$ chances contre 1.

La cote (l'odds en anglais) pour un individu $i$ d'obtenir la réponse $Y=1$ est définie par :

$$\mathrm{odds}(i)=\frac{p\left({\mathbf{x}}_i\right)}{1-p\left({\mathbf{x}}_i\right)}$$

Le rapport de cotes, l'odds ratio, entre 2 individus i et $i^{\mathrm{\prime }}$, est défini par :

$$\mathrm{OR}\left(i,i^{\mathrm{\prime }}\right)=\frac{\mathrm{odds}\left(i\right)}{\mathrm{odds}\left(i^{\mathrm{\prime }}\right)}=\frac{\frac{p\left({\mathbf{x}}_i\right)}{1-p\left({\mathbf{x}}_i\right)}}{\frac{p\left({\mathbf{x}}_{i^{\mathrm{\prime }}}\right)}{1-p\left({\mathbf{x}}_{i^{\mathrm{\prime }}}\right)}}$$

En toute généralité, on peut interpréter les odds ratios comme suit, pour 2 individus $i$ et $i^{\mathrm{\prime }}$ :

$$\mathrm{OR}\left(i,i^{\mathrm{\prime }}\right)<1\iff p\left({\mathbf{x}}_i\right)<\left({\mathbf{x}}_{i^{\mathrm{\prime }}}\right)$$

$$\mathrm{OR}\left(i,i^{\mathrm{\prime }}\right)=1\iff p\left({\mathbf{x}}_i\right)=p\left({\mathbf{x}}_{i^{\mathrm{\prime }}}\right)$$

$$\mathrm{OR}\left(i,i^{\mathrm{\prime }}\right)>\iff p\left({\mathbf{x}}_i\right)>\left({\mathbf{x}}_{i^{\mathrm{\prime }}}\right)$$

Si les probabilités sont telles que $p\left({\mathbf{x}}_i\right)\ll 1$ et $p\left({\mathbf{x}}_{i^{\mathrm{\prime }}}\right)\ll 1$ (cas d'un événement rare), on a :

$$\mathrm{OR}\left(i,i^{\mathrm{\prime }}\right)\simeq \frac{p\left({\mathbf{x}}_i\right)}{p\left({\mathbf{x}}_{i^{\mathrm{\prime }}}\right)}$$

Par exemple, si $\mathrm{OR}\left(i,i^{\mathrm{\prime }}\right)=k,$ , l'événement a une probabilité $k$ fois plus importante de se produire pour ${\mathbf{x}}_i$ que pour ${\mathbf{x}}_{i^{\mathrm{\prime }}}$ .

Dans le cas de la régression logistique :

$$\mathrm{logit}\left(p\left(x_1,\dots ,x_p\right)\right)={\beta }_1{x}_1+\dots +{\beta }_p{x}_p$$

on peut montrer que :

$$\mathrm{OR}\left(i,i^{\mathrm{\prime }}\right)=\prod _{j=1}^p\exp \left({\beta }_j\left(x_{ji}-x_{j{i}^{\mathrm{\prime }}}\right)\right)$$

Toutes choses égales par ailleurs, une variation d'une unité sur la $j$ -ième variable correspond à un odds ratio égal à $\exp \left({\beta }_j\right)$ . L'exponentielle du coefficient peut être vue comme un odds ratio.

On peut comparer des modèles entre eux, ou procéder à une sélection automatique de modèle (à l'aide des algorithmes backward, forward et stepwise) en se basant sur des critères tels que l'AIC (critère d'Akaike) ou le BIC (critère de Schwarz) vus dans les chapitres précédents.

On considère la règle de décision suivante pour prévoir $Y$ ( ${\hat{Y}}^{prev}$ désigne la prévision) :

$${\hat{Y}}^{prev}=\{\begin{array}{l}1\text{si}\hat{p}\left(x_1,\dots ,x_p\right)>s\\ 0\text{si}\hat{p}\left(x_1,\dots ,x_p\right)\le s\end{array}$$

où $s\in [0,1]$ est un seuil fixé par l'utilisateur. Classiquement, on considère $s=\frac{1}{2}$ : si la probabilité prédite est (strictement) supérieure à $\frac{1}{2}$ , on prévoit 1, sinon 0.

On peut évaluer la qualité d'un modèle par validation croisée, et étudier un certain nombre de critères, parmi lesquels la sensibilité et la spécificité, calculées à partir de la matrice de confusion.

Dans le cas d'un classificateur binaire, la matrice de confusion est définie comme suit :

La sensibilité, le taux de positifs classés positifs, vaut:

$$\frac{\mathrm{VP}}{\mathrm{VP}+\mathrm{FN}}$$

La spécificité, le taux de négatifs classés négatifs, vaut : 

$$\frac{\mathrm{VN}}{\mathrm{FP}+\mathrm{VN}}$$

La courbe $\mathrm{ROC}$ (Receiver Operating Characteristic) représente la sensibilité en fonction de la spécificité pour différents seuils de décision $s$ . L'aire sous la courbe $\mathrm{ROC}$ , l' $\mathrm{AUC}$ (Area Under the $\mathrm{ROC}$ ), est une mesure de la qualité de la classification qui varie entre :

•  $\mathrm{AUC}=\frac{1}{2}$ : dans le pire des cas ;

•  $\mathrm{AUC}=1$ : dans le meilleur des cas.

Et voilà, vous avez procédé à l'analyse des résultats. Voyons tout cela en pratique dans le prochain chapitre. Vous allez prédire le risque de contracter une maladie chez des patients.