Comment interpréter les paramètres ?
Si l'on considère un événement avec une probabilité p=1N de réussite, cela signifie qu'en moyenne, sur N individus, on a 1 réussite contre N−1 échecs. On parle alors d'une cote de N−1 chances contre 1.
La cote (l'odds en anglais) pour un individu i d'obtenir la réponse Y=1 est définie par :
Le rapport de cotes, l'odds ratio, entre 2 individus i et i′, est défini par :
En toute généralité, on peut interpréter les odds ratios comme suit, pour 2 individus i et i′ :
Si les probabilités sont telles que p(xi)≪1 et p(xi′)≪1 (cas d'un événement rare), on a :
Par exemple, si OR(i,i′)=k, , l'événement a une probabilité k fois plus importante de se produire pour xi que pour xi′ .
Dans le cas de la régression logistique :
on peut montrer que :
Toutes choses égales par ailleurs, une variation d'une unité sur la j -ième variable correspond à un odds ratio égal à exp(βj) . L'exponentielle du coefficient peut être vue comme un odds ratio.
Choisissez le modèle adéquat
On peut comparer des modèles entre eux, ou procéder à une sélection automatique de modèle (à l'aide des algorithmes backward, forward et stepwise) en se basant sur des critères tels que l'AIC (critère d'Akaike) ou le BIC (critère de Schwarz) vus dans les chapitres précédents.
Comment prévoir "Y" ?
On considère la règle de décision suivante pour prévoir Y ( ˆYprev désigne la prévision) :
où s∈[0,1] est un seuil fixé par l'utilisateur. Classiquement, on considère s=12 : si la probabilité prédite est (strictement) supérieure à 12 , on prévoit 1, sinon 0.
On peut évaluer la qualité d'un modèle par validation croisée, et étudier un certain nombre de critères, parmi lesquels la sensibilité et la spécificité, calculées à partir de la matrice de confusion.
Dans le cas d'un classificateur binaire, la matrice de confusion est définie comme suit :
|
| Prévision | |
|
| 1 (Positif) | 0 (Négatif) |
Vérité | 1 (Positif) | Vrai positif (VP) | Faux négatif (FN) |
0 (Négatif) | Faux positif (FP) | Vrai négatif (VF) |
La sensibilité, le taux de positifs classés positifs, vaut:
La spécificité, le taux de négatifs classés négatifs, vaut :
Appréhendez la courbe ROC
La courbe ROC (Receiver Operating Characteristic) représente la sensibilité en fonction de la spécificité pour différents seuils de décision s . L'aire sous la courbe ROC , l' AUC (Area Under the ROC ), est une mesure de la qualité de la classification qui varie entre :
AUC=12 : dans le pire des cas ;
AUC=1 : dans le meilleur des cas.
Et voilà, vous avez procédé à l'analyse des résultats. Voyons tout cela en pratique dans le prochain chapitre. Vous allez prédire le risque de contracter une maladie chez des patients.
