Oui, c'est exactement ça. Bien résumé !

Bonjour,

Dans le TP - Comparez le comportement du lasso et de la régression ridge j'ai essayé de refaire les calculs en utilisant RidgeCV et je n'arrive pas à reproduire la courbe des erreurs par alpha correctement.

n_alphas = 200
alphas = np.logspace(-5, 5, n_alphas)
param={'alpha':alphas}
Ridge_cv= linear_model.RidgeCV(alphas=alphas,fit_intercept=True,scoring='neg_mean_squared_error', store_cv_values=True,cv=None)
Ridge_cv.fit(X_train,y_train)
print('Error :',-Ridge_cv.best_score_,'Alpha :',Ridge_cv.alpha_)

Me donne :

Error : 0.5232853507728906 Alpha : 2.121451784910632

Ce qui est cohérent avec les résultats que j'ai obtenu avec GridSearchCV et ceux de la régression linéaire "simple" sur le même dataset.

Par contre quand j'essaye d'extraire les scores par alpha et par fold avec .cv_values_, je ne retrouve pas du tout ces valeurs.

errors_ridgecv = np.mean(Ridge_cv.cv_values_,axis=0)
errors_ridgecv.min()

Donne :

-0.00762434513222612

Est-ce-que j'ai mal compris à quoi servait  .cv_values_ ?

Voici quelques informations complémentaires :

J'ai vérifié que j'avais bien fait la moyenne sur le bon axe (càd par fold et pas par alpha) avec np.mean(Ridge_cv.cv_values_,axis=0).shape qui donne bien 200.

Et quand je vais voir les données dans Ridge_cv.cv_values_ correspondant à l'alpha donné comme meilleur, voici les stats pour les folds avec cet alpha.

Ni la moyenne ni le minimum ne correspondent à la valeur donnée par Ridge_cv.best_score_ ...

Merci d'avance !