j'ai fait quelques expériences avec la régression logistique dans R, python statmodels et sklearn. Alors que les résultats donnés par R et les modèles de statistiques concordent, il y a une certaine divergence avec ce qui est retourné par sklearn. J'aimerais comprendre pourquoi ces résultats sont différents. Je comprends que ce ne sont probablement pas les mêmes algorithmes d'optimisation qui sont utilisés sous le bois.

spécifiquement, j'utilise la norme Default ensemble de données (utilisé dans le Isl book). La suite Le code Python lit les données dans une base de données Default.

import pandas as pd
 # data is available here
Default = pd.read_csv('https://d1pqsl2386xqi9.cloudfront.net/notebooks/Default.csv', index_col=0)
 #
Default['default']=Default['default'].map({'No':0, 'Yes':1})
Default['student']=Default['student'].map({'No':0, 'Yes':1})
 #
I=Default['default']==0
print("Number of 'default' values :", Default[~I]['balance'].count())

nombre de valeurs par défaut : 333.

il y a un total de 10000 exemples, avec seulement 333 positifs

régression logistique en R

j'utilise la suite

library("ISLR")
data(Default,package='ISLR')
 #write.csv(Default,"default.csv")
glm.out=glm('default~balance+income+student', family=binomial, data=Default)
s=summary(glm.out)
print(s)
#
glm.probs=predict(glm.out,type="response") 
glm.probs[1:5]
glm.pred=ifelse(glm.probs>0.5,"Yes","No")
 #attach(Default)
t=table(glm.pred,Default$default)
print(t)
score=mean(glm.pred==Default$default)
print(paste("score",score))

Le résultat est comme suit

Call: glm(formula = "par défaut~solde+revenu+étudiant", de la famille = binomiale, données = par Défaut)

Déviance Résiduel: Min 1Q médiane 3Q Max

-2,4691 -0,1418 -0,0557 -0,0203 3,7383

Coefficients:

Estimate Std. Error z value Pr(>|z|)        
(Intercept) -1.087e+01  4.923e-01 -22.080  < 2e-16 
balance      5.737e-03    2.319e-04  24.738  < 2e-16  
income       3.033e-06  8.203e-06   0.370   0.71152     
studentYes  -6.468e-01  2.363e-01  -2.738  0.00619  

(paramètre de Dispersion pour binomiale de la famille 1)

Null deviance: 2920.6  on 9999  degrees of freedom Residual 

déviance: 1571.5 sur 9996 degrés de liberté AIC: 1579.5

nombre D'itérations de Fisher: 8

     glm.pred   No  Yes
 No  9627  228
 Yes   40  105 

1 " score 0,9732"

je suis trop paresseux pour couper et coller les résultats obtenus avec statmodels. Il suffit de dire qu'ils sont extrêmement similaires à ceux donnés par R.!--12-->

sklearn

Pour sklearn, j'ai couru le code suivant.

• il existe un paramètre class_weight pour tenir compte des classes déséquilibrées. J'ai testé class_weight=None (no Weighting -- I think that is the default in R), et class_weight='auto' (weighing with the inverse fréquences remarqués dans les données)
• j'ai aussi mis C=10000, l'inverse du paramètre de régularisation, de façon à minimiser l'effet de régularisation.

~~!--12-->

import sklearn
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import confusion_matrix

features = Default[[ 'balance', 'income' ]]
target = Default['default']
# 
for weight in (None,  'auto'):
    print("*"*40+"nweight:",weight)

    classifier = LogisticRegression(C=10000, class_weight=weight, random_state=42) 
                #C=10000 ~ no regularization

    classifier.fit(features, target,)  #fit classifier on whole base
    print("Intercept", classifier.intercept_)
    print("Coefficients", classifier.coef_)

    y_true=target
    y_pred_cls=classifier.predict_proba(features)[:,1]>0.5
    C=confusion_matrix(y_true,y_pred_cls)

    score=(C[0,0]+C[1,1])/(C[0,0]+C[1,1]+C[0,1]+C[1,0])
    precision=(C[1,1])/(C[1,1]+C[0 ,1])
    recall=(C[1,1])/(C[1,1]+C[1,0])
    print("n Confusion matrix")
    print(C)
    print()
    print('{s:{c}<{n}}{num:2.4}'.format(s='Score',n=15,c='', num=score))
    print('{s:{c}<{n}}{num:2.4}'.format(s='Precision',n=15,c='', num=precision))
    print('{s:{c}<{n}}{num:2.4}'.format(s='Recall',n=15,c='', num=recall))

Les résultats sont donnés ci-dessous.

> **************************************** 
>weight: None 
>
>Intercept [ -1.94164126e-06] 
>
>Coefficients [[ 0.00040756 -0.00012588]]
> 
>  Confusion matrix 
>
>     [[9664    3]  
>     [ 333    0]]
> 
>     Score          0.9664 
>     Precision      0.0 
>     Recall         0.0
>
> **************************************** 
>weight: auto 
>
>Intercept [-8.15376429] 
>
>Coefficients 
>[[  5.67564834e-03   1.95253338e-05]]
> 
>  Confusion matrix 
>
>     [[8356 1311]  
>     [  34  299]]
> 
>     Score          0.8655 
>     Precision      0.1857 
>     Recall         0.8979

Ce que j'observe, c'est que pour class_weight=None, le Score est excellent mais aucun exemple positif est reconnu. Précision et rappel sont à zéro. Les coefficients trouvés sont très petit, en particulier l'ordonnée à l'origine. La modification de C ne change pas les choses. class_weight='auto' choses semble mieux, mais j'ai encore une précision qui est très faible (trop positif classés). Encore une fois, changer C n'aide pas. Si je modifie l'intercept à la main, je peux récupérer les résultats donnés par R. donc je soupçonne qu'il y a une divergence entre l'estimation des entrées dans les deux cas. Comme cela a une conséquence dans la spécification de la tri-seuil (analogue à un rééchantillonnage des règlements), cela peut expliquer les différences de performances.

cependant, j'apprécierais tout conseil pour le choix entre les deux solutions et aider à comprendre l'origine de ces différences. Grâce.