Discussion :

[aziz1015]

Bonjour,

je dois faire un modèle de prédiction qui me permettrait de prédire sur une autre base de données, le benefice net annuel par client.

Mon problème est que la variable à expliquer (le bénéfice net annuel) est très peu corrélée avec les autres variables. (image ci-dessous)



La couleur bleue indique la corrélation.

Je me demande si la précision de mon modèle pourrait être acceptable.

Qu'en pensez vous ?

Cordialement

[Theta]

Même si la corrélation avec chacune des variable est faible, peut être qu'un modèle avec l'ensemble des variables pourrait quand même permettre une prédiction acceptable (ou pas).

Pour estimer la précision des prédictions d'un modèle, il faut faire une validation croisée.

Mais commence par regarder la corrélation prédits/observés de ton modèle sans validation croisée. Si elle est déjà trop faible, à priori elle sera encore plus faible en validation croisée donc ça sert pas à grand chose d'aller plus loin.

[aziz1015]

Je vous remercie pour votre réponse.

Je ne comprends pas bien ce que vous voulez dire par la corrélation prédits/observés.

Pour moi, c'est Je fais mes prédictions sur mon jeu de données utilisé pour la prédiction et je vérifie la corrélation entre les benefices réels et ceux que j'aurai prédits sur le même portefeuille ?

Par ailleurs, y a t-il un moyen de savoir quelle loi serait la meilleure à utiliser pour mon glm ? Ayant des valeurs negatives, nulles et positives sur mon bénéfice, je compte partir sur une gaussienne mais comment savoir que je fais le bon choix ?

Merci

[faubry]

Le fait que prises individuellement, les variables explicatives sont très peu corrélées avec la variable à expliquer ne signifie pas systématiquement que l'ensemble ou un sous-ensemble de ces variables prises conjointement ne permettent pas de prédire la variable à expliquer. Si les variables explicatives sont très corrélées entre elles, alors il est très probable que la prédiction ne soit pas possible mais si elles ne sont pas (ou peu) corrélées entre elles, chacune apporte une information (linéaire dans le cas de la corrélation de Pearson, sinon de relation monotone) supplémentaire qui peut permettre la prédiction.

Il y a des questions préalables auxquelles répondre avant de se lancer sur une prédiction dont la dimension du problème (en nombre de ddl), la pertinence d'un modèle de type régression linéaire... En effet, si une corrélation de Pearson est faible mais si ce n'est pas le cas d'une corrélation non paramétrique, il y a de fortes chances que la relation ne soit pas linéaire. Mais même si la corrélation non paramétrique est faible, cela ne signifie pas l'absence de relation. Dans l'exemple suivant les deux variables sont très faiblement corrélées quelque soit la méthode et pourtant !

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
theta <- runif( 100, -pi, pi)
cor( sin( theta), cos( theta))
cor( sin( theta), cos( theta), method="s")
cor( sin( theta), cos( theta), method="k")

[aziz1015]

Bonjour,

Merci beaucoup pour vos explications très claires.

Je me pose une autre question, le résultat d'une de mes regressions linéaires donne ceci :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
 
 
> summary(lm(formula = x ~ lab$Age))
 
Call:
lm(formula = x ~ lab$Age)
 
Residuals:
    Min      1Q  Median      3Q     Max 
-51.396 -10.507  -2.356  12.774  63.357 
 
Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept) 11.54499    1.37830   8.376  < 2e-16 ***
lab$Age      0.15298    0.03429   4.461 9.09e-06 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
 
Residual standard error: 19.33 on 981 degrees of freedom
  (17 observations deleted due to missingness)
Multiple R-squared:  0.01989,	Adjusted R-squared:  0.01889 
F-statistic:  19.9 on 1 and 981 DF,  p-value: 9.085e-06

L'écart-type résiduel est très faible, on a donc un bon pouvoir prédictif.
Par contre, R2 est plus de 0 que de 1, ce qui signifie qu'on a donc pas un bon pouvoir explicatif. Ou que la corrélation n'est pas linéaire ?

Est ce correct de considérer ma variable Age comme une variable explicative malgré la très faible p-value ?

Y aurait_il un autre contrôle que je pourrais faire ?

Merci beaucoup pour votre aide

Cordialement

[faubry]

D'abord une suggestion d'écriture qui facilité la vie pour des tests post-hoc notamment : créer une colonne x dans la data.frame lab et écrire :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

lm( x ~ Age, data=lab)

En réponse à ta question, le fait que l'écart-type résiduel soit très faible ne signifie rien. En effet, on aura des écarts-type résiduels différents pour les trois analyses suivantes qui sont en réalité identiques :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
x <- runif( 100)
y <- 0.1 * x + rnorm( 100, sd=0.02)
summary( lm( y ~x))
summary( lm( scale( y) ~ scale( x)))
summary( lm( scale( y, center=FALSE) ~ scale( x)))

Ce qui importe au premier chef ce sont les t-value et les R² ajustés (R² tenant compte du nombre de degrés de liberté). La t-value donne une idée sur la significativité de la pente mais elle croit quand le nombre d'individus augmente. On sait en effet (cela est facilement démontrable) qu'on pourra toujours trouver un effectif suffisant pour avoir un résultat significatif. Cette valeur n'a donc de sens qu'en considérant la qualité de l'ajustement. Ton résultat peut être interprété comme le fait que le modèle de régression linéaire n'explique qu'à peine 2% de la variabilité de ta mesure, le 98 autres % sont expliqués par autre chose.

Un modèle qui n'a pas un bon pouvoir explicatif n'a pas non plus un bon pouvoir prédictif mais un bon pouvoir explicatif n'entraîne pas obligatoirement un bon pouvoir prédictif. Dans ce dernier cas, comme Theta l'a indiqué, seule une technique de type validation croisée peut dire si le modèle a un bon pouvoir prédictif.

[aziz1015]

Dans ce dernier cas, comme Theta l'a indiqué, seule une technique de type validation croisée peut dire si le modèle a un bon pouvoir prédictif.

Encore uen fois, je vous remercie pour vos explcations très claires, je vais donc opter pour une validation croisée.

Ma démarche pour construire mon modèle est (dites moi si elle correcte s'il vous plaît) :

1. Je fais une analyse descriptive de ma base
2. Je fais une analyse descriptive de chaque variable de ma base. Je vérifie pour chaque variable si elle est explicative ou pas (avec la regression linéaire ou test de chi2).
3. Après avoir sélectionné mes variables explicatives, je mets en place mon modèle prédictif (glm).

En suivant vos explications, je vais maintenant passer à une validation croisée mais je n'ai pas compris la phrase de Theta.

Mais commence par regarder la corrélation prédits/observés de ton modèle sans validation croisée.

Je n'ai encore rien prédit donc je ne vois pas ce que veut dire la corrélation prédits/observés.

Merci par avance pour vos réponses.

[faubry]

1) Qu'entends-tu par

Je fais une analyse descriptive de ma base

?
2) A supposer qu'un modèle linéaire soit pertinent, la technique est de choisir en premier la variable qui apporte le plus d'information, puis la suivante une fois la première inclue dans le modèle. Une telle approche évite de choisir comme variables pertinentes deux variables qui apportent approximativement la même quantité d'information mais qui sont très liées (corrélées pour un modèle linéaire) entre elles, ce qui signifie que leurs rôles dans le modèle sont redondants. Une possibilité pour faire ce choix est d'utiliser la fonction stepAIC du package MASS en partant du modèle nul et en allant vers les modèles le plus complet possible :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
lm.0 <- glm( var.dependante ~ 1, data)
lm.res <- stepAIC( lm.0, scope=list( upper=~ formule.complete))

Cela donne une bonne indication du meilleur modèle explicatif. Pour améliorer les choses, on peut essayer bootStepAIC du package de même nom ainsi que partir aussi de modèle le plus complet vers le modèle nul :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
lm.0 <- glm( var.dependante ~ formule.complete, data)
lm.res <- stepAIC( lm.0, scope=list( lower=~ 1))

car les deux stratégies ne donnent pas obligatoirement le même résultat (contrairement à la fonction step).
On peut alors chercher autour des modèles trouvés, le meilleur modèle prédictif par validation croisée.

Ce que Theta veut dire par :

Mais commence par regarder la corrélation prédits/observés de ton modèle sans validation croisée.

c'est qu'il faut commencer par regarder la corrélation entre les données mesurées et les données prédites par le modèle à partir des variables explicatives, ce qui peut donner pour un modèle d'ajustement de régression :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
ctl <- c(4.17,5.58,5.18,6.11,4.50,4.61,5.17,4.53,5.33,5.14)
trt <- c(4.81,4.17,4.41,3.59,5.87,3.83,6.03,4.89,4.32,4.69)
group <- gl(2, 10, 20, labels = c("Ctl","Trt"))
weight <- c(ctl, trt)
lm.D9 <- lm(weight ~ group)
cor( predict( lm.D9), weight)

Mais en réalité dans ce cas, ce calcul est inutile car le R² vaut le carré de la corrélation. Par contre, dans le cas du modèle prédictive avec validation croisée, cela a du sens puisqu'on prédit les valeurs sur des données qui n'ont pas servies à l'estimation du modèle d'ajustement.

[aziz1015]

Merci beaucoup pour vos explications appuyés d'exemples.

C'est beaucoup plus clair pour moi maintenant en effet.

J'ai par contre une dernière question concernant la phrase ci-dessous.

2) A supposer qu'un modèle linéaire soit pertinent,

Quand j'entends parlé de modèle prédictif d'un bénéfice, j'entends automatiquement glm.
D'après vos explications, j'ai tord.

Dans tous les cas, je suppose que je n'ai pas de moyens de savoir si le modèle linéaire est pertinent ou pas tant que je ne suis pas allé au bout de mon analyse pour pouvoir calculer les erreurs de prédiction ?

A vrai dire, en observant le résultat ci-dessous, je l'utilisais comme base pour les modèles. En gros, je piochais mes variables explicatives du résultat de l'aov.

Je précise que j'ai d'abord vérifié les hypothèses à savoir :

La normalité de la distribution de la variable à expliquer
L’égalité de la variance de la variable à expliquer

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
 
 
> fr <- aov(lab$Benefice.net.annuel ~ lab$Cout.entretien.annuel + lab$Age
+           + lab$Age + lab$Prime.mensuelle +lab$Categorie.socio.professionnelle + 
+             lab$Kilometres.parcourus.par.mois + lab$Coefficient.bonus.malus +
+             lab$Type.de.vehicule + lab$Score.CRM + lab$Niveau.de.vie + lab$Marque
+           + lab$Salaire.annuel + lab$Score.credit + lab$Cout.entretien.annuel, lab)
> summary(fr)
                                     Df Sum Sq Mean Sq  F value   Pr(>F)    
lab$Cout.entretien.annuel             1    141     141    3.091 0.079049 .  
lab$Age                               1   7326    7326  160.572  < 2e-16 ***
lab$Prime.mensuelle                   1    224     224    4.907 0.026982 *  
lab$Categorie.socio.professionnelle   4   5691    1423   31.182  < 2e-16 ***
lab$Kilometres.parcourus.par.mois     1   4120    4120   90.294  < 2e-16 ***
lab$Coefficient.bonus.malus           1   2176    2176   47.686 9.15e-12 ***
lab$Type.de.vehicule                  3 288805   96268 2110.047  < 2e-16 ***
lab$Score.CRM                         1   4170    4170   91.403  < 2e-16 ***
lab$Niveau.de.vie                     1  14563   14563  319.198  < 2e-16 ***
lab$Marque                            6    321      53    1.172 0.319190    
lab$Salaire.annuel                    1    691     691   15.135 0.000107 ***
lab$Score.credit                      1      5       5    0.111 0.739540    
Residuals                           949  43297      46

Merci pour vos explications, je me lance sur la validation croisée en utilisant les fonctions du package MASS et je reviendrai vous déranger si j'ai des questions.

Merci par avance

[faubry]

En ce qui concerne la pertinence du modèle linéaire, cela dépend du problème. Par exemple, si je m'intéresse au problème de la chute d'un corps, il est certain qu'un modèle qui lie linéairement la distance parcourue au temps de parcours n'a aucun sens par contre si je m'intéresse au parcours d'une automobile sur une autoroute, ce modèle a des chances d'être plus pertinent. Donc, ce sont tes connaissances du sujet qui permette de répondre à la pertinence du modèle. Néanmoins, le R² permet de se faire une idée de la pertinence du modèle. Le R² ajusté peut être compris d'une certaine manière comme un indicateur de la validité du modèle en tant que modèle de prédiction même si c'est loin d'être suffisant. Si ces valeurs (R² et R² ajusté) sont faibles, cela signifie que le modèle est insuffisant, soit qu'il n'est pas linéaire, soit qu'il manque des variables. Mais plus il y a de variable, moins le modèle est robuste : en augmentant le nombre de variables ou le degré du polynôme, les deux indices commencent par croitre mais il arrive un moment où le R² ajusté se met à décroître alors que le R² croit toujours (par construction, il ne peut décroître). La décroissance du R² ajusté peut être comprise comme le fait que l'apport marginal d'information par cette nouvelle variable ne compense pas l'accroissement de la dimension (ou complexité) du modèle.

La significativité d'un paramètre n'est pas suffisant pour conclure à son intérêt car la taille de l'échantillon joue aussi. Voir l'exemple ci-dessous :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
x <- 1:10
y <- exp( 3 * x)
summary( lm( y ~x)) # le coefficient en x n'est pas significatif
 
x1 <- seq( 1, 10, length=101)
y1 <- exp( 3 * x1)
summary( lm( y1 ~x1)) # Le coefficient en x est très significatif

On peut vérifier que les deux jeux sont identiques à l'échantillonnage près :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
plot( y ~ x)
points( y1 ~ x1, col=2)
abline( lm( y ~x), col=3)
abline( lm( y1 ~x1), col=4)
abline( lm( y ~1), col=5)

Par contre, dans la seconde analyse, on constate que si le coefficient en x devient significatif, le R² chute ainsi que le R² ajusté bien que l'écart type résiduel diminue lui aussi. Peut-on conclure qu'avec 10 points, alors le modèle constant est pertinent, puisque le coefficient en x n'est pas significatif (tracé abline avec col=5) alors qu'avec 100, c'est le modèle linéaire ? Simplement, le tracé des prédictions par abline montre qu'aucun des deux ajustements n'a de sens.

Ce n'est pas "La normalité de la distribution de la variable à expliquer" qu'il faut tester mais celle des résidus de l'analyse. Pour cela la fonction plot appliquée au résultat de l'analyse (cf. plot.lm) permet de s'en faire une idée. Quant à "L’égalité de la variance de la variable à expliquer", je ne connais pas ce concept.

NB: Je préfère lm à aov, notamment à cause d'un certain nombre de limites de cette dernière procédure. D'autre part, si dans lm ou aov, le tableau est donné (ici lab), il est inutile d'écrire dans la formule lab$xxx. Il faut simplement écrire xxx. De plus, ça soulage l'écriture et cela facilite des tests post-hoc notamment.

[aziz1015]

Merci encore une fois pour vos explications.

En me basant sur vos explications, j'en conclus que mon modèle est linéaire, je dois faire un modèle de prédiction pour le bénéfice net annuel d'un contrat AUTO.

Mes variables à expliquer sont : l'age, la marque du véhicule, le type de véhicule, la prime mensuelle, le salaire annuel, le nombres de kilomètres parcourus, ...

En faisant une régression linéaire simple, j'obtiens :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
 
 
> summary(lm.0)
 
Call:
lm(formula = Benefice.net.annuel ~ Age + Prime.mensuelle + Categorie.socio.professionnelle + 
    Kilometres.parcourus.par.mois + Coefficient.bonus.malus + 
    Type.de.vehicule + Score.CRM + Niveau.de.vie + Marque + Salaire.annuel + 
    Score.credit + Cout.entretien.annuel, data = lab.App)
 
Residuals:
     Min       1Q   Median       3Q      Max 
-20.8704  -3.3261  -0.1253   3.4891  22.8470 
 
Coefficients:
                                                         Estimate Std. Error t value Pr(>|t|)    
(Intercept)                                            -2.201e+01  3.108e+00  -7.083 3.54e-12 ***
Age                                                     3.180e-02  1.552e-02   2.049 0.040843 *  
Prime.mensuelle                                        -1.891e-02  1.952e-02  -0.969 0.333074    
Categorie.socio.professionnelleEtudiant                 3.865e+00  6.457e-01   5.985 3.50e-09 ***
Categorie.socio.professionnelleOuvrier                  5.115e-02  6.995e-01   0.073 0.941734    
Categorie.socio.professionnelleSans emploi              4.217e+00  9.477e-01   4.450 1.00e-05 ***
Categorie.socio.professionnelleTravailleur non salarie -3.978e-01  1.238e+00  -0.321 0.748085    
Kilometres.parcourus.par.mois                           9.118e-03  1.089e-03   8.374 3.21e-16 ***
Coefficient.bonus.malus                                -1.363e-01  2.803e-02  -4.861 1.45e-06 ***
Type.de.vehicule5 portes                                1.905e+01  6.818e-01  27.942  < 2e-16 ***
Type.de.vehiculeSUV                                     3.855e+01  7.161e-01  53.825  < 2e-16 ***
Type.de.vehiculeUtilitaire                              5.700e+01  1.075e+00  53.007  < 2e-16 ***
Score.CRM                                               2.037e-01  2.205e-02   9.238  < 2e-16 ***
Niveau.de.vie                                           3.899e-04  5.385e-04   0.724 0.469308    
MarqueCitroen                                           7.656e-01  1.240e+00   0.617 0.537198    
MarqueOpel                                             -4.700e-01  1.642e+00  -0.286 0.774820    
MarquePeugeot                                          -5.476e-01  1.199e+00  -0.457 0.647899    
MarqueRenault                                           2.536e-02  1.205e+00   0.021 0.983220    
MarqueToyota                                            5.019e-01  1.412e+00   0.355 0.722468    
MarqueVolkswagen                                       -1.558e+00  1.323e+00  -1.177 0.239432    
Salaire.annuel                                         -2.835e-04  7.934e-05  -3.573 0.000378 ***
Score.credit                                           -3.262e-04  8.961e-04  -0.364 0.715961    
Cout.entretien.annuel                                   2.958e-04  2.535e-03   0.117 0.907135    
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
 
Residual standard error: 6.668 on 677 degrees of freedom
Multiple R-squared:  0.8821,	Adjusted R-squared:  0.8782 
F-statistic: 230.2 on 22 and 677 DF,  p-value: < 2.2e-16

le R2 est d'environ 88%, comme vous l'aviez dit, en augmentant le nombre de variables , le R2 ajusté augmente.

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
 
 
> summary(lm.0)
 
Call:
glm(formula = Benefice.net.annuel ~ Age + Prime.mensuelle + Categorie.socio.professionnelle + 
    Kilometres.parcourus.par.mois + Coefficient.bonus.malus + 
    Type.de.vehicule + Score.CRM + Niveau.de.vie + Marque + Salaire.annuel + 
    Score.credit + Cout.entretien.annuel, data = lab.App)
 
Deviance Residuals: 
     Min        1Q    Median        3Q       Max  
-20.8704   -3.3261   -0.1253    3.4891   22.8470  
 
Coefficients:
                                                         Estimate Std. Error t value Pr(>|t|)    
(Intercept)                                            -2.201e+01  3.108e+00  -7.083 3.54e-12 ***
Age                                                     3.180e-02  1.552e-02   2.049 0.040843 *  
Prime.mensuelle                                        -1.891e-02  1.952e-02  -0.969 0.333074    
Categorie.socio.professionnelleEtudiant                 3.865e+00  6.457e-01   5.985 3.50e-09 ***
Categorie.socio.professionnelleOuvrier                  5.115e-02  6.995e-01   0.073 0.941734    
Categorie.socio.professionnelleSans emploi              4.217e+00  9.477e-01   4.450 1.00e-05 ***
Categorie.socio.professionnelleTravailleur non salarie -3.978e-01  1.238e+00  -0.321 0.748085    
Kilometres.parcourus.par.mois                           9.118e-03  1.089e-03   8.374 3.21e-16 ***
Coefficient.bonus.malus                                -1.363e-01  2.803e-02  -4.861 1.45e-06 ***
Type.de.vehicule5 portes                                1.905e+01  6.818e-01  27.942  < 2e-16 ***
Type.de.vehiculeSUV                                     3.855e+01  7.161e-01  53.825  < 2e-16 ***
Type.de.vehiculeUtilitaire                              5.700e+01  1.075e+00  53.007  < 2e-16 ***
Score.CRM                                               2.037e-01  2.205e-02   9.238  < 2e-16 ***
Niveau.de.vie                                           3.899e-04  5.385e-04   0.724 0.469308    
MarqueCitroen                                           7.656e-01  1.240e+00   0.617 0.537198    
MarqueOpel                                             -4.700e-01  1.642e+00  -0.286 0.774820    
MarquePeugeot                                          -5.476e-01  1.199e+00  -0.457 0.647899    
MarqueRenault                                           2.536e-02  1.205e+00   0.021 0.983220    
MarqueToyota                                            5.019e-01  1.412e+00   0.355 0.722468    
MarqueVolkswagen                                       -1.558e+00  1.323e+00  -1.177 0.239432    
Salaire.annuel                                         -2.835e-04  7.934e-05  -3.573 0.000378 ***
Score.credit                                           -3.262e-04  8.961e-04  -0.364 0.715961    
Cout.entretien.annuel                                   2.958e-04  2.535e-03   0.117 0.907135    
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
 
(Dispersion parameter for gaussian family taken to be 44.45837)
 
    Null deviance: 255209  on 699  degrees of freedom
Residual deviance:  30098  on 677  degrees of freedom
AIC: 4667.3

J'ai du mal à voir la différence en soi entre ces deux résultats, j'ai du mal à voir lequel est le plus correct. Ces deux résultats me semblent tous très corrects.

Par ailleurs, vous avez ci-dessous le détail du résultat obtenu avec StepAIC, je suppose que je dois prendre la régression avec l'AIC le plus faible ? Mais que réprésente les + et - présents à compter des variables ?

Pourquoi ai-je des none ? J'avais des valeurs NA dans mon échantillon que j'ai mis à 0? Est ce la raison ?

En me basant sur ce que vous avez dit, J'ai refait un modèle avec stepAIC, (forward et backward)

Ci dessous, le modèle linéaire forward.

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
 
 
> lm.0 <- lm(Benefice.net.annuel ~ Age, data=lab.App)
> lm.res <- stepAIC( lm.0, scope= list( upper=~ Age+Prime.mensuelle+Categorie.socio.professionnelle+
+               Kilometres.parcourus.par.mois+Coefficient.bonus.malus+Type.de.vehicule+
+                 Score.CRM + Niveau.de.vie + Marque + Salaire.annuel + Score.credit
+               + Cout.entretien.annuel))
Start:  AIC=4111.59
Benefice.net.annuel ~ Age
 
                                  Df Sum of Sq    RSS    AIC
+ Type.de.vehicule                 3    194358  53118 3040.4
+ Salaire.annuel                   1      9484 237992 4086.2
+ Niveau.de.vie                    1      8830 238646 4088.2
+ Score.CRM                        1      5028 242448 4099.2
+ Categorie.socio.professionnelle  4      4064 243412 4108.0
+ Kilometres.parcourus.par.mois    1      1524 245952 4109.3
<none>                                         247476 4111.6
+ Coefficient.bonus.malus          1       538 246938 4112.1
+ Score.credit                     1        63 247413 4113.4
+ Prime.mensuelle                  1        50 247426 4113.5
+ Cout.entretien.annuel            1        12 247464 4113.6
+ Marque                           6      1165 246311 4120.3
- Age                              1      7733 255209 4131.1
 
Step:  AIC=3040.43
Benefice.net.annuel ~ Age + Type.de.vehicule
 
                                  Df Sum of Sq    RSS    AIC
+ Salaire.annuel                   1     12821  40297 2849.1
+ Niveau.de.vie                    1     12322  40795 2857.7
+ Kilometres.parcourus.par.mois    1      3295  49823 2997.6
+ Score.CRM                        1      3167  49951 2999.4
+ Categorie.socio.professionnelle  4      2903  50215 3009.1
+ Coefficient.bonus.malus          1       591  52527 3034.6
<none>                                          53118 3040.4
+ Prime.mensuelle                  1        74  53043 3041.4
+ Score.credit                     1        50  53068 3041.8
+ Cout.entretien.annuel            1         1  53117 3042.4
+ Marque                           6       386  52731 3047.3
- Age                              1      3220  56338 3079.6
- Type.de.vehicule                 3    194358 247476 4111.6
 
Step:  AIC=2849.07
Benefice.net.annuel ~ Age + Type.de.vehicule + Salaire.annuel
 
                                  Df Sum of Sq    RSS    AIC
+ Score.CRM                        1      3134  37163 2794.4
+ Kilometres.parcourus.par.mois    1      3046  37251 2796.0
+ Categorie.socio.professionnelle  4      2369  37928 2814.7
+ Coefficient.bonus.malus          1       537  39760 2841.7
<none>                                          40297 2849.1
+ Score.credit                     1        26  40271 2850.6
+ Prime.mensuelle                  1         8  40290 2850.9
+ Niveau.de.vie                    1         7  40290 2850.9
+ Cout.entretien.annuel            1         3  40294 2851.0
+ Marque                           6       268  40029 2856.4
- Age                              1      3495  43792 2905.3
- Salaire.annuel                   1     12821  53118 3040.4
- Type.de.vehicule                 3    197695 237992 4086.2
 
Step:  AIC=2794.4
Benefice.net.annuel ~ Age + Type.de.vehicule + Salaire.annuel + 
    Score.CRM
 
                                  Df Sum of Sq    RSS    AIC
+ Kilometres.parcourus.par.mois    1      3017  34147 2737.1
+ Categorie.socio.professionnelle  4      2598  34565 2751.7
+ Coefficient.bonus.malus          1      1066  36097 2776.0
<none>                                          37163 2794.4
+ Niveau.de.vie                    1        91  37072 2794.7
+ Prime.mensuelle                  1        29  37134 2795.8
+ Score.credit                     1         4  37159 2796.3
+ Cout.entretien.annuel            1         2  37161 2796.4
+ Marque                           6       216  36947 2802.3
- Age                              1      1028  38191 2811.5
- Score.CRM                        1      3134  40297 2849.1
- Salaire.annuel                   1     12788  49951 2999.4
- Type.de.vehicule                 3    195870 233033 4073.5
 
Step:  AIC=2737.14
Benefice.net.annuel ~ Age + Type.de.vehicule + Salaire.annuel + 
    Score.CRM + Kilometres.parcourus.par.mois
 
                                  Df Sum of Sq    RSS    AIC
+ Categorie.socio.professionnelle  4      2588  31559 2690.0
+ Coefficient.bonus.malus          1      1163  32984 2714.9
<none>                                          34147 2737.1
+ Niveau.de.vie                    1        97  34050 2737.2
+ Prime.mensuelle                  1        52  34095 2738.1
+ Cout.entretien.annuel            1         3  34144 2739.1
+ Score.credit                     1         0  34147 2739.1
+ Marque                           6       207  33939 2744.9
- Age                              1       964  35111 2754.6
- Kilometres.parcourus.par.mois    1      3017  37163 2794.4
- Score.CRM                        1      3104  37251 2796.0
- Salaire.annuel                   1     12541  46688 2954.1
- Type.de.vehicule                 3    197523 231670 4071.4
 
Step:  AIC=2689.97
Benefice.net.annuel ~ Age + Type.de.vehicule + Salaire.annuel + 
    Score.CRM + Kilometres.parcourus.par.mois + Categorie.socio.professionnelle
 
                                  Df Sum of Sq    RSS    AIC
+ Coefficient.bonus.malus          1      1076  30483 2667.7
<none>                                          31559 2690.0
+ Niveau.de.vie                    1        40  31519 2691.1
+ Prime.mensuelle                  1        35  31524 2691.2
+ Cout.entretien.annuel            1         2  31557 2691.9
+ Score.credit                     1         1  31558 2691.9
+ Marque                           6       317  31241 2694.9
- Age                              1      1035  32594 2710.6
- Categorie.socio.professionnelle  4      2588  34147 2737.1
- Kilometres.parcourus.par.mois    1      3006  34565 2751.7
- Score.CRM                        1      3331  34890 2758.2
- Salaire.annuel                   1     12090  43649 2915.0
- Type.de.vehicule                 3    195895 227453 4066.5
 
Step:  AIC=2667.69
Benefice.net.annuel ~ Age + Type.de.vehicule + Salaire.annuel + 
    Score.CRM + Kilometres.parcourus.par.mois + Categorie.socio.professionnelle + 
    Coefficient.bonus.malus
 
                                  Df Sum of Sq    RSS    AIC
<none>                                          30483 2667.7
+ Prime.mensuelle                  1        32  30451 2669.0
+ Niveau.de.vie                    1        22  30461 2669.2
+ Score.credit                     1         3  30480 2669.6
+ Cout.entretien.annuel            1         1  30482 2669.7
- Age                              1       196  30678 2670.2
+ Marque                           6       312  30171 2672.5
- Coefficient.bonus.malus          1      1076  31559 2690.0
- Categorie.socio.professionnelle  4      2501  32984 2714.9
- Kilometres.parcourus.par.mois    1      3103  33585 2733.5
- Score.CRM                        1      3810  34293 2748.1
- Salaire.annuel                   1     12152  42634 2900.5
- Type.de.vehicule                 3    194156 224638 4059.8

Ci dessous, le modèle linéaire backward

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
 
 
lm.res <- stepAIC( lm.0, direction="backward")
summary(lm.res)
 
Start:  AIC=2678.8
Benefice.net.annuel ~ Age + Prime.mensuelle + Categorie.socio.professionnelle + 
    Kilometres.parcourus.par.mois + Coefficient.bonus.malus + 
    Type.de.vehicule + Score.CRM + Niveau.de.vie + Marque + Salaire.annuel + 
    Score.credit + Cout.entretien.annuel
 
                                  Df Sum of Sq    RSS    AIC
- Marque                           6       327  30426 2674.4
- Cout.entretien.annuel            1         1  30099 2676.8
- Score.credit                     1         6  30104 2676.9
- Niveau.de.vie                    1        23  30122 2677.3
- Prime.mensuelle                  1        42  30140 2677.8
<none>                                          30098 2678.8
- Age                              1       187  30285 2681.1
- Salaire.annuel                   1       568  30666 2689.9
- Coefficient.bonus.malus          1      1051  31149 2700.8
- Categorie.socio.professionnelle  4      2551  32649 2727.7
- Kilometres.parcourus.par.mois    1      3117  33216 2745.8
- Score.CRM                        1      3794  33892 2759.9
- Type.de.vehicule                 3    192971 223070 4074.9
 
Step:  AIC=2674.37
Benefice.net.annuel ~ Age + Prime.mensuelle + Categorie.socio.professionnelle + 
    Kilometres.parcourus.par.mois + Coefficient.bonus.malus + 
    Type.de.vehicule + Score.CRM + Niveau.de.vie + Salaire.annuel + 
    Score.credit + Cout.entretien.annuel
 
                                  Df Sum of Sq    RSS    AIC
- Cout.entretien.annuel            1         1  30427 2672.4
- Score.credit                     1         2  30428 2672.4
- Niveau.de.vie                    1        21  30447 2672.9
- Prime.mensuelle                  1        32  30458 2673.1
<none>                                          30426 2674.4
- Age                              1       195  30620 2676.8
- Salaire.annuel                   1       563  30989 2685.2
- Coefficient.bonus.malus          1      1055  31481 2696.2
- Categorie.socio.professionnelle  4      2443  32868 2720.4
- Kilometres.parcourus.par.mois    1      3126  33552 2740.8
- Score.CRM                        1      3838  34264 2755.5
- Type.de.vehicule                 3    193937 224362 4067.0
 
Step:  AIC=2672.4
Benefice.net.annuel ~ Age + Prime.mensuelle + Categorie.socio.professionnelle + 
    Kilometres.parcourus.par.mois + Coefficient.bonus.malus + 
    Type.de.vehicule + Score.CRM + Niveau.de.vie + Salaire.annuel + 
    Score.credit
 
                                  Df Sum of Sq    RSS    AIC
- Score.credit                     1         2  30429 2670.5
- Niveau.de.vie                    1        21  30448 2670.9
- Prime.mensuelle                  1        32  30459 2671.1
<none>                                          30427 2672.4
- Age                              1       195  30622 2674.9
- Salaire.annuel                   1       563  30990 2683.2
- Coefficient.bonus.malus          1      1057  31484 2694.3
- Categorie.socio.professionnelle  4      2443  32870 2718.5
- Kilometres.parcourus.par.mois    1      3126  33553 2738.9
- Score.CRM                        1      3841  34268 2753.6
- Type.de.vehicule                 3    193937 224364 4065.0
 
Step:  AIC=2670.46
Benefice.net.annuel ~ Age + Prime.mensuelle + Categorie.socio.professionnelle + 
    Kilometres.parcourus.par.mois + Coefficient.bonus.malus + 
    Type.de.vehicule + Score.CRM + Niveau.de.vie + Salaire.annuel
 
                                  Df Sum of Sq    RSS    AIC
- Niveau.de.vie                    1        22  30451 2669.0
- Prime.mensuelle                  1        32  30461 2669.2
<none>                                          30429 2670.5
- Age                              1       196  30625 2672.9
- Salaire.annuel                   1       566  30996 2681.4
- Coefficient.bonus.malus          1      1055  31484 2692.3
- Categorie.socio.professionnelle  4      2441  32870 2716.5
- Kilometres.parcourus.par.mois    1      3124  33553 2736.9
- Score.CRM                        1      3841  34270 2751.7
- Type.de.vehicule                 3    193935 224364 4063.0
 
Step:  AIC=2668.96
Benefice.net.annuel ~ Age + Prime.mensuelle + Categorie.socio.professionnelle + 
    Kilometres.parcourus.par.mois + Coefficient.bonus.malus + 
    Type.de.vehicule + Score.CRM + Salaire.annuel
 
                                  Df Sum of Sq    RSS    AIC
- Prime.mensuelle                  1        32  30483 2667.7
<none>                                          30451 2669.0
- Age                              1       196  30647 2671.5
- Coefficient.bonus.malus          1      1073  31524 2691.2
- Categorie.socio.professionnelle  4      2486  32937 2715.9
- Kilometres.parcourus.par.mois    1      3120  33571 2735.2
- Score.CRM                        1      3824  34275 2749.8
- Salaire.annuel                   1     12153  42604 2902.0
- Type.de.vehicule                 3    194160 224611 4061.7
 
Step:  AIC=2667.69
Benefice.net.annuel ~ Age + Categorie.socio.professionnelle + 
    Kilometres.parcourus.par.mois + Coefficient.bonus.malus + 
    Type.de.vehicule + Score.CRM + Salaire.annuel
 
                                  Df Sum of Sq    RSS    AIC
<none>                                          30483 2667.7
- Age                              1       196  30678 2670.2
- Coefficient.bonus.malus          1      1076  31559 2690.0
- Categorie.socio.professionnelle  4      2501  32984 2714.9
- Kilometres.parcourus.par.mois    1      3103  33585 2733.5
- Score.CRM                        1      3810  34293 2748.1
- Salaire.annuel                   1     12152  42634 2900.5
- Type.de.vehicule                 3    194156 224638 4059.8

Les meilleurs AIC des deux stepAIC sont à peu près egaux, autour de 2665. Cela veut il dire que les deux modèles sont bons ?

Je ne suis pas encore passé

Merci beaucoup pour vos explications encore une fois.

[aziz1015]

Bonjour,

J'ai une autre question.

Comment interpréter les courbes des résidus ? Les documentations ne sont pas très précises sur le sujet il y en a très peu.






Je ne sais pas du tout comment interpréter ses images.

La regression est elle bonne ? Quel critère me permet à partir de l'analyse des résidus de savoir si ma régression est bonne ?

Cordialement