Amélioration des SVM

Bonjour tout le monde,

Je m'excuse si je ne suis pas sur le bon forum...

Voilà, je travaille sur mon PFE dont la description est de faire un état de l'art sur les méthodes utilisées pour la prédiction de l'attrition en entreprise et d'ensuite choisir deux méthodes qui seront appliquées sur les données.

Il m'a également été demandé d'essayer d'apporter ma contribution à l'une des méthodes.

Mon choix s'est porté sur les arbres de décision ainsi que les SVM. Je voudrais apporter ma contribution au SVM mais je ne sais pas trop comment. J'ai fait quelques recherches et ce qui revient le plus c'est la méthode "Cross-Validation" mais puisque c'est utilisé par tout le monde, est-ce que c'est considéré comme une contribution ?

J'ai également pensé à une hybridation mais je ne sais pas trop quel algorithme serait le mieux adapté pour cela.

Je voulais donc savoir si vous pouviez me proposer quelque pistes à explorer afin d'essayer d'améliorer cet algorithme, que ce soit en précision, en rapidité ou autre.

Merci d'avance.

L'idéal (vu qu'on te demande de la créativité) serait de n'employer ni les arbres de décision, ni les SVM.
Et de faire le tout en pur procédural.

On me demande plutôt de faire un état de l'art sur les méthodes les plus utilisées pour ce type de problème et d'en choisir deux dont une à améliorer. Donc tout faire en pur procédural serait un peu hors sujet non ?

:salut:

Si tu suis l'idée de valentin03 (que je t'encourage a priori à ne pas suivre, sauf vraie bonne raison d'avoir un programme statique impossible à mettre à jour sur de nouvelles données sans modifier/réécrire le code), regarde du côté de l'apprentissage de règles : https://www.hindawi.com/journals/jaea/2009/736398/abs/, par exemple.

La validation croisée, c'est plutôt orthogonal à l'algorithme, c'est une manière d'en évaluer la performance (et presque tout le monde fait ça — ceux qui ne le font pas soit ont assez de données pour s'en passer, soit devraient s'y mettre).

Tes contributions ne pourraient-elles pas se situer en amont de l'algorithme d'apprentissage, quand tu extraits tes variables ?

Citation:

---

Envoyé par dourouc05

Tes contributions ne pourraient-elles pas se situer en amont de l'algorithme d'apprentissage, quand tu extraits tes variables ?

---

Si, mais là encore je ne sais pas trop comment.
Quelques pistes seraient les bienvenues.

Pour ça, pas trop le choix, il faut te plonger dans ce qui est déjà fait (étude de la littérature, autrement dit). Une fois que tu vois ce qui se fait déjà, tente de trouver quelque chose de neuf. Vu le sujet, j'ai l'impression que tout ce qui est neuf est en fait un truc que tu n'auras pas trouvé :aie: (ne t'inquiète pas trop, c'est très courant en recherche ;) — même si c'est déprimant :mouarf:).

Ce que je trouve rapidement : https://towardsdatascience.com/hands...n-5c2a42806266, https://journals.sagepub.com/doi/abs.../jmkr.43.2.276.

Ou alors tu tentes une variation des SVM, comme les SVM à une classe, pour détecter des choses "anormales" dans les données, qui sont peut-être les clients qui se taillent. Il y a énormément de variantes des SVM, il y a peut-être un truc à trouver là-dedans.

Citation:

---

Envoyé par dourouc05

Vu le sujet, j'ai l'impression que tout ce qui est neuf est en fait un truc que tu n'auras pas trouvé :aie: (ne t'inquiète pas trop, c'est très courant en recherche ;) — même si c'est déprimant :mouarf:).

---

Oui c'est vrai que c'est assez déprimant, mais je ne vais pas me décourager !
Je vais explorer ces pistes-là en espérant aboutir à quelque chose.

Merci pour ton aide :)