Discussion :

[telecom85]

salut tout le monde
je veux combiner deux classifieurs (réseaux de neurones et SVM), sachant que j'ai deja classifier avec le réseau de neurones seul et les SVMs seul, maintenant je veux les combiner. comment ???

[abidineb]

Merci beacoup telecom85;
Tu nous apporte une nouvelle idée, je ne savais pas que ça existe, cette combinaison bien sur.
Merci
Cordialement

[ToTo13]

Bonjour,

tu peux simplement faire la moyenne des deux probabilités.
Le mieux est de travailler avec un nombre impair de classifieurs.
Mais attention, il est préférable que les classifieurs aient des performances comparables, sinon il vaut mieux pondérer les réponses.

Une autre solution est de faire du boosting comme cela est fait par AdaBoost. Mais ça, je n'ai jamais utilisé :-(

[abidineb]

Bonjour,
J'ai aucune idée a ce sujet, mais je ne suis pas d'accord sur la moyenne des erreurs, c'est pas logique.
Cordialement

[ToTo13]

Bonjour,

si les erreurs sont comparables et différentes, les classifieurs peuvent se compenser et donc corriger les erreurs de l'autre.

[abidineb]

Bonjour,
Ok, il faut vraiment que les erreurs se rapprochent les une des autres.
Merci
Cordialement

[medchok]

Bonjour,

Abidineb disait : "Ok, il faut vraiment que les erreurs se rapprochent les une des autres", ce serait intéressant de donner plus d'explications ou de détails pour le justifier ou le prouver et surtout de nous indiquer comment faire cette combinaison.

Merci d'avance pour les réponses constructives.

Bien à Vous

[Clercq]

Le principe du Boosting est de façon grossière de "booster" la classification en utilisant la règle 1+1 = 3.

En gros on prends des classifieurs basiques (perceptron par exemple), on les entraine chacun sur une partie aléatoire d'une base d'apprentissage et l'on test leur performance sur la base d'apprentissage entiere.
De cette façon chaque classifieur basique (i.e chaque perceptron) reçoit un score en fonction de leur performance sur la base d'app.

Pour utiliser le classifieur "booster" il 'suffit' d'agréger chaque classifieur basiques en fonction de sa performance -> Je me raccorde ici a Toto13 : On utilise une moyenne pondérée, poids fonction de la performance.

Cette technique permet avec de classifieurs linéaire de "creer" un classifieur non lineaire.

En TP j''avais compare la performance perceptron / RdN / Boosting avec P / Boosting avec RdN / ... dans un cas non linéaire.

Comme on pouvait s'y attendre le perceptron a montre des performance médiocre. L'erreur de classification entre RdN et B-P était comparable, et le B-RdN n'apportait rien, mise a part une perte de temps .

Ceci pour dire : Le boosting c'est puissant, mais l'idée de combiner RdN et SVM me parait sans grand apport. Mais je me trompe peut être .

Sinon pour répondre a ta question : Je voterais pour la moyenne pondérée.

[Bucketpc]

Il est toutes fois possible de combiner les différents classifieurs, mais il faut toujours se poser la question: " est ce que ça va donner de meilleurs résultats ? "

Vous pouvez la réaliser en utilisant le bagging (le vote) où chaque méthode vote sur une classe (la classe obtenu après le déroulement de la classification) ... et la classe ayant un score élevé est attribuée à l'exemple.