SVM: réglage du paramètre sigma dans le noyau RBF

Bonjour,
j`ai une question intéressante et toute simple; dans le cas de la classification multi-classe si nous avons par exemple 3 classes {classe1,classe2,classe3} et qu`on veut utiliser la methode one versus one pour la phase d`apprentissage et de classification avec un noyau RBF nous aurons donc trois classifieurs C11,C12 et C23.

Ma question est: sommes-nous obliger d`utiliser le même sigma pour tout les classifieurs dans la phase d`apprentissage et par la suite de la classification, ou bien on peut utiliser des sigma differents pour chaque classifieur par exemple sigma11,sigma12 et sigma13? ceci bien sur pour améliorer l`apprentissage et la classification puisqu`il est difficile de trouver un bon sigma qui classe correctement les donnees de N classifieurs.

Alors vous en pensez quoi?

Qu'est ce que tu désignes par Sigma ?

Les centres des fonctions a base radiale ? ou autre chose ?

c'est la deviation ou l'ecart type dans l'expression du noyau RBF (noyau a base radial) K(x,y)=exp(-||x-y||^2/(2*sigma^2))

Bonjour,

Oui comme tu dis, il n'y a aucune règle indiquant comment choisir le sigma, il faut faire des essais avec des valeurs différentes, puis le fixer sur la valeur du sigma qui donne le meilleur taux de classification, avec une reconnaissance des trois classes, et bien sur avec moins de confusions et de conflits.
généralement le sigma prend les 3 valeurs: 0.1, 0.5, 1

Donc selon ton problème, tu choisis le bon sigma

bon courage

Merci pour ta reponse

Choisir un sigma pour chaque classifieur faciliterait grandement notre travail, mais puisque aucun scientifique n`en a parlé, il vaudrait mieux que je laisse tomber cette hypothése...

il y a une différence entre aucun scientifique n'en a parlé, et l'existance d'aucune règle pour déterminer la valeur.

Tu veux dire Bucketpc qu'aucun scientifique ne la envisagé mais qu'aucun n'en plus ne la interdit n'est ce pas?

Parmi les inconvénients des méthodes telles que les réseaux de neurones, les algorithmes génétiques, etc. c'est le choix des paramètres. du fait, qu'il n'existe aucune règle qui détermine comment choisir par exemple le nombre idéal de couches cachées, et le nombre de neurones par chaque couches, qui donnera les bons résultats.

s'il n'existe aucune règles pour déterminer ton sigma, alors il faut utiliser plusieurs testes, et comparer les résultats obtenus. c'est le seul moyen.

salut, pour moi aucun problème d'utiliser 3 sigma différents (sigma différent <=> kernel différent <=> espace de redescription différent <=> classifieur différent)

d'ailleurs pour aller plus loin, si 2 classes sont séparables linéairement tu peux te permettre d'utiliser un classifieur linéaire sans kernel moi ça me dérange pas, surtout si les expériences montrent que la séparatrice entre tes classes est plutôt linéaire (remplacer linéaire par ce que tu veux, polynomial etc .. ça reste la même idée)

du moment que la validation croisée donne de bons résultats !

au fait, regardes tu tes données avec kernel pca ? c'est toujours pas mal de le faire pour voir si oui ou non le kernel transforme comme tu as envie tes données (c'est à ce jour le meilleur moyen de choisir un kernel :)

Oui merci pour votre reponse, je suis un peu rassurée. Pour le kernel en reconnaissance de formes généralement on utilise un noyau RBF, puisque généralement les données ne sont pas linéairement séparables, sauf des fois avec la reconaissance de visage.
Mais Ca veut dire quoi kernel PCA??