Discussion :

[badsideofhell]

bonjour pour mon pfe je susi obligé d'utiliser les svm alors que je n'y connais rien! qq'un peut m'aider?

[ssaarraahh]

svm est une methode staistique supervise creer par VAPNIK.
elle consiste à separer les objets(etiquetés soit par "1" soit par "-1" à classes en 2 classes distinctes par 1 hyperplans de la forme [h(x)=w.x + b ]
et si il y'a d'autres problemes je suis là.
bon courrage.

[Veovis]

Commence à regarder déjà sur internet : http://fr.wikipedia.org/wiki/Machine...urs_de_support

Et aprés pose des questions, sur ce que tu n'as pas compris.

[acx01b]

Bonsoir je me permets de m'introduire dans la discussion

j'ai un petit problème avec la fonction noyau

ce que j'ai compris : on applique une transformation au vecteur d'entrée qui nous donne un nouveau vecteur de dimension beaucoup plus grande, on espère (c'est très probable) que dans cet espace le problème est linérairement séparable

quelle sera la différence alors entre utiliser un SVM, ou appliquer la transformation qu'on vient de voir aux vecteurs d'entrées, puis traiter l'image des vecteurs avec un réseau de neurone à une couche cachée ??

Renaud

[pseudocode]

quelle sera la différence alors entre utiliser un SVM, ou appliquer la transformation qu'on vient de voir aux vecteurs d'entrées, puis traiter l'image des vecteurs avec un réseau de neurone à une couche cachée ??

L'interet des SVM c'est que le kernel nous renvoie directement la valeur dont on a besoin (= le produit scalaire des vecteurs de grande dimension).

On n'a donc pas besoin de travailler dans l'espace de grande dimension. On n'a meme pas besoin de savoir a quoi cet espace ressemble.

[Alp]

En effet, comme le dit pseudocode, on a pas besoin d'autant d'informations qu'il y paraît.

Avec un RdN, tu aurais beaucoup plus de choses à faire. Grâce aux noyaux, on a le produit scalaire et c'est suffisant pour la suite.

[MohEllayali]

Bonjour,

J'avais une petite question :

pour minimiser la distance entre l'hyperplan séparateur et les échantillons, est-ce qu'on prends en considération tout les exemples d'apprentissage ou bien juste ceux qui sont proches de l'hyperplan ( vecteurs support) ?.
et dans ce dernier cas comment les choisir ?.

Merci d'avance

[Alp]

Ce sont seux qui sont proches de l'hyperplan qui vont être utiles pour trouver la marge à appliquer pour placer l'hyperplan.

[MohEllayali]

Merci Alp,

Mais tu fais comment pour les choisir ces vecteurs ? ou bien ça se fait automatiquement sans avoir à se soucier de voir quels sont les vecteurs support ?

[Alp]

On peut montrer que w* ne dépend que des (xi,yi) qui sont SUR la marge, i.e., pour lesquels $\frac{y_i f(x_i)}{\vert\vert w\vert\vert}=M(w^*,D)$.

On appelle ces exemples des ``points de support'' (support vectors). Il existe un autre résultat (très simple à prouver) concernant la relation entre le nombre de points de support et l'erreur de généralisation: l'erreur de généralisation ESPÉRÉE (sur des ensembles d'exemples D différents) est bornée par le ratio entre le nombre de points de support et le nombre d'exemples.

http://www.iro.umontreal.ca/~bengioy...6/svm/svm.html
Cette page devrait répondre à pas mal de tes questions

[MohEllayali]

Merci encore Alp

[Matthieu Brucher]

Tout est automatique.

D'ailleurs, les SVMs font mieux que les RdN pour la classif car il n'y a pas de problème d'over-fit ou de généralisation.
Le kernel trick, c'est un outil qu'on peut utiliser partout où il y a un produit scalaire.

Faut vrament que je fasse un tuto là-dessus un jour, je crois...

[Alp]

Ca serait volontier !