Version imprimable
Salut,
Je voudrais faire une classification par K-means pour un groupe de points pour le départager en 2 ensembles, le problème c'est que quand les points sont trop proches la classification se fait mal :aie:
Y-a-t'il un moyen pour éviter ce problème?
Merci d'avace
Est ce que tu as analysé tes ensembles de points ?
Il est possible que ta frontière de décision soit extrêmement petite, voire que les k-means ne permettent pas de la déterminer correctement (si les points des deux classes sont mélangés).
En quelle dimension travailles tu ?
Est ce que chaque dimension a la même importance que les autres ?
Si oui, as tu centré / normé les données ?
Sinon, il faudrait trouver des descripteurs plus pertinents.
Merci de m'avoir répondue,
Oui exactement, y-a-t'il un moyen pour contourner le problème? ou une autre méthode de classification meilleurs que les k-means?Citation:
Il est possible que ta frontière de décision soit extrêmement petite, voire que les k-means ne permettent pas de la déterminer correctement (si les points des deux classes sont mélangés).
En 3DCitation:
En quelle dimension travailles tu ?
pouvez-vous être plus clair s'il vous plait?Citation:
Sinon, il faudrait trouver des descripteurs plus pertinents
Merci :fleur:
K-means , n'est pas vraiment une méthode de classification, c'est une méthode de partitionnement non supervisée. Pour l'utiliser comme classifieur, on attribue à chaque cluster la classe majoritaire parmi les points qui en sont les plus proches. Si la frontière est un peu compliquée il est éventuellement possible d'augmenter le nombre de clusters (sans augmenter le nombre de classes), plusieurs cluster étant affectés à la même classe.
Pour des méthodes de classification proprement dites, tu peux voir du côté de méthodes telles que les k-plus proches voisins, LDA (linear discriminant analysis) ou les machines à vecteur support.
Attention cependant à la manière dont tu évalues les performances, il faudra sans doute effectuer une validation croisée.
Bonsoir,
Le nombre de clusters est fixe dans mon cas, je ne le contrôle pas :aie:Citation:
K-means , n'est pas vraiment une méthode de classification, c'est une méthode de partitionnement non supervisée. Pour l'utiliser comme classifieur, on attribue à chaque cluster la classe majoritaire parmi les points qui en sont les plus proches. Si la frontière est un peu compliquée il est éventuellement possible d'augmenter le nombre de clusters (sans augmenter le nombre de classes), plusieurs cluster étant affectés à la même classe.
Comment fait-on une évaluation croisée?Citation:
Attention cependant à la manière dont tu évalues les performances, il faudra sans doute effectuer une validation croisée
merci :fleur:
Il faut voir comment sont répartis tes points. Mais les k-means, en l'occurrence ici les 2-means va classer en fonction de deux centres et d'une métrique.Citation:
Envoyé par Décembre
Il faut donc une méthode qui permette d'obtenir des frontières plus précises (donc évitons le linéaires) : k plus proches voisins, forêts aléatoires, réseaux de neurones, svm. Teste également la régression logistique, c'est une méthode linéaire, mais avec des tendances aux comportements non linéaires et surtout elle est très puissante pour des problèmes binaires.
Ce sont des méthodes de classement (donc supervisées), donc il faut un échantillon d'apprentissage.
Donc facile de visualiser les données, de voir où ça pose problème et ainsi traiter le problème de manière spécifique.Citation:
Envoyé par Décembre
Tu as trois descripteurs pour décrire tes données, mais sont il pertinents ?Citation:
Envoyé par Décembre
Admettons que tu souhaites décrire / différencier la population mondiale afin de savoir automatiquement si un individu est masculin ou féminin. Si tu choisis les trois critères "longueur des cheveux", "taille", "poids"... et bien... tu ne classeras rien du tout.
Par contre, si tu donnes comme descripteurs la liste des hormones ou les chromosomes, tu auras une réponse juste.
Donc ma question est : "as tu extrait des descripteurs pertinents ?".
Juste une petite précision au niveau traduction :Citation:
Envoyé par Alexis.M
- classification (eng) => classement (fr), c'est du supervisé.
- clustering (eng) => classification (fr), c'est du non supervisé.
Donc les k-means est bien une méthode de classification/partitionnement.
Les kPPV, régression logistique, SVM, etc. sont des méthodes de classement.
Sujet super connu et largement traité. Fais donc une recherche sur ce terme, tu trouveras des notions de "k-fold", "Leave One Out", "BootStrap", etc.Citation:
Envoyé par Décembre
Pour rejoindre l'idée d'Alexis, il ne faudra pas non plus oublier de gérer le cas des échantillons déséquilibrer.
Merci pour la précision, je ne savais pas que "classification" était un faux ami.Citation:
Envoyé par ToTo13
;)
Bonsoir,
Non aucun juste un nuage de points dans l'espace (x,y,z) que des coordonnées c'est tout mais qui appartiennent à deux classes différentes :aie:Citation:
Donc ma question est : "as tu extrait des descripteurs pertinents ?".
Y-a-t il une méthode robuste lorsque les deux classes sont très proche?
Tout dépend des conditions.
Bref... il faut revenir à la base :
- quel type de données as tu ?
- ces coordonnées x, y, z, que sont elle exactement ?
- quelles sont les classes ?
- quelles sont les caractéristiques des classes ?
- comment ont été déterminé les classes ? qu'est ce qui a justifié une telle séparation ?
Si c'est linéairement séparable, oui.Citation:
Envoyé par Décembre
S'il y a des recouvrements entre les deux classes, non.
Salut,
La figure 1 montre le cas que je souhaite traiter en divisant en deux classes et la figure 2 montre la fausse classification faite par le kmeans, dans le cas idéal j'aurais obtenu 2 cercles un rouge et l'autre bleu malheureusement je ne trouve pas comment faire :help:
Les deux classes sont totalement séparées !!!
Donc n'importe quelle méthode de classement fera l'affaire : régression logistique, réseau de neurones (peut être pas utile d'utiliser un truc si lourd), forêt aléatoires, k-PPV, etc.
Si tu ne veux pas faire d'apprentissage et que tes classes ont systématiquement la même répartition, il y a une façon d'assurer le résultat :
- tu prends deux points au hasard parmi les points pour initialiser les k-means.
- pour chaque groupe, tu calcules la somme des distances entre chaque point et la projection sur le plan principal généré par le groupe.
- si les distances ne sont pas quasi nulles, c'est que ton initialisation était mauvaise.
Il y a peut être des critères plus simples, mais à cette heure, c'est la première chose qui me passe par la tête.
Spectral clustering.
voir wikipedia ou l'article de Von. Luxburg de 2007.
merci infiniment :merci: