Les outils (de base) de classification

Version imprimable

Bonjour,

J'ai besoin de votre aide pour résoudre un petit problème classification. Je ne connais pas les outils (de base) que propose R... et je suis certain qu'il en existe beaucoup ;)

Voici un petit problème de type "hello word" de classification.
Code:

1 2 3 4 5 6 7 V1 <- c( rnorm(n=100,mean=4) , rnorm(n=100,mean=-4) , rnorm(n=100)) V2 <- c( rnorm(n=100,mean=4) , rnorm(n=100,mean=-4) , rnorm(n=100)) V3 <- c( rnorm(n=100,mean=4) , rnorm(n=100,mean=-4) , rnorm(n=100)) V4 <- c( rnorm(n=100,mean=4) , rnorm(n=100,mean=-4) , rnorm(n=100)) datas <- data.frame(V1=V1 , V2=V2 , V3=V3 , V4=V4)
Il y a donc ici dans "datas": 300 échantillons, 4 variables et trois classes.

Pourriez-vous svp me montrer les méthodes (simple, basique) pour trouver les 3 classes.

merci! :)

Bonjour,

Pour commencer une piste (sans doute parmi d'autres) :

Code:

?kmeans

Et en bonus une petite méthode (un peu trop) artisanale pour trouver le nombre optimal de groupes

Code:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
n.1 <- nrow(datas)
# find the within group sum of squares (ss) for all the data:
wss1.1 <- (n.1-1)*sum(apply(datas, 2, var))
 
# Calculate the within group ss for 2 to 15 group partitions given by K-mean clustering:
wss.1 <- numeric(0)
for(i in 2:15){
   w <- sum(kmeans(datas, i, iter.max=100, nstart=25)$withinss)
   wss.1 <- c(wss.1, w)
}
 
wss.1 <- c(wss1.1, wss.1)
 
## Looking for abrupt changes in the slope:
plot(1:15, wss.1, type="l", xlab="Number of groups",
     ylab="Within group sum of squares", main="Find the break...", lwd=2)

Bon, bin là, pas de doute, c'est 3 ;)

10/12/2008, 11h49
hoccha

merci :-)
10/12/2008, 11h59
pitipoisson

Re,

Concernant les classifications hiérarchiques :

Code:

?hclust

Voir également les packages cluster et mclust... Et d'une manière générale, tous ceux chargés par le package clValid qui - avec la fonction éponyme - permet de comparer plusieurs méthodes.
Concernant ce dernier, jeter également un œil à la fonction optimalScores().

Bonjour,

J'ai 2 petite questions si vous me le permettez.
1-que représente au juste le WSS pour un cluster.

3- Est ce que vous avez d'autres références concernant les fonctions de validation du clustering sous R , nottament Kmeans, Cmeans....

Merci à l'avance.
Citation:
Envoyé par pitipoisson
Bonjour,

Pour commencer une piste (sans doute parmi d'autres) :

Code:

?kmeans

Et en bonus une petite méthode (un peu trop) artisanale pour trouver le nombre optimal de groupes
Code:

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 n.1 <- nrow(datas) # find the within group sum of squares (ss) for all the data: wss1.1 <- (n.1-1)*sum(apply(datas, 2, var)) # Calculate the within group ss for 2 to 15 group partitions given by K-mean clustering: wss.1 <- numeric(0) for(i in 2:15){ w <- sum(kmeans(datas, i, iter.max=100, nstart=25)$withinss) wss.1 <- c(wss.1, w) } wss.1 <- c(wss1.1, wss.1) ## Looking for abrupt changes in the slope: plot(1:15, wss.1, type="l", xlab="Number of groups", ylab="Within group sum of squares", main="Find the break...", lwd=2)
Bon, bin là, pas de doute, c'est 3 ;)

25/05/2010, 09h43
pitipoisson

Citation:

Envoyé par dz_robotix

1-que représente au juste le WSS pour un cluster.

WSS = Within sum of squares, soit la somme des carrés des écarts à la moyenne...
comme le suggère

Code:

wss1.1 <- (n.1-1)*sum(apply(datas, 2, var))

Sur plusieurs variables, ce doit être la somme des distances au barycentre du groupe, au carré.

Citation:

Envoyé par dz_robotix

3- Est ce que vous avez d'autres références concernant les fonctions de validation du clustering sous R , nottament Kmeans, Cmeans....

Toute aide bien faite d'une fonction statistique doit comporter des références.
Pour K-means par exemple, faire

Code:

> ?kmeans

pour accéder à l'aide.
25/05/2010, 13h59
dz_robotix
Merci beaucoup petit Poisson,

J'ai utilisé la fonction fclustIndex pour valider mon clustering avec cmeans,...
Mais j'obtiens cette erreur:
Code:

1 2 Erreur dans solve.defalt(scatteer[, , i]): sous programme Lapack dgesv : le systeme est exactement singulier.
une idée sur ça?

merci d'avance.

Citation:

Envoyé par pitipoisson

WSS = Within sum of squares, soit la somme des carrés des écarts à la moyenne...
comme le suggère

Code:

wss1.1 <- (n.1-1)*sum(apply(datas, 2, var))

Sur plusieurs variables, ce doit être la somme des distances au barycentre du groupe, au carré.

Toute aide bien faite d'une fonction statistique doit comporter des références.
Pour K-means par exemple, faire

Code:

> ?kmeans

pour accéder à l'aide.
25/05/2010, 14h13
pitipoisson
Citation:
Envoyé par dz_robotix

J'ai utilisé la fonction fclustIndex pour valider mon clustering avec cmeans,...
Mais j'obtiens cette erreur:

Code:

1 2 Erreur dans solve.defalt(scatteer[, , i]): sous programme Lapack dgesv : le systeme est exactement singulier.

une idée sur ça?
Je ne peux pas te répondre sans voir le code qui génère l'erreur (et même avec, je n'en suis pas certain).
25/05/2010, 14h53
dz_robotix
Code:

1 2 3 4 5 mat<-read.delim("fichier.txt") distace<-as.dist(mat) Clust<-cmeans(distace,10,100) fclustIndex(Clust,mat,"all")
Merci

Citation:

Envoyé par pitipoisson

Je ne peux pas te répondre sans voir le code qui génère l'erreur (et même avec, je n'en suis pas certain).
25/05/2010, 16h52
dz_robotix

1 pièce(s) jointe(s)

Salut Pitipoisson,

Je sais que c'est contraire aux règles du forum, je m'ecxuse à l'avance.

J'ai une petite question, j'ai recherché sur les posts précédents, mais comme je suis débutant en R, il m'a été difficile d'extraire ce qui m'aidera à résoudre mon problème.

Je voudrais plotter 2 courbes sur la même fenetre,. en gros j'ai deux matrices sur les quelles j'appliques un cmeans, apres je calcul les WSS pour chaque résultat du cmeans (donc 2), puis je voudrais plotter les deux courbes sur la meme fenetre.

Jusqu'ici j'arrive à faire le tout sauf que pour supperposer 2 plot il me sort que le dernièr appel du plot(...). j'ai vu qu'il y a la fonction par(lty=1,new=T), mais les indices dans l'axe des Y sont supperposé (problème d'échelle!!!).

Merci