Monter un cluster Linux

Version imprimable

12/02/2006, 19h43
djibril

Monter un cluster Linux

Salut à tous,
Bon je reviens sur un ancien sujet perdu dans les vieux topics.
J'aurais besoin de votre aide pour résoudre un souci.
Je dois réaliser un cluster linux.
J'ai un master et 8 noeuds. Debian est installée sur chaque machine.
Noyau 2.4.
Le cluster est integré dans un réseau, et tout est OK.
Le master possede son propre dhcp et il genere les adresses IP de mes noeuds. tout est OK, mon master et les noeuds ont acces à internet, ils se voient tous entre eux, bref tout est nickel. Le tout est relié par un switch, etc etc.
Maintenant, mon grand souci est maintenant clusterknoppix, j'arrive pas à le faire fonctionner. Apres avoir tenté la mise en place en mode console sans succes (hein bster lol, j'essaye une autre methode ).
voici ce que je fais :
Je met le CD de clusterknoppix telechargé sur le net (V3.6), je boot dessus.
Ensuite :
- menu principal
- knoppix
- services
- start knoppix openmosix TERMINALSERVER.
-ok
- setup (re)configure server and (re)start
Il me demande de choisir en eth0 et eth1. en ce qui me concerne, eth1 est relié au reseau de l'entreprise et c'est ainsi que mon master possede une IP donné par le dhcp d'un serveur de mon reseau. J'ai installé un dhcp sur mon master et les noeuds sont donc relié au eth0 du master (qui leur attribut les IP). Mais comme j'ai booté sur le CD de clusterknoppix, ça veut dire que debian est eteins et donc dhcp pas demarer, comment clusterknoppix va t il faire?
- bref je choisi eth0
- Il me dit, réseaux pas configuré, est ce que je veux le faire, bah oui
- je choisi eth0
- use DHCP (je met oui) => la fenetre se ferme et plus rien du tout

- Je recommence donc à zero
- setup, eth0....use dhcp=> non
- demande adresse IP eth0 : 192.168.103.10
- netwoek mask : 255.255.255.0
- broadcast : 192.168.103.255
- gateway : 192.168.103.254
- nameserver : 192.168.***.** (il reconnait le bon nameserver, cool)
- IP-range : 192.168.103.100 192.168.103.200
- export CD-ROM (=> je laisse cdrom. export the cdrom drive)
=> the cdrom is now exported using symlink '/diskless' -> /cdrom [/dev/cdrom]
- choix carte reseau e1000, e100, etc
- choix perfomance et securité of server client => je deselectionne textmode: boot client in textmode
- souris (wheelmouse)
- start terminal server
=> rien du tout
- Je vais dans openmosixview, click et rien, je vois pas mon master.
j'ouvre une console et tape
- su -
- /etc/init.d/openmosix start et j'obtiens des lignes avec à la fin openmosix configuration failed
bref, je reclick sur openmosixview et là je vois mon master. bizard non???

Sinon, je demarre maintenant un noeud en mode pxe
il marque bien pendant le demarage les IP du noeud, gw, master dhcp, puis charge des trucs.
Puis fenetre d'accueil de knoppix, alors je tape :
- knoppix lang=fr
et là ça merdouille :
DHCP Broadcasting for IP adresses (1)... Operation failed
No answer from network.
DHCP Broadcasting for IP adresses (1)... Operation failed
No answer from network.
DHCP Broadcasting for IP adresses (1)... Operation failed
No answer from network.
No answer from network.
Can't MFSMount Knoppix filesystem, sorry.
Dropping you to a (very limited) shell.
Press reset button to quit.

....
blablabla
blablabla
...
Knoppix#

Voilà, rien à faire, aucune commande n'est connu ensuite obligé d'eteindre la machine comme une brut.
Bref je bloque et c'est pas quoi faire.
En même temps, vu que le master est sur le CD et non debian, c'est normal qu'il ne trouve pas le reseau, comment faire??
Help, ça fait plus d'un mois que je suis dessus!!
Merci
13/02/2006, 16h54
djibril

Pas de suggestions? :cry:
13/02/2006, 17h00
Katyucha

Désolé djibril, mais je connais pas cette distrib spécifique.
Y a t il une newsgroups spécifique? Tu devrais essayer dessus je pense, t'aurais plus d'aidE...
13/02/2006, 17h15
djibril

il y a un forum sur le site de clusterknoppix, mais il n'est pas modéré. De plus y a des reponses tous les 3 mois :lol: . J'y ai mis un message, mais j'attends une reponse d'ici mars 8) .
Le lien de la mailing n'est pas fonctionnel, bref c'est nul!
14/02/2006, 07h45
bster

High Performance Linux Clusters with OSCAR, Rocks, OpenMosix, and MPI

au point ou tu en es tu n'as plus que ça à faire acheter le bouquin !

je comprend pas moi j'ai zéro soucis avec mes clusters.... et pourtant on utilises les même procedures et versions mais moi je defini pas de master.
Je laisse les machine s'echanger les threads....chaque becanne lançant une appli est master de cette appli et c'est tout...

PS:le kernel 2.6 openmosix est dispo.
14/02/2006, 09h56
djibril

Citation:

Envoyé par bster

High Performance Linux Clusters with OSCAR, Rocks, OpenMosix, and MPI

au point ou tu en es tu n'as plus que ça à faire acheter le bouquin !

je comprend pas moi j'ai zéro soucis avec mes clusters.... et pourtant on utilises les même procedures et versions mais moi je defini pas de master.
Je laisse les machine s'echanger les threads....chaque becanne lançant une appli est master de cette appli et c'est tout...

PS:le kernel 2.6 openmosix est dispo.

Ouais bah moi aussi je comprends pas, je dois avoir un peu de poisse :lol: .
Je vais commander ce bouquin et je verrai bien.
02/03/2006, 21h03
fara morgana

salut,

ça doit être un peu tard pour repondre mais c'est pas grave.
(Je sais même pas si je vais être lu.)

Bon djibril, juste une question toute bête:

As tu essayé dans un premier temps ton cluster sur deux machines reliés par cable croisé?

Commence par la, si ça marche toujours pas ça peut venir de tes pc qui ne gèrent pas le pxe.
04/03/2006, 20h37
djibril

Citation:

Envoyé par fara morgana

salut,

ça doit être un peu tard pour repondre mais c'est pas grave.
(Je sais même pas si je vais être lu.)

Bon djibril, juste une question toute bête:

As tu essayé dans un premier temps ton cluster sur deux machines reliés par cable croisé?

Commence par la, si ça marche toujours pas ça peut venir de tes pc qui ne gèrent pas le pxe.

Mais que si je te lis, mais n'ayant pas avancé à ce sujet, bah j'ai rien à dire.
Sinon mes serveurs ont bien le boot en mood PXE.
Mais bon pourquoi pas essayé un cable croisé :? !!
Bon qd j'aurais un peu de temps, j'essayerais ça. Sinon clusterknoppix fonctionne bien pour toi??
08/03/2006, 13h41
fara morgana

Salut djibril,

Pour moi, clusterknoppix fonctionne bien, enfin les ordinateurs boot et lance la bonne console. Bref aucun message d'erreur. Tout ça en laissant les valeurs par defauts lors de la configuration.

Le problème reste dans la repartition des taches, je vois pas comment il fonctionne. Avec la commmande "top", je vois pas bien les processus lancé par le maitre sur les esclaves...
08/03/2006, 14h34
djibril

Peux tu juste me dire comment tu t'y es pris pour configurer clusterknoppix sur tes machines du tout debut à la fin. ca pourrait m'aider à savoir pourquoi ça ne fonctionne pas de mon coté. Aurais je oublié d'installer un module nfs, etc etc.
Merci
10/03/2006, 17h11
fara morgana

Salut djibril,

bon, bha je veux pas te décevoir mais c'etait y'a longtemps la dernière fois que j'ai utilisé clusterknoppix. Aujourd'hui j'ai réessayer (sur d'autres pc) pour voir un peu, et ça a pas marcher.... :cry:
Bref, de souvenir ça ne m'avais pas poser de problème de configuration. J'avais tout laisser pas défaut et à ma grande surprise: Le boot s'effectué normalement.
Bien sur, les étapes préliminaires étant celles de vérifier la compatibilité PXE, le nom des drivers des cartes réseau (utilise la commande "dmesg | grep eth" si tu sais pas), et un cable croisé pour les relier (ouais 2 pc c'est pas vraiment un cluster, c'etait juste pour faire un test) afin d'eviter une interaction avec d'autre serveur DHCP.

Je sais pas vraiment koi te dire de plus:
icone pinguoin>services>start knoppix openMosix Terminal Server
ensuite, tu te laisses guider par les instructions:
setup (Re)configure server and (Re)start
DHCP->No
Oui pout tout le reste: reseau 192.168.0.1, masque 255.255.255.0, ...
Boot par cdrom.
Enleve les options de sécurité (si tu reste avec tes deux pc en cable croisé tu risque rien).
et tu boot
et voila, dsl

Sinon en ce moment je fonctionne plutôt avec parallelknoppix, qui correspond plus au cluster de calcul. La configuration est plus aboutie (avec l'outil tkping qui permet de voir si les pc repondent correctement) et les tutorial plus complet, ce qui devrait d'aider d'avantage. Car la dernière mise a jour du clusterknoppix date un peu...
28/03/2006, 14h52
hebus2782

Bonjour à tous!!!
Etant donné que vous avez l'air de vous y connaitre en cluster, je m'adresse à vous :) (J'ai regardé les topics cluster et j'ai pensé que c'était ici qu'il fallait poster. J'espere ne pas m'être tromper sinon je m'excuse par avance)

Je me suis renseigné sur internet pour savoir comment mettre en place l'architecture, mais ce n'est pas toujours très clair alors j'espere que vous saurez m'aider.
Mon i-cluster ne necessite pas d'ouverture web pour le moment, il sera uniquement dédié au calcul scientifique.
Je vous avourez que je n'y connai pas grand chose en architecture reseau et que je mène uniquement une étude (j'ai po encore le droit de faire des tests, d'ou le fait que ce n'est pas très concret pour moi). :(

La question principale est : Comment déployer un cluster (clairement avec quel logiciel à installer où, quel matériel à relier à quoi)?

Donc déjà au niveau de l'architecture matérielle, j'ai lu qu'il fallait un serveur réunissant les protocoles DHCP pour l'authentification, TFTP pour les fichiers, et un gestionnaire de licence.
Ensuite, il me faut un (ou plusieurs) switch pour relier ce serveur à mon parc machine (en théorie 8 postes de calcul). J'ai supposé que les machines devaient être identiques au niveau de leurs configurations.
Donc première question, celà vous semble t-il cohérent, n'ai je rien oublié?

Au niveau logiciel (c'est là que j'ai le + rien compris :lol: ), il faut un outil d'allocation des ressources (open PBS) que j'installe sur le serveur. J'ai beaucoup entendu parler d'Oscar également.
Question 2 : De quoi d'autre ai-je besoin? (surement de plein de trucs)

Enfin, au niveau de l'installation réseau, il faut que chaque PC soit muni d'une carte Ethernet PXE, protocole appelé pour interroger des serveurs DHCP et TFTP qui fourniront les programmes et les images d'installation.
Il faut faire l'installation d'un OS sur un PC qui servira de modèle pour tous les auters. Il faut alors utiliser BPBatch (po compris à quoi ça sert ça) et ensuite Ka deploy pour créer une chaine d'installation de l'OS.
Question 3 : J'ai l'impression d'avoir à peu près compris, mais je pense quand même avoir besoin de renseignements supplémentaires.

Voili, voilou pour tout ça. Je découvre vraiment cette technologie alors soyez indulgent :oops:
Merci beaucoup
29/03/2006, 11h18
hebus2782

up
29/03/2006, 11h24
bster

là je sais pas trop je sais que pour OpenSSI par exemple les cartes PXE permettent le deploiement autonome des installations (tu installes un soft = il sest sur tous les noeuds) mais ça ne correspond pas aux type de cluster que tu semble vouloir monter....

et moi à part Mosix et SSI .... je connais pas les autres systemes de clustering ....
29/03/2006, 11h49
hebus2782

Citation:

Envoyé par bster

et moi à part Mosix et SSI .... je connais pas les autres systemes de clustering ....

J'ai pas regardé ce que pouvait donner openSSI, mais en ce qui concerne Mosix, j'ai vu qu'il était utilisé pour la soumission de tâche entre machine et l'équilibrage de charge.

Je vous fait part de ce que j'ai compris de mes dernières lectures(je pars de 0)
L'installation sur le serveur:
Installation des protocles standards serveurs (NFS, NIS, DHCP, TFTP)
Installation dédiée aux grappes :
4 types d'application concernant :
- l'installation
- la synchronisation
- les soumissions de tâches
- le monitoring

- L'installation concerne le déploiement des OS à partir du noeud de référence et des protocoles PXE/TFTP (programme de boot BpBatch)
Pour effectuer l'installation réseau par image, il faut utiliser Ka-deploy

- Vient ensuite la phase de synchronisation (la je sais po à quoi ça sert :D )

- La soumission de tâche concerne l'affectation des pc de calculs à une tâche utilisateur. C'est également la mise en file d'attente selon la disponibilité des ressources. Pour celà, il existe OpenPBS, et Mosix selon mes sources (qui sont loins d'êter fiables :lol: )

- Enfin le monitoring pour avoir une vision sur le cluster (logiciels Ganglia - monika - xpbs)
29/03/2006, 12h04
bster

Citation:

Envoyé par hebus2782

Citation:

Envoyé par bster

et moi à part Mosix et SSI .... je connais pas les autres systemes de clustering ....

J'ai pas regardé ce que pouvait donner openSSI, mais en ce qui concerne Mosix, j'ai vu qu'il était utilisé pour la soumission de tâche entre machine et l'équilibrage de charge.

oui OpenSSI c'est plustot transformer 4 machines en une grosse machine comparé à openmosix ou seule la charge est répartie mais chaque machine est semi-independante...

je ne pense pas que ce soit non plus adapté à ton besoin
29/03/2006, 13h43
hebus2782

Citation:

Envoyé par bster

oui OpenSSI c'est plustot transformer 4 machines en une grosse machine comparé à openmosix ou seule la charge est répartie mais chaque machine est semi-independante...

je ne pense pas que ce soit non plus adapté à ton besoin

Ben figure toi que mon besoin je le défini au fur et à mesure qu'on parle^^
Non plus sérieusement, mon cluster je dois le mettre en place pour améliorer les performances de calcul d'un logiciel (Abaqus), et je ne sais pas s'il vaut mieux transformer mes petites machines en une seule grosse (qui serait reconnue comme un serveur par Abaqus) ou bien laisser chaque machine semi indépendante.
Mais comme plusieurs calculs doivent être lancé en parallèle, je pense que la 2eme solution est appropriée, la première ne faisant que créer une sorte de serveur plus puissant.
06/04/2006, 14h05
fara morgana

Salut hebus2782,

Il est plus simple de paralléliser un simple programme fait main qu'un logiciel comme Aquabus néanmoins spécialisé au calcul scientifique.
D'autant plus que j'ai un peu de mal à trouver des bonnes documentations sur Aqabus (d'un autre coté jai pas cherché longtemps... :? )
Le but de mes recherches étant de savoir si aqabus lance un seul processus ou plusieurs lors de son utilisation. Si plusieurs sont lancés alors tu pourrais simplement utiliser openMosix. Perso, je vois que ça comme solution pour l'instant... :(

MOSIX étant un cluster à répartition de charges entre processus. En effet, chaque application peut être migrée entre les nodes afin de tirer avantage de la meilleure ressource disponible. Son idée principale consiste à répartir sur plusieurs machines, non pas le calcul, mais le multitâche.

Au contraire des clusters de type Beowulf , OpenMosix ne nécessite pas d’applications liées à des librairies de parallélisation particulières comme les MPI ou les PVM. Il ne nécessite donc pas de modifications des applications. (Ce que de toutes façon tu ne pouvais pas faire étant donné que tu devais appliquer le cluster à un logiciel deja en place, mieux vaux ne pas toucher au programme,... De même pour l'utilisation des directives de compilation comme Open MP). En effet, son principe de base consiste à faire migrer un processus de façon dynamique et préemptive vers le noeud du cluster qui présente les meilleures caractéristiques et performances à un temps “t”. Ces opérations de répartition de charge et de synchronisation se font de manière transparente pour l’utilisateur.
Tu n'auras donc pas besoin de t'inquéter de l'étape de synchronisation que je ne vois pas non plus encore comment mettre en place dans un autre cas...

OpenMosix a donc la capacité de répondre dynamiquement à des besoins et des conditions d’exécution irréguliers et non prédictibles. A tout moment un processus est donc assuré d’obtenir les meilleures conditions d’exécution, il s’ensuit une réduction globale du temps d’exécution de l’ensemble des processus.

Cependant on n’obtiendra aucun gain de performance si on ne lance qu’un seul processus sur le cluster. Les processus à temps d’exécution court ne bénéficient pas d’un meilleur temps d’exécution. S’il y avait migration de ce type de processus on perdrait du temps lors du transfert. Une application basée sur les “threads” (“processus” à mémoire partagée) ne peut pas migrer. La communauté de développeurs d’Open-Mosix essaie de combler cette lacune.

Voila ce que j'ai pu trouvé sur open Mosix, je sais plus sur quel site...
Le mettre en place demande juste une recompilation du noyau,...

Si tu veux t'y prendre autrement voila une adresse qui pourrait peu être t'aider ,
http://www.lri.fr/~quetier/tuto_cluster/cluster

voila j'espère t'aider un peu...