IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Installation MySQL Discussion :

Configuration mysql cluster pour du gros volume


Sujet :

Installation MySQL

  1. #1
    Membre du Club Avatar de spin0us
    Profil pro
    Inscrit en
    Février 2003
    Messages
    87
    Détails du profil
    Informations personnelles :
    Âge : 44
    Localisation : France

    Informations forums :
    Inscription : Février 2003
    Messages : 87
    Points : 64
    Points
    64
    Par défaut Configuration mysql cluster pour du gros volume
    Bonjour,

    J'ai récemment installé un cluster mysql sur deux serveurs. Jusque là pas de souci, mais au moment de basculer notre base de données sur le cluster, ça plante pour un souci d'espace de stockage semble t'il. J'ai donc jeté un oeil côté configuration pour augmenter les compteurs, suivi d'un redémarrage complet du cluster (noeud et tout) mais rien à faire ça plante toujours au même moment.

    Les machines semblent assez grosses (16CPU et 12Go de ram), et la base ne fait que 6Go à tout casser, mais le plantage intervient dans l'import aux environs de 100Mo de données importées.

    Quelqu'un aurait une piste sur un éventuel paramétrage que j'aurai loupé ?

    config.ini
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    [NDBD DEFAULT]
    NoOfReplicas=2
    DataMemory=12288M
    IndexMemory=3072M
    NoOfFragmentLogFiles=200
    UndoIndexBuffer=10M
    RedoBuffer=256M
    MaxNoOfConcurrentOperations=100000
    TimeBetweenGlobalCheckpoints=1000
    TimeBetweenLocalCheckpoints=3
    MaxNoOfTables=4096
    MaxNoOfAttributes=24756
    MaxNoOfOrderedIndexes=2048
    MaxNoOfUniqueHashIndexes=512
    [MYSQLD DEFAULT]
    [NDB_MGMD DEFAULT]
    [TCP DEFAULT]
    [NDB_MGMD]
    HostName=xxx.xxx.xxx.xx1
    [NDBD]
    HostName=xxx.xxx.xxx.xx1
    DataDir= /var/lib/mysql-cluster
    [NDBD]
    HostName=xxx.xxx.xxx.xx2
    DataDir=/var/lib/mysql-cluster
    [MYSQLD]
    [MYSQLD]
    L'erreur que j'ai durant l'import :
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    ERROR 1114 (HY000) at line 406: The table 'tbl_log_live' is full
    Membre actif de la Pouy@geTe@m.

  2. #2
    Membre émérite
    Avatar de gene69
    Profil pro
    Inscrit en
    Janvier 2006
    Messages
    1 769
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Secteur : High Tech - Produits et services télécom et Internet

    Informations forums :
    Inscription : Janvier 2006
    Messages : 1 769
    Points : 2 446
    Points
    2 446
    Par défaut
    d'apres mes maigres connaissances le démon nddb n'est pas un moteur de stockage à proprement parler mais une surcouche sur un moteur.

    je suppose que tu as déjà lu http://dev.mysql.com/doc/refman/5.0/en/full-table.html
    alors que donne:
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    SHOW TABLE STATUS FROM  @db_name LIKE 'tbl_log_live';
    PHP fait nativement la validation d'adresse électronique .
    Celui qui a inventé mysql_connect(...) or die() est déjà mort plusieurs fois.

    Utilisez le bouton résolu!

  3. #3
    Membre du Club Avatar de spin0us
    Profil pro
    Inscrit en
    Février 2003
    Messages
    87
    Détails du profil
    Informations personnelles :
    Âge : 44
    Localisation : France

    Informations forums :
    Inscription : Février 2003
    Messages : 87
    Points : 64
    Points
    64
    Par défaut
    Ça donne ça
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    Name 	Engine 	Version 	Row_format 	Rows 	Avg_row_length 	Data_length 	Max_data_length 	Index_length 	Data_free 	Auto_increment 	Create_time 	Update_time 	Check_time 	Collation 	Checksum 	Create_options 	Comment
    tbl_log_live 	ndbcluster 	10 	Dynamic 	254560 	112 	54755328 	0 	0 	0 	NULL 	NULL 	NULL 	NULL 	utf8_unicode_ci 	NULL
    Sinon depuis le Management Client, avec un report sur le memory usage j'obtiens ceci :
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    ndb_mgm> 3 REPORT MEMORYUSAGE
    Node 3: Data usage is 92%(2371 32K pages of total 2560)
    Node 3: Index usage is 27%(641 8K pages of total 2336)
     
    ndb_mgm> 2 REPORT MEMORYUSAGE
    Node 2: Data usage is 92%(2371 32K pages of total 2560)
    Node 2: Index usage is 27%(641 8K pages of total 2336)
    J'ai beau changer mon paramétrage dans le config.ini, j'arrive pas a faire changer ces valeurs
    Membre actif de la Pouy@geTe@m.

  4. #4
    Membre du Club Avatar de spin0us
    Profil pro
    Inscrit en
    Février 2003
    Messages
    87
    Détails du profil
    Informations personnelles :
    Âge : 44
    Localisation : France

    Informations forums :
    Inscription : Février 2003
    Messages : 87
    Points : 64
    Points
    64
    Par défaut
    Pour clôturer l'affaire, la solution fut de temporiser l'import. Trop d'opération dans un intervalle de temps trop réduit remplit le log trop vite. Il m'a suffit de couper le fichier sql en 2 pour faire 2 imports pour résoudre le souci.
    Membre actif de la Pouy@geTe@m.

+ Répondre à la discussion
Cette discussion est résolue.

Discussions similaires

  1. FileStream ou BLOB pour de gros volumes de documents
    Par sohoant dans le forum MS SQL Server
    Réponses: 8
    Dernier message: 30/06/2009, 17h55
  2. MySQL cluster prevoir un gros projet
    Par seal3 dans le forum MySQL
    Réponses: 4
    Dernier message: 05/05/2009, 03h02
  3. Réponses: 3
    Dernier message: 11/05/2007, 13h47
  4. Optimisation MySQL pour gros volumes
    Par barns dans le forum Requêtes
    Réponses: 8
    Dernier message: 01/10/2005, 11h28
  5. Configurer MYSQL++ avec Dev-C++ pour une connexion à BDMySQL
    Par limouna dans le forum Installation
    Réponses: 1
    Dernier message: 24/07/2005, 21h25

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo