IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Administration PostgreSQL Discussion :

Diviser pour mieux gérer


Sujet :

Administration PostgreSQL

  1. #1
    Membre expérimenté
    Profil pro
    Inscrit en
    Février 2004
    Messages
    1 824
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Février 2004
    Messages : 1 824
    Points : 1 544
    Points
    1 544
    Par défaut Diviser pour mieux gérer
    Hello,

    Je me pose une question :

    On a une grosse base de données qui prend très très longtemps à construire, et malgré le tweak niveau config, la désactivation des contraintes d'intégrité et des petites astuces, y'a rien à faire c'est super long.

    En revanche on a eu une idée qui consistait à "diviser" les data dans plusieurs bases de données pour les construire séparément, au même schéma bien évidemment mais se pose la question de "comment les regrouper" pour taper dans l'ensemble ?

    On peut s'en sortir avec des unions et des dblink mais je n'ai même pas envie d'essayer tellement je pense que ça serait ni élégant, ni performant.

    Où peut-être ce n'est pas plusieurs bases qu'il faut mais plusieurs schéma ?

    Merci par avance pour vos réponses,

    A bientôt
    "Heureusement qu'il y avait mon nez, sinon je l'aurais pris en pleine gueule" Walter Spanghero

  2. #2
    Membre expert
    Avatar de alassanediakite
    Homme Profil pro
    Développeur informatique
    Inscrit en
    Août 2006
    Messages
    1 599
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 46
    Localisation : Mali

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : Août 2006
    Messages : 1 599
    Points : 3 590
    Points
    3 590
    Billets dans le blog
    8
    Par défaut
    Salut
    Que signifie "construire" dans ...
    Citation Envoyé par mister3957 Voir le message
    On a une grosse base de données qui prend très très longtemps à construire
    @+
    Le monde est trop bien programmé pour être l’œuvre du hasard…
    Mon produit pour la gestion d'école: www.logicoles.com

  3. #3
    Membre expérimenté
    Profil pro
    Inscrit en
    Février 2004
    Messages
    1 824
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Février 2004
    Messages : 1 824
    Points : 1 544
    Points
    1 544
    Par défaut
    Hello,

    En fait on part d'une base vide et on a un script qui intègre des données à cette base. Les données étant gigantesques, ils les ont décomposées en "zones". Chaque zone a la même structure, ce ne sont que des subsets de la source de données.

    Le process de construction va intégrer une a une ces zones mais au fur et à mesure la base grossie et c'est de plus en plus long.

    Donc je me demandait s'il n'y avait pas la possibilité d'intégrer chaque zone dans leur propre base ou schéma, et un "truc" pour les réunir virtuellement, ou une astuce de ce genre de telle manière à ce que les requêtes de consultation puissent taper dedans de manière transparente, comme s'il n'y avait qu'une base / un seul schéma ?

    Merci
    "Heureusement qu'il y avait mon nez, sinon je l'aurais pris en pleine gueule" Walter Spanghero

  4. #4
    ced
    ced est déconnecté
    Rédacteur/Modérateur

    Avatar de ced
    Homme Profil pro
    Gestion de bases de données techniques
    Inscrit en
    Avril 2002
    Messages
    6 016
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 48
    Localisation : France, Loiret (Centre)

    Informations professionnelles :
    Activité : Gestion de bases de données techniques
    Secteur : Agroalimentaire - Agriculture

    Informations forums :
    Inscription : Avril 2002
    Messages : 6 016
    Points : 23 705
    Points
    23 705
    Par défaut
    Bonjour,

    J'ai l'impression que ce que vous voulez, c'est ce qu'on nomme du "sharding".
    Nativement, ça n'existe pas dans PostgreSQL.
    Il faudrait regarder du côté de produits comme Citus (pour rester dans le monde PostgreSQL).
    Rédacteur / Modérateur SGBD et R
    Mes tutoriels et la FAQ MySQL

    ----------------------------------------------------
    Pensez aux balises code et au tag
    Une réponse vous a plu ? N'hésitez pas à y mettre un
    Je ne réponds pas aux questions techniques par message privé, les forums sont là pour ça

  5. #5
    Modérateur

    Avatar de CinePhil
    Homme Profil pro
    Ingénieur d'études en informatique
    Inscrit en
    Août 2006
    Messages
    16 799
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 60
    Localisation : France, Haute Garonne (Midi Pyrénées)

    Informations professionnelles :
    Activité : Ingénieur d'études en informatique
    Secteur : Enseignement

    Informations forums :
    Inscription : Août 2006
    Messages : 16 799
    Points : 34 031
    Points
    34 031
    Billets dans le blog
    14
    Par défaut
    On a une grosse base de données
    Grosse comment ?
    Philippe Leménager. Ingénieur d'étude à l'École Nationale Supérieure de Formation de l'Enseignement Agricole. Autoentrepreneur.
    Mon ancien blog sur la conception des BDD, le langage SQL, le PHP... et mon nouveau blog sur les mêmes sujets.
    « Ce que l'on conçoit bien s'énonce clairement, et les mots pour le dire arrivent aisément ». (Nicolas Boileau)
    À la maison comme au bureau, j'utilise la suite Linux Mageïa !

  6. #6
    Membre expérimenté
    Profil pro
    Inscrit en
    Février 2004
    Messages
    1 824
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Février 2004
    Messages : 1 824
    Points : 1 544
    Points
    1 544
    Par défaut
    De l'ordre de 124Go, et ne fait qu'augmenter avec le temps
    "Heureusement qu'il y avait mon nez, sinon je l'aurais pris en pleine gueule" Walter Spanghero

  7. #7
    Modérateur

    Avatar de CinePhil
    Homme Profil pro
    Ingénieur d'études en informatique
    Inscrit en
    Août 2006
    Messages
    16 799
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 60
    Localisation : France, Haute Garonne (Midi Pyrénées)

    Informations professionnelles :
    Activité : Ingénieur d'études en informatique
    Secteur : Enseignement

    Informations forums :
    Inscription : Août 2006
    Messages : 16 799
    Points : 34 031
    Points
    34 031
    Billets dans le blog
    14
    Par défaut
    Je soupçonnais un problème de modélisation qui aurait pu entraîner un problème de performance mais là, c'est effectivement une grosse BDD.
    Philippe Leménager. Ingénieur d'étude à l'École Nationale Supérieure de Formation de l'Enseignement Agricole. Autoentrepreneur.
    Mon ancien blog sur la conception des BDD, le langage SQL, le PHP... et mon nouveau blog sur les mêmes sujets.
    « Ce que l'on conçoit bien s'énonce clairement, et les mots pour le dire arrivent aisément ». (Nicolas Boileau)
    À la maison comme au bureau, j'utilise la suite Linux Mageïa !

  8. #8
    Membre expérimenté
    Profil pro
    Inscrit en
    Février 2004
    Messages
    1 824
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Février 2004
    Messages : 1 824
    Points : 1 544
    Points
    1 544
    Par défaut
    Taper dedans ça va vite mais à construire ça prend 5 jours.. Heureusement qu'on le fait qu'une fois par mois
    "Heureusement qu'il y avait mon nez, sinon je l'aurais pris en pleine gueule" Walter Spanghero

Discussions similaires

  1. Diviser pour mieux régner
    Par PolkovnikMedved dans le forum Algorithmes et structures de données
    Réponses: 4
    Dernier message: 11/08/2017, 16h24
  2. [AC-2007] Assembler pour mieux gérer
    Par AgriPhilou dans le forum Requêtes et SQL.
    Réponses: 3
    Dernier message: 17/06/2012, 15h04
  3. Réponses: 0
    Dernier message: 06/09/2010, 20h18
  4. livre c++ pour mieux gérer mon cas
    Par skerdreux dans le forum Contribuez
    Réponses: 1
    Dernier message: 28/06/2008, 01h49
  5. livre c++ pour mieux gérer mon cas
    Par skerdreux dans le forum C++
    Réponses: 1
    Dernier message: 28/06/2008, 01h49

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo