IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Requêtes MySQL Discussion :

travail avec des grosses bases de données


Sujet :

Requêtes MySQL

Vue hybride

Message précédent Message précédent   Message suivant Message suivant
  1. #1
    Membre averti
    Homme Profil pro
    Étudiant
    Inscrit en
    Août 2011
    Messages
    28
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Étudiant
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Août 2011
    Messages : 28
    Par défaut travail avec des grosses bases de données
    Bonjour à tous,

    je travaille actuellement avec une base de donnée qui est constituée d'une unique table de 250 colonnes, avec plus de 150 000 000 entrées. La table m'a été fournie sous forme d'un fichier sql, dont la taille fait plus de 60 Go. Je l'ai importée dans mon serveur de bdd (oracle). Le problème c'est que, outre les 3 heures que ça m'a pris pour l'import, chaque requête nécessite plusieurs minutes (>10 min), et comme j'en ai beaucoup à faire, ça me prend des heures à chaque fois.

    Est-ce qu'il existe des outils plus adaptés à mon cas ? (je parle d'outils software, en matériel je ne pense pas pouvoir changer).
    A part les cours que j'ai eu en bdd, je ne suis pas du tout expert dans ce domaine, et encore moins pour savoir si il y a des technologies plus ou moins adpatée à mon cas !

    Merci pour vos lumières !

  2. #2
    Membre éprouvé
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    Novembre 2012
    Messages
    111
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : Industrie

    Informations forums :
    Inscription : Novembre 2012
    Messages : 111
    Par défaut
    une macro php qui te lit le fichier sql et te les inserts dans ta base de données?
    tu le fais par petit paquet (200 requêtes) comme ça tu peux travailler en même temps.

  3. #3
    Membre Expert
    Avatar de ericd69
    Homme Profil pro
    Développeur informatique
    Inscrit en
    Avril 2011
    Messages
    1 919
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Isère (Rhône Alpes)

    Informations professionnelles :
    Activité : Développeur informatique
    Secteur : High Tech - Multimédia et Internet

    Informations forums :
    Inscription : Avril 2011
    Messages : 1 919
    Billets dans le blog
    1
    Par défaut
    salut,

    c'est quoi tes données? car 200 colonne ça ressemble à un dump d'un truc non normalisé...

    il serait peut être bon devoir si tu peux donc normaliser tout ça, bien indexer, ce qui risque en plus de largement compacter tes données et fluidifier les actions dessus

  4. #4
    Modérateur
    Avatar de Chtulus
    Homme Profil pro
    Ingénieur
    Inscrit en
    Avril 2008
    Messages
    3 094
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 45
    Localisation : France, Rhône (Rhône Alpes)

    Informations professionnelles :
    Activité : Ingénieur
    Secteur : Santé

    Informations forums :
    Inscription : Avril 2008
    Messages : 3 094
    Par défaut
    Bonjour,

    Citation Envoyé par Rhyos Voir le message
    je travaille actuellement avec une base de donnée qui est constituée d'une unique table de 250 colonnes, avec plus de 150 000 000 entrées. La table m'a été fournie sous forme d'un fichier sql, dont la taille fait plus de 60 Go. Je l'ai importée dans mon serveur de bdd (oracle). Le problème c'est que, outre les 3 heures que ça m'a pris pour l'import, chaque requête nécessite plusieurs minutes (>10 min), et comme j'en ai beaucoup à faire, ça me prend des heures à chaque fois.
    C'est une blague ?

    On appel pas cela une Base de Données ! Et ce n'est pas un Outil qu'il vous faut ! C'est un modèle....

    Je rejoins @ericd69 ! C'est quoi votre truc Oo

    Citation Envoyé par Rhyos Voir le message
    Merci pour vos lumières !
    Dans ce cas, merci plutôt pour les vôtres

    Cordialement,
    « Je ne cherche pas à connaître les réponses, je cherche à comprendre les questions. »
    - Confucius -

    Les meilleurs cours, tutoriels et Docs sur les SGBD et le SQL
    Tous les cours Office
    Solutions d'Entreprise



  5. #5
    Expert éminent
    Avatar de CinePhil
    Homme Profil pro
    Ingénieur d'études en informatique
    Inscrit en
    Août 2006
    Messages
    16 818
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 62
    Localisation : France, Haute Garonne (Midi Pyrénées)

    Informations professionnelles :
    Activité : Ingénieur d'études en informatique
    Secteur : Enseignement

    Informations forums :
    Inscription : Août 2006
    Messages : 16 818
    Billets dans le blog
    14
    Par défaut
    Je l'ai importée dans mon serveur de bdd (oracle).
    Euh... le SGBD est Oracle ou MySQL ?

    Dans les deux cas, je rejoins l'avis des autres : faites un modèle de données normalisé et répartissez vos données importées dedans. Une table de 250 colonnes et 150 millions de lignes, ce n'est pas viable !
    Philippe Leménager. Ingénieur d'étude à l'École Nationale Supérieure de Formation de l'Enseignement Agricole, en retraite... mais toujours Autoentrepreneur à l'occasion.
    Mon ancien blog sur la conception des BDD, le langage SQL, le PHP... et mon nouveau blog sur les mêmes sujets.
    « Ce que l'on conçoit bien s'énonce clairement, et les mots pour le dire arrivent aisément ». (Nicolas Boileau)
    À la maison comme au bureau, j'utilise la suite Linux Mageïa !

Discussions similaires

  1. [Oracle] travail avec des grosses bases de données
    Par Rhyos dans le forum PHP & Base de données
    Réponses: 4
    Dernier message: 29/03/2013, 16h24
  2. Travailler avec des données de type JSON
    Par rambc dans le forum jQuery
    Réponses: 2
    Dernier message: 21/11/2010, 11h38
  3. Réponses: 3
    Dernier message: 25/01/2005, 11h27
  4. [Crystal] Performance sur grosses base de données
    Par Nico118 dans le forum SAP Crystal Reports
    Réponses: 5
    Dernier message: 14/11/2003, 15h27
  5. Travailler avec des bits
    Par Vulvulune dans le forum Langage
    Réponses: 5
    Dernier message: 02/03/2003, 19h09

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo