IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

DataStage Discussion :

Diminuer le temps de chargement Dataset - BDD sous Datastage PX


Sujet :

DataStage

  1. #1
    Futur Membre du Club
    Homme Profil pro
    Consultant en Business Intelligence
    Inscrit en
    Mars 2015
    Messages
    5
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant en Business Intelligence
    Secteur : Industrie

    Informations forums :
    Inscription : Mars 2015
    Messages : 5
    Points : 5
    Points
    5
    Par défaut Diminuer le temps de chargement Dataset - BDD sous Datastage PX
    Bonjour,

    J’ai fait un Job sous Datastage PX qui est composé d'un dataset et d'un connecteur ODBC vers une base SQL server.

    Mon souci, c'est que j'ai une volumétrie très importante (20 millions de lignes), par conséquent le job met beaucoup de temps. ( 1 heure et demi)

    Pour info, je ne fais aucune transformation.

    Auriez-vous des idées pour améliorer le temps de chargement ?

    Merci par avance pour vos réponses.

    Cordialement,

  2. #2
    Futur Membre du Club
    Homme Profil pro
    Consultant en Business Intelligence
    Inscrit en
    Mars 2015
    Messages
    5
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant en Business Intelligence
    Secteur : Industrie

    Informations forums :
    Inscription : Mars 2015
    Messages : 5
    Points : 5
    Points
    5
    Par défaut ça ne marche tojours pas
    Quelqu’un à une idée?

    Moi entre temps j'ai essayé avec le composant RedBrick Load, ça marche mais ça n'a pas révolutionné mon job. Ça donne toujours a peut près les mêmes performances

  3. #3
    Modérateur

    Homme Profil pro
    Consultant en Business Intelligence
    Inscrit en
    Février 2011
    Messages
    1 624
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Consultant en Business Intelligence
    Secteur : Conseil

    Informations forums :
    Inscription : Février 2011
    Messages : 1 624
    Points : 3 402
    Points
    3 402
    Par défaut
    Salut,
    Ça depend de beaucoup de paramètres :
    1- ta configuration, .APT, le nombre de nœuds.
    2- quelle technique utilises-tu ? Insert ou bulk load?
    3- ta table a t'elle des indexes ?
    ...
    N'oubliez pas de consulter les FAQ SAS et les cours et tutoriels SAS
    N'oubliez pas de mettre votre message à si la solution donnée résout votre problème

  4. #4
    Futur Membre du Club
    Homme Profil pro
    Consultant en Business Intelligence
    Inscrit en
    Mars 2015
    Messages
    5
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant en Business Intelligence
    Secteur : Industrie

    Informations forums :
    Inscription : Mars 2015
    Messages : 5
    Points : 5
    Points
    5
    Par défaut
    Bonjour et merci pour ta réponse.

    1) Deux nœuds

    2) Truncate then Insert

    Mon job est formé d'un Dataset et d'un connecteur ODBC ( donc que deux composants, pas de transformation)
    J’ai essayé avec le bulk load, j'ai à peu près les mêmes performances, le temps n'a pas diminué de beaucoup.

    3) La table n'est pas indexée

  5. #5
    Futur Membre du Club
    Homme Profil pro
    Consultant en Business Intelligence
    Inscrit en
    Mars 2015
    Messages
    5
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant en Business Intelligence
    Secteur : Industrie

    Informations forums :
    Inscription : Mars 2015
    Messages : 5
    Points : 5
    Points
    5
    Par défaut
    j'ai trouvé et ça marche très bien .

    Merci quand meme pour votre aide.

  6. #6
    Candidat au Club
    Inscrit en
    Mars 2010
    Messages
    2
    Détails du profil
    Informations forums :
    Inscription : Mars 2010
    Messages : 2
    Points : 3
    Points
    3
    Par défaut
    Bonjour. Je vois que le sujet a deux ans mais bon .... Je voudrais savoir comment tu as fait pour diminuer le temps de chargement.

    Cordialement.

    Citation Envoyé par devdataaa Voir le message
    j'ai trouvé et ça marche très bien .

    Merci quand meme pour votre aide.

+ Répondre à la discussion
Cette discussion est résolue.

Discussions similaires

  1. Comment réduire le temps de chargement d'une base SQLite dans un dataset?
    Par billybobbonnet dans le forum Accès aux données
    Réponses: 9
    Dernier message: 29/08/2014, 17h39
  2. Réponses: 6
    Dernier message: 23/03/2011, 16h11
  3. [Optimisation][Forum] Diminuer le temps de chargement (côté client) ?
    Par FremyCompany dans le forum Mode d'emploi & aide aux nouveaux
    Réponses: 8
    Dernier message: 31/08/2006, 20h16
  4. [Mysql] Connection delphi à une bdd sous easyphp...
    Par pataluc dans le forum Bases de données
    Réponses: 2
    Dernier message: 14/06/2004, 09h07
  5. Quel etait le secret de Rapid File, la bdd sous DOS
    Par Robert A. dans le forum Autres SGBD
    Réponses: 5
    Dernier message: 27/05/2003, 04h53

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo