IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

SQL*Loader Oracle Discussion :

Rapidité de SQL*Loader ?


Sujet :

SQL*Loader Oracle

  1. #1
    Membre averti
    Profil pro
    Chef de projet MOE
    Inscrit en
    Février 2009
    Messages
    23
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Chef de projet MOE

    Informations forums :
    Inscription : Février 2009
    Messages : 23
    Par défaut Rapidité de SQL*Loader ?
    Bonjour à tous,

    Je ne connais pas Oracle, encore moins SQL Loader mais des ETL comme BODI, Kettle et Talend.

    Quelle est la rapidité de SQL Loader?

    En nombre de lignes par seconde ou minute?

    Taille de fichiers plats par minute?
    Nombre de fichiers plats pouvant être traités par minute?...

    Temps de traitement pour des chargements de 26 fichiers plats de 10 Mo environ (taille variable quotidiennement) sans transformations vers une base Oracle?

    Merci de votre aide.
    Cordialement.

  2. #2
    Membre Expert
    Homme Profil pro
    Chef de projet MOA
    Inscrit en
    Février 2012
    Messages
    652
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Morbihan (Bretagne)

    Informations professionnelles :
    Activité : Chef de projet MOA
    Secteur : Distribution

    Informations forums :
    Inscription : Février 2012
    Messages : 652
    Par défaut
    La rapidité d'un traitement n'étant pas statique et dépendant de beaucoup de paramètres, on ne pourra pas te donner de réponses précises

    tout ce que je peux te dire, c'est que tes 10 fichiers de 26 Mo vont être engloutis en très peu de temps (De l'ordre de quelques secondes).

    EDIT : Il faut aussi prendre en compte la config de ton CTL. Est-ce du chargement brute de données, y a t-il des fonctions appelées lors du chargement, gères-tu un fichier BAD, un fichier DISCARD, fais-tu du chargement en DIRECT PATH ... tout cela influencera ton chargement

  3. #3
    Membre averti
    Profil pro
    Chef de projet MOE
    Inscrit en
    Février 2009
    Messages
    23
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Chef de projet MOE

    Informations forums :
    Inscription : Février 2009
    Messages : 23
    Par défaut Merci de ta rapidité.
    Les fichiers plats contiennent des données déjà nettoyées.
    Il est prévu que Sql Loader prend les fichiers plats et charge directement une base Oracle (sans transformation, ni modification, ni calculs).
    Donc traitement direct, le plus simple.
    Ta réponse me donne ainsi une estimation: je compte 1minute par fichier.
    A+

  4. #4
    Membre Expert
    Homme Profil pro
    Chef de projet MOA
    Inscrit en
    Février 2012
    Messages
    652
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Morbihan (Bretagne)

    Informations professionnelles :
    Activité : Chef de projet MOA
    Secteur : Distribution

    Informations forums :
    Inscription : Février 2012
    Messages : 652
    Par défaut
    A titre d'exemple j'ai regardé l'une des intégrations que j'ai faites, il faut moins d'une minute et 30 secondes pour charger 550 000 lignes sur deux tables différentes avec quelques contrôles de données

    Si tu n'as pas de fonctions et que tu peux faire du chargement en direct path (Option DIRECT=Y), ton chargement sera vraiment très court

  5. #5
    Membre averti
    Profil pro
    Chef de projet MOE
    Inscrit en
    Février 2009
    Messages
    23
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations professionnelles :
    Activité : Chef de projet MOE

    Informations forums :
    Inscription : Février 2009
    Messages : 23
    Par défaut Merci
    Je remercie aussi d'autres personnes pouvant donner des références / exemples de rapidité d'un tel outil (avec si possible des copies d'écran) des chargements / transformations effectuées avec l'indication du nombre de tables destinataires.
    Cordialement.

  6. #6
    Modérateur
    Avatar de Waldar
    Homme Profil pro
    Sr. Specialist Solutions Architect @Databricks
    Inscrit en
    Septembre 2008
    Messages
    8 454
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 47
    Localisation : France, Val de Marne (Île de France)

    Informations professionnelles :
    Activité : Sr. Specialist Solutions Architect @Databricks
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Septembre 2008
    Messages : 8 454
    Par défaut
    En l'état vous donnez ce genre de chiffre ne présente que peu d'intérêt car fortement impacté par les architectures de chacun.

    Pourquoi ne le testez vous pas dans votre environnement ?
    Ce n'est quand même pas le bout du monde en terme de développement.

Discussions similaires

  1. équivalent SQL*Loader pour FB / IB
    Par djeant dans le forum Outils
    Réponses: 9
    Dernier message: 10/01/2005, 21h26
  2. Chargement de fichier par SQL LOADER
    Par davy.g dans le forum SQL*Loader
    Réponses: 17
    Dernier message: 15/11/2004, 13h08
  3. SQL LOADER
    Par velo83 dans le forum SQL*Loader
    Réponses: 2
    Dernier message: 25/10/2004, 08h24
  4. Réponses: 4
    Dernier message: 10/06/2004, 18h05
  5. erreur sql loader et performance
    Par mobisky dans le forum SQL*Loader
    Réponses: 14
    Dernier message: 20/08/2003, 12h27

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo