IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Développement de jobs Discussion :

Optimiser le temps d'exécution d'un Job pour le traitement de fichier XML


Sujet :

Développement de jobs

  1. #1
    Futur Membre du Club
    Homme Profil pro
    Étudiant
    Inscrit en
    Février 2016
    Messages
    7
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Bouches du Rhône (Provence Alpes Côte d'Azur)

    Informations professionnelles :
    Activité : Étudiant
    Secteur : Industrie

    Informations forums :
    Inscription : Février 2016
    Messages : 7
    Points : 5
    Points
    5
    Par défaut Optimiser le temps d'exécution d'un Job pour le traitement de fichier XML
    Bonjour,

    Je début dans l'utilisation de Talend.

    J'ai réaliser un job pour le traitement de fichier XML que je vous joins.
    Nom : Talend.PNG
Affichages : 612
Taille : 54,6 Ko

    Lorsque je met en entrée un fichier XML de 80Mb, il faut attendre plus de 8h pour que le fichier soit totalement exécuté.

    En faisant quelque recherche, j'ai changé le mode de génération ( je suis passé de "Lent et consommateur de mémoire (Dom4J)" à "Rapide avec peu de consommation de mémoire (SAX)"). Suite à ce changement, l'exécution du Job est très rapide (moins de 30 secondes), cependant je n'ai aucun fichier en sortie.
    Le fichier "TOSFED" à la sortie du tMAPXML_4 est vide avec la génération en mode SAX.

    J'ai essayé d'utiliser un tMAP plutôt qu'un tMAPXML mais j'arrive pas construire le schéma XML du fichier en sortie ( impossible de créer des balises choice et je dirai même de créer un schéma XML).

    N'ayant plus d'autre solution je viens vers dans l’espoir d'avoir des piste me permettant de résoudre mon problème.

  2. #2
    Membre expérimenté Avatar de supergeoffrey
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    Octobre 2010
    Messages
    795
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 37
    Localisation : France, Nord (Nord Pas de Calais)

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Octobre 2010
    Messages : 795
    Points : 1 685
    Points
    1 685
    Par défaut
    Utilises-tu des requettes XPAth avancés avec SAX.
    Certaines requette ne fonctionne pas...
    Pensez à marquer vos tickets comme résolus.
    Pensez aussi aux pour les réponses pertinantes

    Quand une discution est résolue depuis un moment pour revenir dessus, il est mieux d'en crée une nouvelle avec un lien vers l'autre car :
    • Elle sera en haut du forum, elle sera donc plus visible
    • Une discussion résolue, on ne passe pas dessus pour aider, on passe dessus si on a le même problème
    • Tu demandes surement à tes clients de faire le même

  3. #3
    Futur Membre du Club
    Homme Profil pro
    Étudiant
    Inscrit en
    Février 2016
    Messages
    7
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Bouches du Rhône (Provence Alpes Côte d'Azur)

    Informations professionnelles :
    Activité : Étudiant
    Secteur : Industrie

    Informations forums :
    Inscription : Février 2016
    Messages : 7
    Points : 5
    Points
    5
    Par défaut
    Citation Envoyé par supergeoffrey Voir le message
    Utilises-tu des requettes XPAth avancés avec SAX.
    Certaines requette ne fonctionne pas...
    Oui j'utilise des requettes. Mais ayant peut de connaissance dans ce domaine je ne sais pas comment contourné sur problème pour accélérer le temps d'exécution.
    Merci de vous intéresser à mon problème.

  4. #4
    Membre expérimenté Avatar de supergeoffrey
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    Octobre 2010
    Messages
    795
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 37
    Localisation : France, Nord (Nord Pas de Calais)

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Octobre 2010
    Messages : 795
    Points : 1 685
    Points
    1 685
    Par défaut
    La vraie question utilises-tu des requêtes XPATH avancées !
    C'est à dire certaines extensions que tu as dans l'API DomForJ et pas dans Sax.

    Je me souviens d'avoir écrit des requêtes XPath non compatible avec Sax. (Des comparaisons par exemple)
    Exemple :
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    "field[@id=\"1082\"]/asset"
    Je voulais savoir si tu as fait de genre de requête ?

    Si c'est le cas, il faut que tu récupères les noeuds XML dans ton tXmlInput et que tu utilise un tExtractXMLField pour faire ce genre de requêttes
    Pensez à marquer vos tickets comme résolus.
    Pensez aussi aux pour les réponses pertinantes

    Quand une discution est résolue depuis un moment pour revenir dessus, il est mieux d'en crée une nouvelle avec un lien vers l'autre car :
    • Elle sera en haut du forum, elle sera donc plus visible
    • Une discussion résolue, on ne passe pas dessus pour aider, on passe dessus si on a le même problème
    • Tu demandes surement à tes clients de faire le même

Discussions similaires

  1. optimisation en temps d'exécution d'un tri
    Par Dereck07 dans le forum Macros et VBA Excel
    Réponses: 5
    Dernier message: 01/03/2008, 18h49
  2. [datenum] Optimiser le temps d'exécution
    Par xduris dans le forum MATLAB
    Réponses: 11
    Dernier message: 08/08/2007, 16h07
  3. Optimisation du temps d'exécution d'une requête
    Par LeNovice dans le forum DB2
    Réponses: 6
    Dernier message: 12/07/2007, 13h47
  4. optimiser le temps d'exécution de l'explorateur windows
    Par ben_iap dans le forum Autres Logiciels
    Réponses: 6
    Dernier message: 31/01/2006, 22h04
  5. Réponses: 9
    Dernier message: 20/06/2005, 12h17

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo