IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Développement de jobs Discussion :

tOracleInput et tFileOutputExcel ou of memory


Sujet :

Développement de jobs

  1. #1
    Membre régulier
    Profil pro
    Inscrit en
    Avril 2008
    Messages
    154
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Avril 2008
    Messages : 154
    Points : 84
    Points
    84
    Par défaut tOracleInput et tFileOutputExcel ou of memory
    Bonjour,


    j'ai un job qui doit faire un sélect sur une base oracle et insérer les lignes du résultat dans un Fichier EXCEL (xlsx).

    Mon problème :Quand ma requette SQL ramène peu de ligne (genre 15 000) je n'ai aucun problème ..la génération du fichier excel avec les données se fait sans problème ..Par contre quand j'ai par exemple 100 000 lignes à insérer ça plante avec un erreur :

    Exception in thread "main" java.lang.OutOfMemoryError: Java heap space
    at org.apache.xmlbeans.impl.store.Saver$TextSaver.resize(Saver.java:1592)
    at org.apache.xmlbeans.impl.store.Saver$TextSaver.preEmit(Saver.java:1223)
    J'ai beau augmenter la taille de la jvm relative au job (ainsi que celle de l'environnement)à 1024 et 2048 j'obtiens toujours la même erreur.

    Ma question est ce qu'il y a 'autre moyen (d'autre composant) qui au lieux d enregistrer d abord en mémoire ,inscrivent directement dans le fichier excel de sortie sur le disc..
    Nom : job.png
Affichages : 739
Taille : 25,6 Ko


    Merci d'avance

    Amicalement

  2. #2
    Membre éclairé
    Homme Profil pro
    Consultant informatique
    Inscrit en
    Mai 2010
    Messages
    343
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Mai 2010
    Messages : 343
    Points : 653
    Points
    653
    Par défaut
    Bonjour,

    D’après ton design, tu dois faire un append dans le 2eme composant ...

    Si c'est le cas, il faut savoir que le tFileOuputExcel pour 2007 est très gourmand en mémoire, et que même si tu lui donne toute la mémoire de la machine, ça plante simplement plus tard.

    Donc si tu peux éviter d'un append en utilisant un tUnite, cela fonctionnera

  3. #3
    Membre régulier
    Profil pro
    Inscrit en
    Avril 2008
    Messages
    154
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Avril 2008
    Messages : 154
    Points : 84
    Points
    84
    Par défaut
    Bonjour , merci pour ta réponse..

    Il sert à quoi le tUnite ??à que endroit dois je le mettre??

    pour toi c est mieux de générer du XLS plutot que de l'XSLX ?


    Qu'entend tu par "faire un append" ??? Parle tu des deux tFileOutputExcel?? si c est le cas :le premier créer la le fichier avec une 1 ère feuille
    le second tFileExcelOutput se contente d'écrire dans le fichier déja créer par le 1er.


    Merci pour ta contribution

  4. #4
    Membre régulier
    Profil pro
    Inscrit en
    Avril 2008
    Messages
    154
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Avril 2008
    Messages : 154
    Points : 84
    Points
    84
    Par défaut
    D'accord emenuet je vois ce que tu veux dire...effectivement quand je créer le fichier à part sans faire d'append ça marche nickel..
    le second excel est bien créer avec 100 000 ligne ..
    Par contre comment je dois utiliser le tUnit pour faire un merge sur les deux fichiers excel créer à part?

    merci d avance

  5. #5
    Membre régulier
    Profil pro
    Inscrit en
    Avril 2008
    Messages
    154
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Avril 2008
    Messages : 154
    Points : 84
    Points
    84
    Par défaut
    voici mon nouveau shema ... celà dit le tUnit une sortie pour les deux fichiers excel à merger ??!


    Merci
    Images attachées Images attachées  

  6. #6
    Membre éclairé
    Homme Profil pro
    Consultant informatique
    Inscrit en
    Mai 2010
    Messages
    343
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Mai 2010
    Messages : 343
    Points : 653
    Points
    653
    Par défaut
    Bonjour,

    Tu relie les 2 tOraclesInput au tUnit avec les liens merge et tu n'as qu'un seul composant tFileOutputExcel. en sortie
    Cela fonctionne que si tu écris tes données dans le même onglet du fichier

  7. #7
    Membre régulier
    Profil pro
    Inscrit en
    Avril 2008
    Messages
    154
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Avril 2008
    Messages : 154
    Points : 84
    Points
    84
    Par défaut
    Merci.

    Malheureusement j'ai une requête par onglet avec des données différents.

  8. #8
    Membre chevronné
    Profil pro
    MOA
    Inscrit en
    Décembre 2002
    Messages
    1 013
    Détails du profil
    Informations personnelles :
    Localisation : France, Eure et Loir (Centre)

    Informations professionnelles :
    Activité : MOA

    Informations forums :
    Inscription : Décembre 2002
    Messages : 1 013
    Points : 1 765
    Points
    1 765
    Par défaut
    salut Samy,

    Je suis curieux, j'ai suivi ta discussion. Comment as tu fais depuis du coup?

    Tu as fais écris 2 fichiers Excel xlsx puis tu les as mergé ?

+ Répondre à la discussion
Cette discussion est résolue.

Discussions similaires

  1. [MFC] A la chasse au memory leak
    Par Yabo dans le forum MFC
    Réponses: 17
    Dernier message: 27/06/2004, 17h35
  2. Réponses: 7
    Dernier message: 26/02/2004, 09h32
  3. [JBuilder 8] Out of memory problem ...
    Par keros dans le forum JBuilder
    Réponses: 2
    Dernier message: 08/09/2003, 19h03
  4. Problème avec memory mapping
    Par gemai dans le forum C
    Réponses: 13
    Dernier message: 04/07/2003, 09h50
  5. Memory fault(coredump)
    Par nono1 dans le forum C
    Réponses: 8
    Dernier message: 17/12/2002, 17h26

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo