IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Développement de jobs Discussion :

Volumetrie et Oracle


Sujet :

Développement de jobs

  1. #1
    Membre averti

    Homme Profil pro
    informatique
    Inscrit en
    Avril 2013
    Messages
    280
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Haut Rhin (Alsace)

    Informations professionnelles :
    Activité : informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Avril 2013
    Messages : 280
    Points : 406
    Points
    406
    Billets dans le blog
    1
    Par défaut Volumetrie et Oracle
    Bonjour,
    je lance plusieurs jobs dont l'execution se passe correctement.c'est à dire j'ai pas d'erreur dans les statistiques des jobs executés.Je rappelle que lors de l'insertion dans ma bdd,le prend le soins de supprimer toutes les tables qui existe avant de créer et de faire une insertion ou un update.
    mon probleme est que quand j'execute plusieurs fois le job, j'ai un probleme de volumetrie car je n'arrive pas à faire d'insertion.pourquoi ma bdd gonfle autant.c'est un réel probleme car je dois pouvoir le deployer sur plusieurs fois sans que ça gongle ma bdd.
    voici l'erreur que je constate souvent Exception in component tOracleOutput_1
    java.sql.SQLException: ORA-00604: une erreur s'est produite au niveau SQL récursif 1
    ORA-01655: impossible d'étendre le cluster SYS.C_OBJ# de 128 dans le tablespace SYSTEM

  2. #2
    Membre averti
    Homme Profil pro
    Consultant en Business Intelligence
    Inscrit en
    Mai 2015
    Messages
    107
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant en Business Intelligence
    Secteur : Conseil

    Informations forums :
    Inscription : Mai 2015
    Messages : 107
    Points : 348
    Points
    348
    Par défaut
    Salut,

    De prime abord, je dirais que c'est un problème Oracle et non Talend.
    Sur ta base Oracle, as-tu essayer d'étendre la taille de ton tablespace?

  3. #3
    Membre averti
    Homme Profil pro
    Consultant en Business Intelligence
    Inscrit en
    Mai 2015
    Messages
    107
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant en Business Intelligence
    Secteur : Conseil

    Informations forums :
    Inscription : Mai 2015
    Messages : 107
    Points : 348
    Points
    348
    Par défaut
    Je ne suis pas expert Oracle mais je parierais sur un truc du genre : lorsque tu delete une table, son allocation mémoire dans le tablespace est toujours utilisé.

  4. #4
    Membre averti

    Homme Profil pro
    informatique
    Inscrit en
    Avril 2013
    Messages
    280
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Haut Rhin (Alsace)

    Informations professionnelles :
    Activité : informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Avril 2013
    Messages : 280
    Points : 406
    Points
    406
    Billets dans le blog
    1
    Par défaut
    Citation Envoyé par Moctezuma Voir le message
    Je ne suis pas expert Oracle mais je parierais sur un truc du genre : lorsque tu delete une table, son allocation mémoire dans le tablespace est toujours utilisé.
    Et comment tu supprimes l'allocation memoire dans un tablespace après un drop table.Etendre le tablespace ne ressout pas mon probleme car on va pas l'etendre à chaque fois qu'on fait des deploiements

  5. #5
    Membre averti
    Homme Profil pro
    Consultant en Business Intelligence
    Inscrit en
    Mai 2015
    Messages
    107
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant en Business Intelligence
    Secteur : Conseil

    Informations forums :
    Inscription : Mai 2015
    Messages : 107
    Points : 348
    Points
    348
    Par défaut
    En utilisant la commande purge (c'est ce que j'essaierais en tout cas) :

    http://docs.oracle.com/cd/B19306_01/...ments_9018.htm

    Peut-être que tu aurais des réponses plus précises en postant ton message dans la section Oracle?

  6. #6
    Membre averti

    Homme Profil pro
    informatique
    Inscrit en
    Avril 2013
    Messages
    280
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Haut Rhin (Alsace)

    Informations professionnelles :
    Activité : informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Avril 2013
    Messages : 280
    Points : 406
    Points
    406
    Billets dans le blog
    1
    Par défaut toujours probleme
    j'ai toujours ce probleme d'espace.Je voudrais bien savoir si l'execution de job ne crée pas des fichiers log qui vont se charger dans la bdd.pourquoi ma bdd se remplir après l'execution de mes jobs.curieux car l'execution se passe très bien mais le free space de ma bdd diminue.je suis très embeté et boqué.

  7. #7
    Membre averti
    Homme Profil pro
    Consultant en Business Intelligence
    Inscrit en
    Mai 2015
    Messages
    107
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant en Business Intelligence
    Secteur : Conseil

    Informations forums :
    Inscription : Mai 2015
    Messages : 107
    Points : 348
    Points
    348
    Par défaut
    Un post dans la section Oracle du forum pourrait être plus bénéfique pour la résolution de ton problème.

    Cependant, lors de l'exécution de ton job, tu dois effectuer beaucoup de suppression et de creation de table.
    Couplés à des insertion et update en masse, les fichier de logs Oracle se remplissent vitent et prennent beaucoup de place sur ton tablespace.

    D'après la documentation Oracle (http://docs.oracle.com/cd/B28359_01/...htm#ADMIN11374), tu dois avoir le moyen de contrôler l'écriture dans les fichiers de logs avec la clause NOLOGGING lors de la création de ton tablespace.

    C'est une piste qui mérite d'être tester.

  8. #8
    Membre averti

    Homme Profil pro
    informatique
    Inscrit en
    Avril 2013
    Messages
    280
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Haut Rhin (Alsace)

    Informations professionnelles :
    Activité : informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Avril 2013
    Messages : 280
    Points : 406
    Points
    406
    Billets dans le blog
    1
    Par défaut gestion des logs
    bonjour,
    j'ai une succession de job que j'ai mis dans plusieurs trun.Mes jobs s'executent correctement.Cependant vu qu'on doit deployer sur d'autres serveur,on m'a demander de gerer les eventuelles erreurs qui surviendront, le tps d'execution, et autres.
    soluton:j'ai veux donc creer une table gestion_log qui va enregistrer le fichier log generé par talend concernant ces info.
    probleme:comment recuperer deja le fichier log me donnant le recapitulatif de l'execution de mon job avec le temps d'execution.
    merci
    Images attachées Images attachées  

  9. #9
    Membre averti
    Homme Profil pro
    Consultant en Business Intelligence
    Inscrit en
    Mai 2015
    Messages
    107
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant en Business Intelligence
    Secteur : Conseil

    Informations forums :
    Inscription : Mai 2015
    Messages : 107
    Points : 348
    Points
    348
    Par défaut
    Salut,

    pour récupérer les logs d'exécution, tu peux utiliser le composant tStatCatcher.
    Ce composant à un schéma par défaut et va te permettre, entre autre, de récupérer le temps d'exécution d'un composant donné.

    Pour ton cas, j'imagine :
    - Dans ton job père, le composant tStatCatcher en lien avec une table ou un fichier (pour une action d'écriture)
    - Dans les paramètres de chaque tRunJob, onglet Paramètres avancés, tu coches la case "Statistiques de tStatCatcher"

    A l'exécution, dans tes fichier de log, tu devrait trouver :
    - 1 ligne pour le début de ton job père
    - 1 ligne pour le début du premier tRunJob
    - 1 ligne pour la fin du premier tRunJob
    - 1 ligne pour le début du second tRunJob
    - etc...
    - 1 ligne pour la fin du job père

  10. #10
    Membre averti

    Homme Profil pro
    informatique
    Inscrit en
    Avril 2013
    Messages
    280
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Haut Rhin (Alsace)

    Informations professionnelles :
    Activité : informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Avril 2013
    Messages : 280
    Points : 406
    Points
    406
    Billets dans le blog
    1
    Par défaut
    ok!!tu as dit " Dans les paramètres de chaque tRunJob, onglet Paramètres avancés, tu coches la case "Statistiques de tStatCatcher" "
    oui j'ai coché Statistiques de tStatCatcher du trun,comment tu fais pour recuperer ces infos car elles ne s'affichent que dans talend(la partie job executé).or je voudrais bien les recuperer dans ma table créé.merci

  11. #11
    Membre averti
    Homme Profil pro
    Consultant en Business Intelligence
    Inscrit en
    Mai 2015
    Messages
    107
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant en Business Intelligence
    Secteur : Conseil

    Informations forums :
    Inscription : Mai 2015
    Messages : 107
    Points : 348
    Points
    348
    Par défaut
    Ces informations peuvent être récupérées via le composant tStatCatcher.
    Ce composant fonctionne comme le tLogCatcher, c'est à dire que tu le met dans de ton job et il restera à l'ecoute de l'exécution.

    Il faut donc que tu place ce composant dans ton job.
    Ensuite, tu peux rediriger son flux de données vers un composant Output pour écrire dans ta table.

    Tu peux aussi te passer de placer ce composant dans ton job et utiliser les paramètres du projet : Paramètres du projet > Stats & Logs.
    En revanche, ton job père doit utiliser les paramètres du projet (Vue job > onglet Stats & Logs)

  12. #12
    Membre averti

    Homme Profil pro
    informatique
    Inscrit en
    Avril 2013
    Messages
    280
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Haut Rhin (Alsace)

    Informations professionnelles :
    Activité : informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Avril 2013
    Messages : 280
    Points : 406
    Points
    406
    Billets dans le blog
    1
    Par défaut
    ok!!jai opté pr la 1ere solution en mettant tstatcratcher dans chaque job père.voir capture ecran
    pr mon 1er test jai des message d'erreur.surement que je l'ai pas bien utiliser te tstatcratcher
    voici une partie des erreurs que j'ai:
    Exception in component
    java.lang.IllegalStateException: Current state = FLUSHED, new state = CODING_END
    at java.nio.charset.CharsetEncoder.throwIllegalStateException(CharsetEncoder.java:968)
    at java.nio.charset.CharsetEncoder.encode(CharsetEncoder.java:554)
    at sun.nio.cs.StreamEncoder.flushLeftoverChar(StreamEncoder.java:242)
    at sun.nio.cs.StreamEncoder.implClose(StreamEncoder.java:301)
    at sun.nio.cs.StreamEncoder.close(StreamEncoder.java:149)
    Images attachées Images attachées  

  13. #13
    Membre averti
    Homme Profil pro
    Consultant en Business Intelligence
    Inscrit en
    Mai 2015
    Messages
    107
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant en Business Intelligence
    Secteur : Conseil

    Informations forums :
    Inscription : Mai 2015
    Messages : 107
    Points : 348
    Points
    348
    Par défaut
    En fait tu n'avais pas besoin de mettre dans chacun de tes jobs fils un tStatCatcher.
    Seul un tStatCatcher dans ton job referentiel devrait suffire.
    Veilles bien à avoir cocher la case "Statistiques du tStatCatcher" dans chacun des tRunJob fils (Calendar, Company, customer, etc...)

+ Répondre à la discussion
Cette discussion est résolue.

Discussions similaires

  1. Volumetrie BdD Oracle
    Par buzbruno dans le forum Administration
    Réponses: 2
    Dernier message: 26/06/2009, 11h55
  2. Cryptage de colonnes sous Oracle
    Par Julian Roblin dans le forum SQL
    Réponses: 9
    Dernier message: 28/11/2006, 18h24
  3. [VB6] Connection ODBC Oracle
    Par babe dans le forum VB 6 et antérieur
    Réponses: 3
    Dernier message: 07/10/2002, 16h52
  4. [Kylix] sqlconnection + oracle
    Par tibo55555 dans le forum EDI
    Réponses: 1
    Dernier message: 02/09/2002, 09h09
  5. Problème d'installation oracle 8.1.7 sous NT
    Par Anonymous dans le forum Installation
    Réponses: 7
    Dernier message: 02/08/2002, 14h18

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo