IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

kettle/PDI Discussion :

Nettoyer un fichier log avec Kettle


Sujet :

kettle/PDI

  1. #1
    Candidat au Club
    Inscrit en
    Mai 2009
    Messages
    9
    Détails du profil
    Informations forums :
    Inscription : Mai 2009
    Messages : 9
    Points : 4
    Points
    4
    Par défaut Nettoyer un fichier log avec Kettle
    Bonjours,
    je travaille sur un micro-projet décisionnel, et je suis débutant en matière donc je voudrais poser une question:
    Quelle la méthodologie à suivre sur kettle pour nettoyer un fichier log ?

  2. #2
    Membre confirmé
    Inscrit en
    Juin 2005
    Messages
    447
    Détails du profil
    Informations forums :
    Inscription : Juin 2005
    Messages : 447
    Points : 546
    Points
    546
    Par défaut
    Bonjour,

    PDI permet de lire des fichiers et d'écrire vers des fichiers :-)
    Si vous souhaitez modifier des fichiers, il faudra probablement les lire, effectuer vos manipulations (suppression des lignes inutiles, ...) et créer de nouveaux fichiers. Ensuite il faut remplacer l'ancien par le nouveau.

    Cldt

    samatar

  3. #3
    Candidat au Club
    Inscrit en
    Mai 2009
    Messages
    9
    Détails du profil
    Informations forums :
    Inscription : Mai 2009
    Messages : 9
    Points : 4
    Points
    4
    Par défaut
    bonjours
    je le sais , le travail demander et d'extraire à partir d'un fichier log (sous-format excel) et à partir de chaque ligne les champs qui sont precis par l'encraderant à savoir (IP, le Navigateur utilisé...) puis alimenter une base de données access.

    j'ai choisi une nouvelle transformation, dans laquelle j'ai dessiné un schéma ( Extraction depuis un fichier excel puis un lien vers une base de données excel) le problème est que je ne sais pas manipuler Kettle j'aurais besoin d'aide SVP
    parce que le travail est à rendre le mardi prochain

  4. #4
    Membre confirmé
    Inscrit en
    Juin 2005
    Messages
    447
    Détails du profil
    Informations forums :
    Inscription : Juin 2005
    Messages : 447
    Points : 546
    Points
    546
    Par défaut
    Ah ok

    J'ai attaché un exemple.


    Pour démarrer avec PDI :

    http://wiki.pentaho.com/display/EAI/Getting+Started


    Samatar
    Fichiers attachés Fichiers attachés

  5. #5
    Candidat au Club
    Inscrit en
    Mai 2009
    Messages
    9
    Détails du profil
    Informations forums :
    Inscription : Mai 2009
    Messages : 9
    Points : 4
    Points
    4
    Par défaut
    Merci bcp pr l'aide, je le fais .
    une autre question comment spécifier les champs à extraire , sachant que les champs sont des mots dans la ligne , le fichier n'est pas organisé

  6. #6
    Membre confirmé
    Inscrit en
    Juin 2005
    Messages
    447
    Détails du profil
    Informations forums :
    Inscription : Juin 2005
    Messages : 447
    Points : 546
    Points
    546
    Par défaut
    des mots..ah
    Tout dépend de la structure.
    Si vous vous y connaissez en expression régulière, vous avez à votre disposition une étape ''évaluation pas expreg".
    Cette étape vous permettre d'extraire les champs suivant une expression régulière (pratique pour extraire depuis des fichiers Log tomcat par exemple ).

    Dans le répertoire samples/transformations, vous trouverez un exemple.

    Samatar

  7. #7
    Candidat au Club
    Inscrit en
    Mai 2009
    Messages
    9
    Détails du profil
    Informations forums :
    Inscription : Mai 2009
    Messages : 9
    Points : 4
    Points
    4
    Par défaut
    merci mon ami je vais suivre vos conseil jusqu'au bout, je suis censé alimenter une base de données Acess est ce que je dois créer une connexion?
    admettons que j'utiliserai Oracle comment remplir les champs de la connexion les paramètres nécessaires ?

  8. #8
    Membre confirmé
    Inscrit en
    Juin 2005
    Messages
    447
    Détails du profil
    Informations forums :
    Inscription : Juin 2005
    Messages : 447
    Points : 546
    Points
    546
    Par défaut
    De rien.

    Pour access, pas besoin, il existe une étape (alimentation base access).
    Vous pouvez toutefois écrire vers une base Access en ODBC :-)

    Pour créer une connexion :

    http://www.kettle.be/swf/Create%20a%...connection.htm

    Samatar

  9. #9
    Membre à l'essai
    Inscrit en
    Mars 2010
    Messages
    10
    Détails du profil
    Informations forums :
    Inscription : Mars 2010
    Messages : 10
    Points : 12
    Points
    12
    Par défaut ajout d'une colonne
    salut Samatar,

    en effet je me demande si PDI offre la possibilité de créer un champs qui sera identique pour toutes les entrées de la table,
    la valeur, on aimerait qu'il contienderat la plus grande valeur d'un autre champs

  10. #10
    Membre à l'essai
    Inscrit en
    Février 2010
    Messages
    40
    Détails du profil
    Informations forums :
    Inscription : Février 2010
    Messages : 40
    Points : 19
    Points
    19
    Par défaut
    Citation Envoyé par samatar Voir le message
    Bonjour,

    PDI permet de lire des fichiers et d'écrire vers des fichiers :-)
    Si vous souhaitez modifier des fichiers, il faudra probablement les lire, effectuer vos manipulations (suppression des lignes inutiles, ...) et créer de nouveaux fichiers. Ensuite il faut remplacer l'ancien par le nouveau.

    Cldt

    samatar
    bonsoir,
    j'ai presque le meme probleme, je doi faire un nettoyage a un fichier log, mais j'ai pas compri ce que c'est un PDI

  11. #11
    Membre à l'essai
    Inscrit en
    Février 2010
    Messages
    40
    Détails du profil
    Informations forums :
    Inscription : Février 2010
    Messages : 40
    Points : 19
    Points
    19
    Par défaut
    Citation Envoyé par samatar Voir le message
    De rien.

    Pour access, pas besoin, il existe une étape (alimentation base access).
    Vous pouvez toutefois écrire vers une base Access en ODBC :-)

    Pour créer une connexion :

    http://www.kettle.be/swf/Create%20a%...connection.htm

    Samatar
    bonsoir samatar,
    j'ais le meme travail que toi, je doi faire un nettoyage pour mon fichier log pour faire ensuite une classification a l'aide des fourmis artificielles, mais le probleme c'est que je suis bloquer je ne sai pas comment faire, est ce que tu peur m'aider

Discussions similaires

  1. 2 applis pour 1 seul fichier log avec log4j
    Par doudou13 dans le forum Logging
    Réponses: 5
    Dernier message: 12/12/2010, 16h44
  2. Réponses: 1
    Dernier message: 05/12/2009, 14h00
  3. ouvrir un fichier log avec excel en vbs
    Par helpmeplz dans le forum VBScript
    Réponses: 4
    Dernier message: 15/09/2009, 01h11
  4. Alimenter fichier *.arff avec kettle
    Par -yasmine- dans le forum kettle/PDI
    Réponses: 13
    Dernier message: 12/06/2009, 00h52
  5. Réponses: 6
    Dernier message: 14/06/2007, 15h36

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo