IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Alimentation Discussion :

[ETL] Migration base/transformation des données


Sujet :

Alimentation

  1. #1
    Membre à l'essai
    Profil pro
    Inscrit en
    Mars 2006
    Messages
    26
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Mars 2006
    Messages : 26
    Points : 19
    Points
    19
    Par défaut [ETL] Migration base/transformation des données
    Bonjour,

    Pour des soucis de performances (site web à forte charge) et de mauvaise modélisation on envisage de migrer notre base de production actuelle Firebird 1.5 vers Mysql 4.x.

    Le modèle a été réécrit à 90% pour la nouvelle base.

    Voici donc ma question : de part vos expériences quel(s) logiciel(s) (genre ETL) me conseilleriez-vous pour effectuer la migration des données entre ces 2 bases sachant que les modèles physiques ne correspondent pas et qu'il sera par conséquent nécessaire d'effectuer certaines transformations des données.

    Pré requis :
    - Cette migration étant unique il serait préférable que la licence ne coute pas une fortune !
    - Possibilité de faire du scripting et/ou sauvegarder les traitements afin de pouvoir basculer un jour précis après les tests.
    - Simple et souple (mais c'est peut être trop demander... )

    D'avance merci pour vos retours d'expérience et vos conseils!

    Tom.

    p.s. msg déjà posté dans le forum Mysql

  2. #2
    Membre à l'essai
    Profil pro
    Inscrit en
    Mars 2006
    Messages
    26
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Mars 2006
    Messages : 26
    Points : 19
    Points
    19
    Par défaut
    Personne n'a jamais été confronté à un problème similaire (sur Mysql ou autres bases) ??

    Peut être que ma question n'était pas assez claire, je vais la redéfinir : pourriez vous me conseillez un ETL (autres que Datastage & Co) ?

    Merci

  3. #3
    Membre habitué
    Profil pro
    Inscrit en
    Mars 2006
    Messages
    111
    Détails du profil
    Informations personnelles :
    Âge : 61
    Localisation : France

    Informations forums :
    Inscription : Mars 2006
    Messages : 111
    Points : 128
    Points
    128
    Par défaut
    salut


    Je ne connais pas tout les prix des ETL mais la plupart on déjà un cout assez conséquent. L'un des moins cher, de mémoire, reste l'ETL de microsoft (perte de mémoire pour le nom).

    Je ne connais pas Firebird, seulement mySQL quoique datant de 2002, et ne pourrais-tu pas mettre en place cette procédure:

    1. extraction des éléments des tables Firebird en fichier plat
    2. récupération par mySQL des fichiers plats dans les mêmes structures.
    3. création de procédure pour effectuer tes transformation de données


    Cela ne reste qu'un avis mais acheter un ETL pour cela reste hasardeux


    A bientôt


    Frédéric
    ___________
    Vaut mieux un qui sait que deux qui cherchent...mais deux qui cherchent valent toujours mieux qu'un qui croit savoir...

  4. #4
    co2
    co2 est déconnecté
    Membre éclairé
    Avatar de co2
    Profil pro
    Inscrit en
    Mai 2002
    Messages
    182
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Mai 2002
    Messages : 182
    Points : 829
    Points
    829
    Par défaut
    Citation Envoyé par tom_92
    Voici donc ma question : de part vos expériences quel(s) logiciel(s) (genre ETL) me conseilleriez-vous pour effectuer la migration des données entre ces 2 bases sachant que les modèles physiques ne correspondent pas et qu'il sera par conséquent nécessaire d'effectuer certaines transformations des données.
    Hello Tom,

    Je travaille chez l'éditeur de l'ETL Open Source Talend Open Studio qui est adapté pour faire ta migration de données.

    Citation Envoyé par tom_92
    Pré requis :
    - Cette migration étant unique il serait préférable que la licence ne coute pas une fortune !
    La licence de T.O.S. est du GPL... donc c'est gratuit.

    Citation Envoyé par tom_92
    - Possibilité de faire du scripting et/ou sauvegarder les traitements afin de pouvoir basculer un jour précis après les tests.
    Dans T.O.S., tu disposes d'une gestion de contextes (DEV, VABF, PRE-PROD, PROD...) permettant de rejouer tes jobs plusieurs fois avec différents paramètres (IP du SGBD...)

    Citation Envoyé par tom_92
    - Simple et souple (mais c'est peut être trop demander... )
    Tu indiques que tu as changé complètement ton modèle à 90%. De ce fait, tu vas avoir de nombreux mappings à écrire (ou plutot à dessiner ). Dans T.O.S. tu as un composant qui s'appelle le tMap qui te permet de mapper tes sources et tes destinations via un outil graphique grace à des Drag&Drop.

    De plus, T.O.S. te permettra de réccupérer simplement l'ensemble des structures de tes tables de base de données (via le MetadataManager)


    Pour que tu es un overview du produit, tu peux regarder les tutoriaux flash à l'adresse http://www.talend.com/tos/tutorials/menu.php
    Ensuite, il te reste à le télécharger la solution!

    ---
    Cordialement,
    Cédric Carbone
    Directeur Technique Talend
    Skype : cedriccarbone
    Mail : ccarbone(a)talend.com

    Cédric Carbone, Talend CTO
    Blog sur Talend, la Business Intelligence et l'intégration de données | Télécharger Talend Open Studio 3.2 / TOP 3.2
    Le forum Talend francophone | anglophone

    Actu : Offre d'emploi Consultants Talend |
    Tu as la réponse à ta question ? Clique sur en bas à gauche de ton message

Discussions similaires

  1. Insertion des images dans la bases et des données
    Par painouch21 dans le forum MS SQL Server
    Réponses: 1
    Dernier message: 29/04/2009, 17h26
  2. Transformer des données en code PHP
    Par eric41 dans le forum Langage
    Réponses: 2
    Dernier message: 18/09/2008, 22h35
  3. Structure de la base et des données
    Par faressam dans le forum Développement
    Réponses: 1
    Dernier message: 25/04/2008, 23h24
  4. Réponses: 3
    Dernier message: 07/06/2007, 10h49
  5. Réponses: 4
    Dernier message: 02/04/2007, 13h00

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo