IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Langage SQL Discussion :

Insertion ou mise à jour de données dans plusieurs tables depuis un fichier CSV


Sujet :

Langage SQL

  1. #1
    Candidat au Club
    Profil pro
    Inscrit en
    Avril 2007
    Messages
    2
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations forums :
    Inscription : Avril 2007
    Messages : 2
    Points : 2
    Points
    2
    Par défaut Insertion ou mise à jour de données dans plusieurs tables depuis un fichier CSV
    Bonjour à Tous, alors voici mon problème.

    Je dois réaliser un script en SQL qui me permette de mettre à jour ou d'insérer des nouvelles lignes dans plusieurs tables d'une base de données à partir d'un fichier *.csv sachant que ces insertions sont liés. Je m'explique:

    3 tables concernées par la MAJ ou l'insertion:

    Table1_camion:
    id
    numero_interne
    nom_camion
    site_id
    type_id
    ...


    Table2_site:
    id
    nom_site
    ...


    Table3_type:
    id
    type_camion
    ...


    les liens entre les tables sont donc:
    Table1_camion.site_id=Table2_site.id et Table1_camion.type_id=Table3_type.id

    Donc dans le cas d'un update (le camion existe déjà, repéré par son numéro interne) dans la table1 je dois faire une mise a jour des trois tables sachant que l'update doit toucher la table 1 en premier et ainsi de suite. Ce cas est le plus simple je dirai car les liens entre les trois tables existent déjà.

    Dans le cas d'un insert il suffit de prendre le max id de la première table (dernière création en date donc) et de le faire correspondre à la table suivante etc...

    Mon problème en fait est que je dois faire tous ça avec des données provenant d'un fichier *.csv et donc que je dois faire une mise à jour conditionnelle, c'est à dire si numéro interne existe déjà --> mise à jour sinon insertion nouvelles données. Mais avec l'instruction que je pensais utiliser, le MERGE, je ne vois pas comment je peux dans le cas de la mise à jour toucher les trois tables et dans le cas de l'insert faire des inserts successifs...

    Voilà j'espère avoir été assez clair. On utilise une base Oracle 9i ou 10 et je pensais me servir de SQL*Loader pour faire l'import depuis le fichier *.csv...

    Merci à tous.

  2. #2
    Modérateur

    Avatar de CinePhil
    Homme Profil pro
    Ingénieur d'études en informatique
    Inscrit en
    Août 2006
    Messages
    16 799
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 60
    Localisation : France, Haute Garonne (Midi Pyrénées)

    Informations professionnelles :
    Activité : Ingénieur d'études en informatique
    Secteur : Enseignement

    Informations forums :
    Inscription : Août 2006
    Messages : 16 799
    Points : 34 031
    Points
    34 031
    Billets dans le blog
    14
    Par défaut
    Importe ton ou tes fichiers CSV dans des tables provisoires.
    Ensuite, fais des requêtes pour extraire de tes tables provisoires les informations nécessaires à l'alimentation des tables définitives.

    Dans le cas présent, il faut d'abord importer les sites distincts et les types distincts existants dans les tables temporaires.

    Ensuite tu fais une jointure entre les tables temporaires et les tables définitives pour récupérer les id.

    Exemple :
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    INSERT INTO T_Camions(numero_interne, nom_camion, site_id, type_id)
    SELECT tmp.numero_interne, tmp.nom_camion, s.site_id, t.type_id
    FROM tabletemporaire tmp
    INNER JOIN T_Sites s ON tmp.nom_site = s.nom_site
    INNER JOIN T_Types t ON tmp.type_camion = t.type_camion
    Attention aux données pourries à vérifier avant dans les tables d'import !
    - des sites ou des types mal écrits qui peuvent générer des doublons (exemple de sites en doublon : Toulouse et Toulose)
    - des camions sans site ou sans type
    Philippe Leménager. Ingénieur d'étude à l'École Nationale Supérieure de Formation de l'Enseignement Agricole. Autoentrepreneur.
    Mon ancien blog sur la conception des BDD, le langage SQL, le PHP... et mon nouveau blog sur les mêmes sujets.
    « Ce que l'on conçoit bien s'énonce clairement, et les mots pour le dire arrivent aisément ». (Nicolas Boileau)
    À la maison comme au bureau, j'utilise la suite Linux Mageïa !

  3. #3
    Expert confirmé
    Profil pro
    Inscrit en
    Août 2008
    Messages
    2 947
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Août 2008
    Messages : 2 947
    Points : 5 846
    Points
    5 846
    Par défaut
    Salut,
    Je ne sais pas si c'est la meilleur solution, mais perso, je loaderais le fichier tel quel dans une table vrac (avec l'option truncate), puis je traiterais l'import avec des procédures stockées.

  4. #4
    Membre confirmé Avatar de Monstros Velu
    Homme Profil pro
    Développeur informatique
    Inscrit en
    Janvier 2003
    Messages
    619
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 44
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : Janvier 2003
    Messages : 619
    Points : 601
    Points
    601
    Par défaut
    Je confirme l'option de loader d'abbord dans une table.

    Voici comment je réalise les imports :

    1) charger le fichier tel quel dans une table, colonne par colonne. L'idéal étant d'avoir une table tblImportFile(id, filename, date) et une table tblImportItem(id, linenumberinfile, col1, col2, col3, ..., validationstatus, mergetype)
    2) vérifier les données, mettre le validation statud à jour ("rejected", "valid", "merged", éventuellement "manual check", etc...) et le merge type précisant si s'agit d'un update ou d'un insert
    3) réaliser le merge avec les insert et les updates. (Pour des raisons de perf, on peut faire les inserts et les updates par block de 500 lignes, mais c'est à adapter suivant les besoins)

  5. #5
    Candidat au Club
    Profil pro
    Inscrit en
    Avril 2007
    Messages
    2
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations forums :
    Inscription : Avril 2007
    Messages : 2
    Points : 2
    Points
    2
    Par défaut Ok merci
    Oki merci à tous ca m'a bien aidé... Par contre je suis maintenant confronté à une nouvelle situation d'import à partir d'un fichier csv. Je l'ai chargé dans une table import un peu à la manière que tu décrit Monstros velu. Par contre ce que je dois en faire est beaucoup plus compliqué. Je m'explique en prenant un exemple (ce n'est pas le meme cas qu'avant):

    Table_ressource:
    id
    ressource_type
    name
    numero_interne
    immatriculation
    ....


    Table_truck:
    id
    ressource_id (=table_ressource.id)
    reference
    ....


    Table_ressource_site:
    id
    ressource_id (=table_ressource.id)
    site_id
    ...



    et donc dans ma table import j'ai les champ ci-dessus mais dans une seule table:

    table_import:
    ressource_name
    immatriculation
    num_interne
    site_name
    reference
    ...


    Donc mon problème en fait c'est qu'à partir d'une table je dois faire des insertion dans 3 tables en même temps sachant qu'une ligne dans la table_import représente une ligne dans 3 tables différentes de l'autre côté...

    Merci pour votre aide.

  6. #6
    Modérateur

    Avatar de CinePhil
    Homme Profil pro
    Ingénieur d'études en informatique
    Inscrit en
    Août 2006
    Messages
    16 799
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 60
    Localisation : France, Haute Garonne (Midi Pyrénées)

    Informations professionnelles :
    Activité : Ingénieur d'études en informatique
    Secteur : Enseignement

    Informations forums :
    Inscription : Août 2006
    Messages : 16 799
    Points : 34 031
    Points
    34 031
    Billets dans le blog
    14
    Par défaut
    Il faut d'abord remplir la table ressource puis successivement les autres en faisant une jointure pour récupérer le ressource_id afin d'alimenter la clé étrangère.
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    INSERT INTO Table_truck(ressouce_id, reference, ...)
    SELECT r.id, i.reference
    FROM table_import i
    INNER JOIN table_ressource r ON i.immatriculation = r.immatriculation
    Philippe Leménager. Ingénieur d'étude à l'École Nationale Supérieure de Formation de l'Enseignement Agricole. Autoentrepreneur.
    Mon ancien blog sur la conception des BDD, le langage SQL, le PHP... et mon nouveau blog sur les mêmes sujets.
    « Ce que l'on conçoit bien s'énonce clairement, et les mots pour le dire arrivent aisément ». (Nicolas Boileau)
    À la maison comme au bureau, j'utilise la suite Linux Mageïa !

+ Répondre à la discussion
Cette discussion est résolue.

Discussions similaires

  1. importer les données dans une table depuis un fichier
    Par bennkabazz dans le forum PostgreSQL
    Réponses: 4
    Dernier message: 23/12/2008, 11h34
  2. Mise à jour de données dans une table
    Par Sixers33 dans le forum IHM
    Réponses: 20
    Dernier message: 03/10/2008, 15h59
  3. Mise à jour de données dans une table
    Par Stargate SG1 dans le forum Requêtes et SQL.
    Réponses: 2
    Dernier message: 17/04/2008, 18h38
  4. Réponses: 3
    Dernier message: 26/04/2006, 11h52
  5. Réponses: 7
    Dernier message: 12/10/2004, 16h43

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo