IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Outils SQL Server Discussion :

chargement gros volume de donnees


Sujet :

Outils SQL Server

  1. #1
    Futur Membre du Club
    Inscrit en
    Octobre 2007
    Messages
    5
    Détails du profil
    Informations forums :
    Inscription : Octobre 2007
    Messages : 5
    Points : 6
    Points
    6
    Par défaut chargement gros volume de donnees
    Salut ,voici mon probleme

    je developpe une application sous dotnet 2005 avec c#
    dans laquelle je dois lire de gros volume de donnees et charger dans une base de donnees sous sql serveur.le probleme est que le chargement est extrement lent.j`ai donc opter pour la lecture a partir du DTS de sql serveur la ont quitte des heures aux secondes le probleme est que sur des milliers de lignes il existe quelques lignes mals formatees (nombre de colonne en plus ) parceque le separateur sense separer les colonnes du fichier est utilise dans l`information de certaines colonnes.donc je ne peux poursuivre avec cette option.

    je cherche donc une facon de coder pour resoudre ce probleme ou un outils optimiser pour cela.

    Merci

  2. #2
    Membre expérimenté

    Profil pro
    Inscrit en
    Août 2002
    Messages
    1 249
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Août 2002
    Messages : 1 249
    Points : 1 745
    Points
    1 745
    Par défaut
    vous pouvez peut être écrire une petite application c# qui formatte correctement le fichier txt. Vous écrivez alors un bat qui execute votre moulinette en amont du DTS...

  3. #3
    Rédacteur

    Avatar de SQLpro
    Homme Profil pro
    Expert bases de données / SQL / MS SQL Server / Postgresql
    Inscrit en
    Mai 2002
    Messages
    21 761
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Var (Provence Alpes Côte d'Azur)

    Informations professionnelles :
    Activité : Expert bases de données / SQL / MS SQL Server / Postgresql
    Secteur : Conseil

    Informations forums :
    Inscription : Mai 2002
    Messages : 21 761
    Points : 52 547
    Points
    52 547
    Billets dans le blog
    5
    Par défaut
    Laissez tomber DTS et passez à SSIS.

    Procédez à l'aide d'une table tampon :
    1) insertion des lignes du fichier dans une table tampon avec colonnes "libre" (toutes en VARCHAR, y compris, dates, numériques...) et aucune contrainte (sauf clef autoinc)
    2) corrigez vos données abérantes par des requêtes SQL encapsulées dans une procédure stockée
    3) une fois nettoyez procédez à l'alimentation de la table de destination par un INSERT INTO ... SELECT ...

    Cela s'appelle un ELT.

    A +
    Frédéric Brouard - SQLpro - ARCHITECTE DE DONNÉES - expert SGBDR et langage SQL
    Le site sur les SGBD relationnels et le langage SQL: http://sqlpro.developpez.com/
    Blog SQL, SQL Server, SGBDR : http://blog.developpez.com/sqlpro
    Expert Microsoft SQL Server - M.V.P. (Most valuable Professional) MS Corp.
    Entreprise SQL SPOT : modélisation, conseils, audit, optimisation, formation...
    * * * * * Expertise SQL Server : http://mssqlserver.fr/ * * * * *

Discussions similaires

  1. Réponses: 3
    Dernier message: 22/04/2009, 15h16
  2. Chargement gros volumes
    Par StitchP dans le forum MATLAB
    Réponses: 4
    Dernier message: 06/04/2007, 09h05
  3. Comparaison de fichiers très gros volume
    Par tanys dans le forum Shell et commandes GNU
    Réponses: 3
    Dernier message: 27/06/2006, 23h58
  4. Optimisation MySQL pour gros volumes
    Par barns dans le forum Requêtes
    Réponses: 8
    Dernier message: 01/10/2005, 11h28
  5. [Gros volume] Optimisations ?
    Par Grubshka dans le forum PostgreSQL
    Réponses: 6
    Dernier message: 21/04/2005, 10h50

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo