Précédent   Forum des professionnels en informatique > PHP > PHP & SGBD > PHP & MySQL
PHP & MySQL Forum d'entraide sur les fonctions MySQL avec PHP. Avant de poster -> FAQ MySQL, Cours MySQL et Sources MySQL. Pour les questions concernant le moteur MySQL plutôt que les fonctions PHP, merci d'utiliser le forum MySQL.
Partagez cette discussion sur d'autres réseaux sociaux : Viadeo Twitter Google Facebook Digg Delicious MySpace Yahoo
Réponse Proposer ce sujet en actualité
 
Outils de la discussion
Publicité
'
Vieux 26/12/2010, 21h55   #1
Invité de passage
 
Inscription : août 2009
Messages : 21
Détails du profil
Informations forums :
Inscription : août 2009
Messages : 21
Points : 1
Points : 1
Par défaut Imports de fichiers csv très volumineux

Bonsoir,

Je présente mon problème, j'ai des fichiers csv à importer dans une base MySQL. La taille varie de 100 Mo jusqu'à 2.7 Go.
L'environnement est Windows xp, WAMP (dernière version)
Je dois importer les fichiers csv sélectivement, çàd pour un fichier csv je ne veux pas prendre tous les champs pour ma base, seulement ce que j'en ai besoin, les tables étant crées avec phpmyadmin.
Je suis entrain de penser à faire un script PHP, mais avec cette solution j'ai peur que ça va être trop lent pour les fichiers volumineux, tous autre solution plus performante sera le bienvenu.

Aussi je demande un exemple simple d'import csv fonctionnel.

Une fois mon import csv réussi et le plus rapidement possible, je dois automatiser ceci sous Windows (j'en ai des fichiers csv quotidien que je dois traiter), et ici je demande qu'elles sont les solutions possibles sous Windows.

Merci pour vos réponses.
kazabandi est déconnecté   Envoyer un message privé Réponse avec citation 00
Vieux 26/12/2010, 22h58   #2
Modérateur
 
Inscription : septembre 2010
Messages : 7 101
Détails du profil
Informations forums :
Inscription : septembre 2010
Messages : 7 101
Points : 8 466
Points : 8 466
l'import de CSV se fait avec LOAD DATA
http://dev.mysql.com/doc/refman/5.0/fr/load-data.html

si t'es les droits sur FILES c'est qu'il faut utiliser pour importer tes CSV
__________________
http://blog.stealth35.com/
stealth35 est déconnecté   Envoyer un message privé Réponse avec citation 00
Vieux 27/12/2010, 17h24   #3
Membre Expert
 
Inscription : avril 2006
Messages : 1 338
Détails du profil
Informations personnelles :
Localisation : France, Haute Garonne (Midi Pyrénées)

Informations forums :
Inscription : avril 2006
Messages : 1 338
Points : 1 315
Points : 1 315
j'ai eu la meme problematique voila comme j'ai procédé:

un scrip php générale qui tourne en tache planifié pour traitement de nuit:

1ere phase rapatriement des csv chaques jours avec rajout de la date pour historisation des fichiers si besoin: (nom_de_fichier.csv deviens nom_de_fichier_JJMMAAAA.csv) --> en wget bourrin mais efficace

2eme phase chargement des csv dans des tables tampons qui ont exactement meme colonne que le csv --> Load data infile comme stealth te le dit

3eme phase agrégation dans ma base finale puis destruction des tables tampons --> la tu peux soit faire des triggers sql soit script php
__________________
Stay in Bed .. Save Energy
boo64 est déconnecté   Envoyer un message privé Réponse avec citation 00
Réponse Proposer ce sujet en actualité
Outils de la discussion



Fuseau horaire GMT +2. Il est actuellement 09h45.


 
 
 
 
Partenaires

Hébergement Web