IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Entrée/Sortie Java Discussion :

Lecture d'un gros fichier (jusqu a 300 Mo)


Sujet :

Entrée/Sortie Java

Vue hybride

Message précédent Message précédent   Message suivant Message suivant
  1. #1
    Membre éclairé
    Étudiant
    Inscrit en
    Avril 2008
    Messages
    311
    Détails du profil
    Informations professionnelles :
    Activité : Étudiant

    Informations forums :
    Inscription : Avril 2008
    Messages : 311
    Par défaut Lecture d'un gros fichier (jusqu a 300 Mo)
    Bonsoir,
    dans le cadre d'un projet, je dois utiliser des fichiers.
    J'ai un petit soucis avec ma classe de lecture de fichier. Je l'ai implémenté, elle fonctionne sur des petits fichiers... Mais quand je m'attaque à un gros fichier ( 300 Mo), je reçois une méchante exception OutOfMemory...

    Voici ma classe :
    Code : Sélectionner tout - Visualiser dans une fenêtre à part
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
     
    import java.io.* ;
    public class LectureFichier {
    	public static String read(String filename) throws IOException {
    	BufferedReader in = new BufferedReader(new FileReader(filename)) ;
    	String s ;
    	StringBuilder sb = new StringBuilder() ;
    	while ((s = in.readLine()) != null){
    	sb.append(s + "\n") ;
    	}
    	in.close() ;
    	return sb.toString() ;
    	}
     
    }
    Je mets tout simplement tout le contenu de mon fichier dans une variable après avoir instanciée ma classe.

    Et voici l'exception :
    Exception in thread "main" java.lang.OutOfMemoryError: Java heap space
    at java.util.Arrays.copyOf(Unknown Source)
    at java.lang.AbstractStringBuilder.expandCapacity(Unknown Source)
    at java.lang.AbstractStringBuilder.append(Unknown Source)
    at java.lang.StringBuilder.append(Unknown Source)
    at LectureFichier.read(LectureFichier.java:8)
    at ProgrammeDeTest.main(ProgrammeDeTest.java:74)
    Cela ne peut pas venir de mon PC car avec mon Go de ram libre, ça doit passer...

    Avez vous une idée ? Une solution ?

    Merci par avance.
    Cordialement,
    Tid.

  2. #2
    Expert éminent
    Avatar de tchize_
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    Avril 2007
    Messages
    25 482
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 46
    Localisation : Belgique

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Avril 2007
    Messages : 25 482
    Par défaut
    http://java.developpez.com/faq/java/...ParApplication

    regarde du coté des péramètres xmx pour augmenter la taille mémoire de la jm: http://jmdoudoux.developpez.com/cour...-jvm.php#jvm-6

  3. #3
    Membre éclairé
    Inscrit en
    Juin 2006
    Messages
    570
    Détails du profil
    Informations forums :
    Inscription : Juin 2006
    Messages : 570
    Par défaut
    Ou essais plutôt, si tu as la possibilité, de traiter groupe de lignes par groupe de lignes.

  4. #4
    Membre éclairé
    Étudiant
    Inscrit en
    Avril 2008
    Messages
    311
    Détails du profil
    Informations professionnelles :
    Activité : Étudiant

    Informations forums :
    Inscription : Avril 2008
    Messages : 311
    Par défaut
    [Edit]
    Effectivement, en travaillant ligne par ligne, le programme tourne plus vite.
    Malheureusement j'ai toujours l'exception, c'est un peu génant... mais c'est peut être pour ça que ma structure de données doit être changé.

    Merci !
    @+,
    Tid.

  5. #5
    Modérateur
    Avatar de dinobogan
    Homme Profil pro
    ingénieur
    Inscrit en
    Juin 2007
    Messages
    4 073
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 44
    Localisation : France

    Informations professionnelles :
    Activité : ingénieur
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Juin 2007
    Messages : 4 073
    Par défaut
    Citation Envoyé par Tidus159 Voir le message
    Malheureusement j'ai toujours l'exception, c'est un peu génant... mais c'est peut être pour ça que ma structure de données doit être changé.
    Il ne faut absolument pas mettre tout le fichier en mémoire. C'est long et inutile.
    Utilise à la place un BufferedReader et la méthode read sur un tableau de char.
    Tu vas lire le fichier par paquet de caractères, et tu vas construire le mot courant dans un StringBuilder. Lorsque le mot est entier, tu sauves le mot la ou tu veux, tu vide le StringBuilder et tu continues jusqu'à lire tout le fichier.
    L'avantage de cette méthode est que tu peux lire des fichiers de taille potentiellement infinie (si on met de côté les limites système).
    N'oubliez pas de consulter les FAQ Java et les cours et tutoriels Java
    Que la force de la puissance soit avec le courage de ta sagesse.

  6. #6
    Invité
    Invité(e)
    Par défaut
    Ou regarde du côté de NIO, plus précisement des "Memory-Mapped I/O" et de MappedByteBuffer

+ Répondre à la discussion
Cette discussion est résolue.

Discussions similaires

  1. lecture de (très) gros fichiers texte
    Par Paul18 dans le forum Scilab
    Réponses: 7
    Dernier message: 14/06/2011, 22h05
  2. [XPATH 1.0] Temps de lecture d'un "gros" fichier XML
    Par Ikki_2504 dans le forum XSL/XSLT/XPATH
    Réponses: 10
    Dernier message: 14/01/2011, 18h27
  3. [XML] Lecture d'assez gros fichiers XML
    Par jeronimo83 dans le forum Bibliothèques et frameworks
    Réponses: 1
    Dernier message: 19/02/2010, 18h26
  4. Optimiser lecture d'un gros fichier
    Par n8ken dans le forum Entrée/Sortie
    Réponses: 0
    Dernier message: 17/09/2009, 11h14
  5. Optimisation de la lecture de tres gros fichiers
    Par Lydie dans le forum C++Builder
    Réponses: 4
    Dernier message: 12/07/2004, 14h09

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo