IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Entrée/Sortie Java Discussion :

Buffering et gros fichier


Sujet :

Entrée/Sortie Java

Vue hybride

Message précédent Message précédent   Message suivant Message suivant
  1. #1
    Membre à l'essai
    Profil pro
    Inscrit en
    Décembre 2007
    Messages
    4
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Décembre 2007
    Messages : 4
    Par défaut Buffering et gros fichier
    J'ai un gros fichier à parser avec Regex/Pattern et j'ai pensé à utiliser
    StringBuffer ou CharBuffer qui implémentent CharSequence ?

    Je ne sais pas comment fonctionne le buffer sur un gros fichier d'un 1Go minimum par exemple. S'il n'a pas la place en mémoire pour stocker autant de données , s'occupe-t-il de la réallocation mémoire ou faut-il s'en charger ?

    Par ailleurs savez-vous pourquoi le CharBuffer est plus rapide qu'un StringBuffer sur les gros fichiers ?

    merci pour vos réponses

  2. #2
    Modérateur
    Avatar de dinobogan
    Homme Profil pro
    ingénieur
    Inscrit en
    Juin 2007
    Messages
    4 073
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 44
    Localisation : France

    Informations professionnelles :
    Activité : ingénieur
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Juin 2007
    Messages : 4 073
    Par défaut
    Salut,

    Citation Envoyé par jforks Voir le message
    J'ai un gros fichier à parser avec Regex/Pattern et j'ai pensé à utiliser
    StringBuffer ou CharBuffer qui implémentent CharSequence ?
    Je ne vois pas le rapport entre un CharSequence, qui est une interface, et un fichier...

    Je ne sais pas comment fonctionne le buffer sur un gros fichier d'un 1Go minimum par exemple. S'il n'a pas la place en mémoire pour stocker autant de données , s'occupe-t-il de la réallocation mémoire ou faut-il s'en charger ?
    Un StringBuffer n'a aucun lien avec un fichier. C'est un tableau monté en mémoire, à toi de le remplir comme tu le souhaite. Si tu remplis le buffer avec un milliard d'éléments, il y aura un milliard d'éléments en mémoire (la JVM n'appréciera pas du tout avec les options standards de lancements )

    Par ailleurs savez-vous pourquoi le CharBuffer est plus rapide qu'un StringBuffer sur les gros fichiers ?
    Ouhlala ! Tout d'abord, avec quelle implémentation de CharBuffer ? Ensuite, quelles sont les données de tests ? Les méthodes de bench ?



    Pour traiter un fichier volumineux, il est inutile et souvent impossible de le monté en mémoire. Il faut conserver un flux de lecture avec le moins de retour arrière possible. Regarde du côté du java.io.PushBackInputStream, c'est peut-être une solution.
    N'oubliez pas de consulter les FAQ Java et les cours et tutoriels Java
    Que la force de la puissance soit avec le courage de ta sagesse.

  3. #3
    Membre Expert
    Profil pro
    Fabrication GED
    Inscrit en
    Octobre 2005
    Messages
    1 405
    Détails du profil
    Informations personnelles :
    Âge : 46
    Localisation : France, Seine Maritime (Haute Normandie)

    Informations professionnelles :
    Activité : Fabrication GED

    Informations forums :
    Inscription : Octobre 2005
    Messages : 1 405
    Par défaut
    Une idée comme ça :
    Faire un mapping mémoire avec java.nio et créer une méthode appliquant la regex au MappedByteBuffer.
    ( ne fonctionnera qu'avec des fichiers de taille <= 2Go ).

Discussions similaires

  1. Buffer Optimal pour gros fichiers
    Par Orkhidion dans le forum C
    Réponses: 5
    Dernier message: 01/12/2009, 16h06
  2. buffer "par morceau" pour gros fichiers binaires
    Par Benoit_T dans le forum Langage
    Réponses: 11
    Dernier message: 09/11/2009, 10h58
  3. [JDOM] Gestion "gros fichiers"
    Par Haazheel dans le forum Format d'échange (XML, JSON...)
    Réponses: 10
    Dernier message: 17/10/2003, 13h42
  4. Un langage pour lire, traiter et écrire de gros fichiers
    Par March' dans le forum Langages de programmation
    Réponses: 19
    Dernier message: 07/04/2003, 15h26
  5. XML DOM et gros fichiers
    Par Manu_Just dans le forum APIs
    Réponses: 4
    Dernier message: 28/03/2003, 09h50

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo