IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

C Discussion :

Problème de mémoire, pointeurs sur fichier


Sujet :

C

Vue hybride

Message précédent Message précédent   Message suivant Message suivant
  1. #1
    Membre averti
    Profil pro
    Inscrit en
    Avril 2006
    Messages
    45
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Avril 2006
    Messages : 45
    Par défaut Problème de mémoire, pointeurs sur fichier
    salut à tous,
    la mémoire allouée à mon programme semble exploser alors que, théoriquement, elle devrait être bornée (et raisonnable).
    après pas mal de tests et un petit coup de valgrind dessus qui ne me rapporte pas de fuite mémoire je commence a saturer.
    est ce que ca pourrait venir de pointeurs sur des fichiers. je m'explique : j'ai un millier de fichiers ouverts en permanence en mode "a+", et ces fichiers peuvent faire jusqu'à une 10 mega chacun.
    pensez vous que ca pourrait venir de la?

    merci

  2. #2
    Expert confirmé

    Inscrit en
    Août 2006
    Messages
    3 967
    Détails du profil
    Informations forums :
    Inscription : Août 2006
    Messages : 3 967
    Par défaut
    Jio,

    Un millier de fichiers ouverts en permanence, ça me paraît bien excessif.

  3. #3
    Expert confirmé

    Profil pro
    Inscrit en
    Janvier 2007
    Messages
    10 610
    Détails du profil
    Informations personnelles :
    Âge : 67
    Localisation : France

    Informations forums :
    Inscription : Janvier 2007
    Messages : 10 610
    Billets dans le blog
    2
    Par défaut
    de plus il existe une limite système au nombre de fichier ouverts en permanence, sans oublier une limite soft (en général de l'ordre de 1024).

    Si tu es sur linux, voici des FAQ :

    http://kbase.redhat.com/faq/FAQ_80_1540.shtm

    http://www.cyberciti.biz/faq/linux-i...of-open-files/

    http://www.x-tend.be/~stijn/blog/?p=3

  4. #4
    Membre Expert
    Avatar de muad'dib
    Homme Profil pro
    Développeur Java
    Inscrit en
    Janvier 2003
    Messages
    1 013
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 43
    Localisation : France, Loire Atlantique (Pays de la Loire)

    Informations professionnelles :
    Activité : Développeur Java
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Janvier 2003
    Messages : 1 013
    Par défaut
    Citation Envoyé par droggo
    Jio,

    Un millier de fichiers ouverts en permanence, ça me paraît bien excessif.
    +1

    Tu comptes ~ 1000 fichiers à ~ 10 mo chacun = ~ 10 000 mo = ~ 10 Go en mémoire !!!

    PS: droggo, ça veut dire quoi Jio ?

  5. #5
    Expert confirmé

    Profil pro
    Inscrit en
    Janvier 2007
    Messages
    10 610
    Détails du profil
    Informations personnelles :
    Âge : 67
    Localisation : France

    Informations forums :
    Inscription : Janvier 2007
    Messages : 10 610
    Billets dans le blog
    2
    Par défaut
    Citation Envoyé par muad'dib
    Tu comptes ~ 1000 fichiers à ~ 10 mo chacun = ~ 10 000 mo = ~ 10 Go en mémoire !!!
    Attention.. Il n'a pas dit qu'il les mettait en mémoire... Juste qu'il les ouvrait...

  6. #6
    Expert confirmé

    Inscrit en
    Août 2006
    Messages
    3 967
    Détails du profil
    Informations forums :
    Inscription : Août 2006
    Messages : 3 967
    Par défaut
    Sia,
    Citation Envoyé par muad'dib
    PS: droggo, ça veut dire quoi Jio ?
    Absolument rien de spécial.

    J'ai simplement l'habitude d'écrire un petit mot de 3 lettres au début de chaque message, quasiment toujours 1 consonne + 2 voyelles, lettres variables en fonction de l'humeur du moment, le tout pour dire "bonjour".

  7. #7
    Membre Expert
    Avatar de muad'dib
    Homme Profil pro
    Développeur Java
    Inscrit en
    Janvier 2003
    Messages
    1 013
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 43
    Localisation : France, Loire Atlantique (Pays de la Loire)

    Informations professionnelles :
    Activité : Développeur Java
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Janvier 2003
    Messages : 1 013
    Par défaut
    Citation Envoyé par droggo
    le tout pour dire "bonjour".
    Ok, et pour faire parler les curieux comme moi

  8. #8
    Membre averti
    Profil pro
    Inscrit en
    Avril 2006
    Messages
    45
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Avril 2006
    Messages : 45
    Par défaut
    merci pour vos réponses.
    mais pensez vous qu'une structure de type FILE puisse occuper bcp de mémoire?
    j'imagine que des fonctions fread ou fwrite bufferisent les données afin d'optimiser les accès disque alors je me demande si de nombreux pointeurs FILE ouvert sur des gros fichier ne pourrait pas expliquer la mémoire importante consommée par mon prog.

  9. #9
    Expert éminent
    Avatar de Emmanuel Delahaye
    Profil pro
    Retraité
    Inscrit en
    Décembre 2003
    Messages
    14 512
    Détails du profil
    Informations personnelles :
    Âge : 68
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Retraité

    Informations forums :
    Inscription : Décembre 2003
    Messages : 14 512
    Par défaut
    Citation Envoyé par qouify
    <...>j'ai un millier de fichiers ouverts en permanence en mode "a+"<...>
    STOP ! Conception à la gomme. A revoir.

  10. #10
    Membre averti
    Profil pro
    Inscrit en
    Avril 2006
    Messages
    45
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Avril 2006
    Messages : 45
    Par défaut
    tu peux développer un peu stp?

  11. #11
    Expert confirmé

    Profil pro
    Inscrit en
    Janvier 2007
    Messages
    10 610
    Détails du profil
    Informations personnelles :
    Âge : 67
    Localisation : France

    Informations forums :
    Inscription : Janvier 2007
    Messages : 10 610
    Billets dans le blog
    2
    Par défaut
    Ce qu'Emmanuel veut dire, et ça se confirme à l'exposé du code et du problème (ce qu'on disait depuis le début), c'est que ta conception de l'algorithme est erronée...

    • Primo, si chaque fichier contient M mots de N caractères, pourquoi ne sont-ils pas regroupés en un seul ?
    • Secondo, si ce sont des fichiers séparés, pourquoi ne pas compter le nombre de fichiers avant de les ouvrir, et faire une allocation dynamique au lieu de déclarer FILES=1000 ?
    • Tertio, en admettant que ce soit cette construction-là, pourquoi ne pas lire les fichiers dans l'ordre, et stocker les mots dans la structure, et refermer les fichiers une fois les mots lus ?
    • Quarto, si il faut se souvenir dans quel fichier ils étaient, il suffit de rajouter un indice dans la structure...
    • Quinto, tes fonctions, en particulier _insert, fait un free de tree qui me semble hautement suspicieux....


    En conclusion, pour développer un peu ce qu"Emmanuel disait :

    • reprends sur le papier, en écriture, ce que tu veux faire
    • déduis-en l'algo
    • re-code
    • demande de l'aide, éventuellement


    Mais tu n'as CERTAINEMENT pas besoin d'avoir tes 1000 fichiers ouverts pour faire ce que tu veux faire...

  12. #12
    Membre averti
    Profil pro
    Inscrit en
    Avril 2006
    Messages
    45
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Avril 2006
    Messages : 45
    Par défaut
    merci je vais revoir l'algo

+ Répondre à la discussion
Cette discussion est résolue.

Discussions similaires

  1. Réponses: 2
    Dernier message: 26/02/2014, 07h33
  2. Fuite mémoire pointeur sur une structure bpf_program
    Par maestro_mirou dans le forum Débuter
    Réponses: 10
    Dernier message: 17/03/2012, 08h47
  3. [XL-2007] Problème de requete SQL sur fichiers xls/csv
    Par Cyborg dans le forum Macros et VBA Excel
    Réponses: 1
    Dernier message: 27/10/2011, 17h35
  4. [Espace mémoire] - pointeurs sur 4 octets
    Par L. Sierra dans le forum C++
    Réponses: 6
    Dernier message: 22/04/2007, 16h09
  5. Problème d'E.S. sur fichier avec open
    Par Bubonik software dans le forum C
    Réponses: 6
    Dernier message: 04/02/2004, 19h42

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo