IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

R Discussion :

De gros lots de données traités de façon incrémentielle => R s'emballe


Sujet :

R

  1. #1
    Membre actif
    Profil pro
    Inscrit en
    Mai 2005
    Messages
    465
    Détails du profil
    Informations personnelles :
    Âge : 41
    Localisation : France

    Informations forums :
    Inscription : Mai 2005
    Messages : 465
    Points : 287
    Points
    287
    Par défaut De gros lots de données traités de façon incrémentielle => R s'emballe
    Bonjour,


    Je traite des lots de données spatialisées répartis par thématiques et découpés par départements que j'agrège au niveau régional grâce à rgdal.

    Le script traite chaque lot un à un de façon incrémentielle au sein d'une boucle jusqu'à ce que toutes les thématiques aient été traitées.

    A chaque passage de boucle et donc de thématique, l'objet agrégat régional est remplacé par le nouveau, correspond à son thème.

    Le problème que je rencontre est lié aux performances. Au bout d'un certain temps, d'un certain nombre de passages de boucle, le logiciel ralentit, s'interrompt, jusqu'à planter.

    Lorsque je redémarre R sur le dernier lot traité, alors le traitement se fait sans ralentissement. Mais aux prochains lots, la lenteur se fait à nouveau sentir..

    Auriez-vous des pistes afin de pallier à ce ralentissement ?


    Bien cordialement.

  2. #2
    ced
    ced est déconnecté
    Rédacteur/Modérateur

    Avatar de ced
    Homme Profil pro
    Gestion de bases de données techniques
    Inscrit en
    Avril 2002
    Messages
    6 016
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 48
    Localisation : France, Loiret (Centre)

    Informations professionnelles :
    Activité : Gestion de bases de données techniques
    Secteur : Agroalimentaire - Agriculture

    Informations forums :
    Inscription : Avril 2002
    Messages : 6 016
    Points : 23 705
    Points
    23 705
    Par défaut
    Ah ! R et les gros volumes de données...
    As-tu déjà exploré les pistes de suppression des objets inutiles en fin de boucle, puis un bon gc() avant de repartir dans la boucle suivante ?
    Rédacteur / Modérateur SGBD et R
    Mes tutoriels et la FAQ MySQL

    ----------------------------------------------------
    Pensez aux balises code et au tag
    Une réponse vous a plu ? N'hésitez pas à y mettre un
    Je ne réponds pas aux questions techniques par message privé, les forums sont là pour ça

  3. #3
    Membre actif
    Profil pro
    Inscrit en
    Mai 2005
    Messages
    465
    Détails du profil
    Informations personnelles :
    Âge : 41
    Localisation : France

    Informations forums :
    Inscription : Mai 2005
    Messages : 465
    Points : 287
    Points
    287
    Par défaut
    Bonjour,

    Et merci pour la réponse.

    Non, je n'ai jamais essayé.

    En gros, tu proposes d'utiliser un rm des objets inutiles puis un gc() ?

  4. #4
    ced
    ced est déconnecté
    Rédacteur/Modérateur

    Avatar de ced
    Homme Profil pro
    Gestion de bases de données techniques
    Inscrit en
    Avril 2002
    Messages
    6 016
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 48
    Localisation : France, Loiret (Centre)

    Informations professionnelles :
    Activité : Gestion de bases de données techniques
    Secteur : Agroalimentaire - Agriculture

    Informations forums :
    Inscription : Avril 2002
    Messages : 6 016
    Points : 23 705
    Points
    23 705
    Par défaut
    Oui, c'est bien ça. Ça devrait éviter l'augmentation d'utilisation de mémoire au fur et à mesure des boucles.
    Rédacteur / Modérateur SGBD et R
    Mes tutoriels et la FAQ MySQL

    ----------------------------------------------------
    Pensez aux balises code et au tag
    Une réponse vous a plu ? N'hésitez pas à y mettre un
    Je ne réponds pas aux questions techniques par message privé, les forums sont là pour ça

  5. #5
    Membre actif
    Profil pro
    Inscrit en
    Mai 2005
    Messages
    465
    Détails du profil
    Informations personnelles :
    Âge : 41
    Localisation : France

    Informations forums :
    Inscription : Mai 2005
    Messages : 465
    Points : 287
    Points
    287
    Par défaut
    ok merci beaucoup pour l'aide !

Discussions similaires

  1. [Recherche texte sur gros volume de données]
    Par tesla dans le forum Algorithmes et structures de données
    Réponses: 8
    Dernier message: 21/02/2007, 13h43
  2. Structure de données pour gros volume de données
    Par white_angel_22 dans le forum Langage
    Réponses: 9
    Dernier message: 01/02/2007, 11h58
  3. Réponses: 4
    Dernier message: 30/01/2007, 14h42
  4. Pb gros import de données sur un serveur mutualisé
    Par yakalfer dans le forum SQL Procédural
    Réponses: 1
    Dernier message: 17/09/2006, 13h20
  5. Gérer le gros volume de données
    Par berceker united dans le forum Décisions SGBD
    Réponses: 2
    Dernier message: 21/07/2006, 19h29

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo