IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

R Discussion :

Problème de RAM sur R (Rstudio) // Stockage de données


Sujet :

R

  1. #1
    Nouveau Candidat au Club
    Homme Profil pro
    Consultant CRM
    Inscrit en
    Octobre 2014
    Messages
    2
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 34
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant CRM
    Secteur : Conseil

    Informations forums :
    Inscription : Octobre 2014
    Messages : 2
    Points : 1
    Points
    1
    Par défaut Problème de RAM sur R (Rstudio) // Stockage de données
    Bonjour à tous,
    pour info j'utilise Rstudio v 0.98.1102 sur windows7 64bits avec 8Go de RAM

    Je souhaite savoir si il existe un moyen de stocker les données (Data frame) dans un répertoire sur le disque dur pendant l'utilisation de R ?

    D'après mes recherche sur le net, il semblerait que R garde les données (Data frame) sur la mémoire vive pendant l’exécution , ce qui pose un sérieux problème car je travail sur des tables volumineuses (10 millions de lignes) qui bouffent toute la RAM dispo, je voudrais donc savoir si c'est possible de faire en sorte que celles-ci soient stockées dans un répertoire du disque dur (comme dans la librairie work de SAS pour ceux qui l'utilisent).

    Merci

  2. #2
    Membre éclairé
    Homme Profil pro
    Ingénieur de recherche
    Inscrit en
    Janvier 2012
    Messages
    325
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur de recherche
    Secteur : Agroalimentaire - Agriculture

    Informations forums :
    Inscription : Janvier 2012
    Messages : 325
    Points : 888
    Points
    888
    Par défaut
    Tu as quand même essayé sur la RAM? 10 millions de lignes, ça peut encore passer je pense (selon le nombre de colonnes et le type de données).

    Sinon, il existe des packages qui ajoutent des classes similaires aux data frames mais utilisant le disque dur, mais je ne les ai jamais essayées, ayant accès à des serveurs de calculs avec assez de RAM pour mes gros calculs.

  3. #3
    Nouveau Candidat au Club
    Homme Profil pro
    Consultant CRM
    Inscrit en
    Octobre 2014
    Messages
    2
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Âge : 34
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Consultant CRM
    Secteur : Conseil

    Informations forums :
    Inscription : Octobre 2014
    Messages : 2
    Points : 1
    Points
    1
    Par défaut
    Merci pour ta réponse,
    Le problème c'est que je travail sur plusieurs tables avec un nombre élevé colonnes, et mon PC bug , je vais essayer de creuser la piste des "packages qui ajoute des classes similaires aux data frames"

  4. #4
    Membre à l'essai
    Profil pro
    Inscrit en
    Janvier 2008
    Messages
    16
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : Janvier 2008
    Messages : 16
    Points : 16
    Points
    16
    Par défaut
    Bonjour,

    je serai également intéressée par une solution à cette question.
    Après avoir fait un merge entre 2 dataframes.
    R affiche ce message d'erreur :
    "Error: cannot allocate vector of size 115.0 Mb"

    J'ai vu dans un autre forum : https://stat.ethz.ch/pipermail/r-hel...ry/151380.html
    Mais, je ne vois pas trop la solution...

    Merci de votre aide.
    Bonne journée.

  5. #5
    Membre actif
    Homme Profil pro
    Bioinformaticien
    Inscrit en
    Octobre 2008
    Messages
    126
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Autre

    Informations professionnelles :
    Activité : Bioinformaticien
    Secteur : Enseignement

    Informations forums :
    Inscription : Octobre 2008
    Messages : 126
    Points : 296
    Points
    296
    Par défaut
    Bonjour,
    Citation Envoyé par tarekl90 Voir le message
    ..Je souhaite savoir si il existe un moyen de stocker les données (Data frame) dans un répertoire sur le disque dur pendant l'utilisation de R ?...
    Il me semble que la bibliothèque ff correspond à ce que vous cherchez.

    Par ailleurs, merci de donner ces détails :
    Citation Envoyé par tarekl90 Voir le message
    ...pour info j'utilise Rstudio v 0.98.1102 sur windows7 64bits avec 8Go de RAM...
    Ça aurait été encore mieux si vous aviez donné la version de R ; j'ai en tête quelques autres packages mais j'ignore si votre version de R pourrait les supporter. Le moyen simple d'indiquer les caractéristiques de la machine est de donner les sorties de la fonction sessionInfo.

    Enfin, quel est le genre de traitements que vous appliquez à vos data frames ? Malgré la différence entre un data frame et une matrice, avez-vous envisagé d'adapter le problème à résoudre à des matrices creuses ? Pour chercher d'autres pistes, voir cette page : http://cran.r-project.org/web/views/...Computing.html.

Discussions similaires

  1. Problème d'information sur le stockage d'un Macbook Pro
    Par Mr_Crocky dans le forum Mac OS X
    Réponses: 1
    Dernier message: 02/08/2015, 20h14
  2. Problème fonctionnement ram sur CM compatible
    Par Kazuya76 dans le forum Composants
    Réponses: 2
    Dernier message: 14/08/2014, 11h17
  3. [CR] Problème de sélection sur un champ date
    Par noluc dans le forum SAP Crystal Reports
    Réponses: 2
    Dernier message: 21/11/2003, 16h56
  4. Problème avec RDTSC sur K6-III
    Par le mage tophinus dans le forum x86 32-bits / 64-bits
    Réponses: 17
    Dernier message: 30/09/2003, 09h43
  5. problème de float sur SQL server 2000.
    Par fidji dans le forum MS SQL Server
    Réponses: 9
    Dernier message: 24/07/2003, 14h15

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo