IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Excel Discussion :

Variable réelle de type single


Sujet :

Excel

  1. #1
    Membre confirmé
    Inscrit en
    Mai 2010
    Messages
    100
    Détails du profil
    Informations forums :
    Inscription : Mai 2010
    Messages : 100
    Par défaut Variable réelle de type single
    Bonjour à tous,

    J'ai fait une petite routine en Excel 2010 qui me permet de recopier des valeurs de type réel d'un tableau à un autre. Comme les nombres sont petits, j'utilise une variable tableau (car j'ai plusieurs valeurs liées entre elles) de type single.
    Le résultat est assez surprenant. En effet dans le tableau d'origine j'ai la valeur 110,75 par exemple et je retrouve dans le tableau d'arrivée une valeur comme 110,750000191234... !! Etonnant non ?
    Par curiosité j'ai modifié le type de ma variable en la passant en double. Là, ma valeur d'arrivée est correcte.

    Avez-vous constaté ce phénomène ?

    Merci d'avance.

  2. #2
    Membre Expert
    Homme Profil pro
    Inscrit en
    Décembre 2011
    Messages
    1 186
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations forums :
    Inscription : Décembre 2011
    Messages : 1 186
    Par défaut
    Bonsoir,

    Ce phénomène d'approximation de la représentation des nombres réels sous Excel (ou même tout autre système informatique) est un problème connu.

    En effet tout nombre est stocké sur un PC sous sa forme binaire.
    Et la conversion d'une valeur réelle sous sa forme binaire entraîne une approximation lié à la conversion au format binaire. (voir IEEE 784)
    Suivant le type Single ou Double , le nombre de bits utilisé pour représenter la valeur réelle change.
    Et plus il y a de bits pour représenter le nombre, moins l'erreur d'approximation est grande.
    Donc le type Double n'est pas seulement recommandé pour des calculs sur de grands nombres, mais également dès que la précision requise dépasse de 4 à 5 chiffres significatifs.
    (surtout que cette erreur se propage et peu s'amplifier lors de calculs)

    voir Sujet similaire

  3. #3
    Membre confirmé
    Inscrit en
    Mai 2010
    Messages
    100
    Détails du profil
    Informations forums :
    Inscription : Mai 2010
    Messages : 100
    Par défaut
    Bonjour BlueMonkey,

    Oui, je connais bien ce problème d'approximation mais c'est la première fois que je le constate pour des nombres somme toute relativement banals.
    C'est pour cela que je me demandais si Excel 2010 n'avait pas un petit soucis avec ce type de variable.

Discussions similaires

  1. variable de type single dans FormulaR1C1
    Par bbouling dans le forum Macros et VBA Excel
    Réponses: 4
    Dernier message: 30/04/2008, 15h25
  2. Variable Oracle de type number
    Par marti dans le forum Oracle
    Réponses: 1
    Dernier message: 16/08/2005, 11h04
  3. comment tester si une variable est de type indifined
    Par amelhog dans le forum Général JavaScript
    Réponses: 3
    Dernier message: 10/08/2005, 09h32
  4. [LG]Problême Variable dynamique de types différents
    Par pierrOPSG dans le forum Langage
    Réponses: 2
    Dernier message: 29/04/2004, 16h01
  5. Réponses: 4
    Dernier message: 05/06/2002, 14h35

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo