Bonjour,
J'ai besoin de faire des calculs sur des nombres avec 14 chiffres après la virgule. J'ai trouvé le module "Decimal".
Je ne sais pas comment convertir le résultat de mes calculs (qui a la précision par défaut du module Decimal : 32 chiffres décimaux) en une string ayant 14 chiffres décimaux.
De plus, j'ai l'erreur suivante :
Code : Sélectionner tout - Visualiser dans une fenêtre à part
1
2
3
4
5
6
7
8
9
10
11
12
>>> prec = Decimal(10) ** -14
>>> d= Decimal( '12.12345678901234567890')
>>> print d.quantize(prec)
Traceback (most recent call last):
  File "<stdin>", line 1, in ?
  File "/usr/local/lib/python2.4/decimal.py", line 1824, in quantize
    return self._rescale(exp._exp, rounding, context, watchexp)
  File "/usr/local/lib/python2.4/decimal.py", line 1870, in _rescale
    return context._raise_error(InvalidOperation, 'Rescale > prec')
  File "/usr/local/lib/python2.4/decimal.py", line 2267, in _raise_error
    raise error, explanation
decimal.InvalidOperation: Rescale > prec

Dans la même lignée, quelle est la syntaxe pour faire une addition de décimaux. Je n'arrive pas à utiliser la méthode add() :
Code : Sélectionner tout - Visualiser dans une fenêtre à part
1
2
3
4
5
6
from decimal import *
a=Decimal(2)
b=Decimal(3)
add(a,b) ???
decimal.add(a,b) ???
c.add(a,b) ???
merci