Bonjour,
J'ai besoin de faire des calculs sur des nombres avec 14 chiffres après la virgule. J'ai trouvé le module "Decimal".
Je ne sais pas comment convertir le résultat de mes calculs (qui a la précision par défaut du module Decimal : 32 chiffres décimaux) en une string ayant 14 chiffres décimaux.
De plus, j'ai l'erreur suivante :
Code : Sélectionner tout - Visualiser dans une fenêtre à part
1
2
3
4
5
6
7
8
9
10
11
12 >>> prec = Decimal(10) ** -14 >>> d= Decimal( '12.12345678901234567890') >>> print d.quantize(prec) Traceback (most recent call last): File "<stdin>", line 1, in ? File "/usr/local/lib/python2.4/decimal.py", line 1824, in quantize return self._rescale(exp._exp, rounding, context, watchexp) File "/usr/local/lib/python2.4/decimal.py", line 1870, in _rescale return context._raise_error(InvalidOperation, 'Rescale > prec') File "/usr/local/lib/python2.4/decimal.py", line 2267, in _raise_error raise error, explanation decimal.InvalidOperation: Rescale > prec
Dans la même lignée, quelle est la syntaxe pour faire une addition de décimaux. Je n'arrive pas à utiliser la méthode add() :merci
Code : Sélectionner tout - Visualiser dans une fenêtre à part
1
2
3
4
5
6 from decimal import * a=Decimal(2) b=Decimal(3) add(a,b) ??? decimal.add(a,b) ??? c.add(a,b) ???
Partager