Discussion :

[Gualino]

Bonsoir à tous,

Voilà en fait j'ai une boucle de calcul qui ne converge pas, je pense que cela vient du fait que certaine valeur entrant dans ce calcul sont arrondi.

L'arrondi est fait au niveau du getter de la propriété, elle même bindé à une textbox pour afficher le résultat avec un ou deux décimaux.
Or ma boucle de calcul qui comprend ces valeurs à une tolérance de l'ordre du millième.

Comment faire pour arrondir la valeur pour la textbox et la garder brut pour le calcul?

C'est manifestement impossible avec Round, je pensais que FomatNumber ferait l'affaire mais il semble que non.

Merci d'avance.

[Pol63]

salut

il aurait été judicieux tu nous donner le type de tes variables et éventuellement un bout de code (qui ressemble si tu ne veux pas donner le vrai)

les single et double sont connus pour causer des problèmes d’arrondis, le type décimal est plus approprié

[Gualino]

Ce sont des doubles

Pour le code, entre autre:

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
   Public ReadOnly Property ProportionOfElasticWeightTransferInRoll_Rear As Double
        Get
            Return Round(CalculateProportionOfElasticWeightTransferInRoll(ElasticWeightTransferInRoll_Rear, GeometricWeightTransferInRoll_Rear), 1)
        End Get
    End Property

[Pol63]

utilise donc des decimal

l'explication est ici : http://www.developpez.net/forums/d81...-correctement/

[Gualino]

Désolé mais je ne vois pas en quoi cela change la donne sur le fait d'afficher la valeur dans la textbox avec deux décimaux et l'employer brut dans un autre calcul.

[Pol63]

le code que tu nous as mis n'est pas le code d'un calcul mais d'un round

ca ne coute rien de faire un replace de double en decimal et de voir si le problème persiste