Discussion :

[girouxv]

Bonjour j'aurais besoin d'aide pour un petit problème.

Je suis entrain de refaire une série de calcul sql en c# pour décharger mon serveur, mais voilà je me rends compte que c# est beaucoup plus précis dans les calculs avec décimal. Par exemple:

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
En sql
select 21.5/129 
Retourne 0.166666

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
En C#
21.5/129
Retourne 0.166666666666666667

À la fin, ça joue de quelques millièmes voir centième, ce qui est acceptable, mais mon problème est que je dois valider mes nouveaux calculs avec d'ancien calculs. Il faut donc que mes calculs en C# soient pareils à sql
Donc:
21.5/129 = 0.166666

Ma solution que je n'aime pas vraiment est :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

Math.Truncate((21.5 / 129)*1000000)/1000000

*Je ne peux pas refaire les anciens calculs en sql.

[MetalGeek]

Salut,

essaie avec un float (dans ton exemple c'est implicitement un Double) :

21.5F / 129

[girouxv]

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
En C# 
21.5F / 129
retourne 0.1666667

[MetalGeek]

Bon,

si c'est juste pour tester tes résultats, tu peux feinter comme suit :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
 
var result = Math.Round(21.5D / 129, 6).ToString("###################.000000");
 
var commeSQL = double.Parse(result.Substring(0, result.Length - 1));

[girouxv]

Merci, mais ça fait un peut long, car j'ai plusieurs centaines lignes de calculs comme ça à corriger.

Je crois que je vais devoir rester avec ma merveilleuse solution ...

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

Math.Truncate((21.5 / 129)*1000000)/1000000

[MetalGeek]

Pour la longueur, tu n'as qu'à faire une fonction...
Par contre je suis d'accord que ce n'est pas tellement meilleur que ta solution première