Discussion :

[ihih45]

Bonjour,

Alors c'est très simple :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
nPeukert est un entier sans signe sur 1 octet
nPeukert=100*Val("1.15")
Trace(nPeukert)

j'obtiens 114 au lieu de 115 !

dans une boucle :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
nPeukert est un entier sans signe sur 1 octet
FOR i=0 TO 255
	nPeukert=100*Val(NumériqueVersChaîne(i/100))//nPeukert=100*Val("1.15")
	Trace(i+" "+nPeukert)
END

Plusieurs valeurs dont 57,57, 114, 230 ne donnent pas la bonne valeur.

Est-ce une grossière erreur de ma part ou un pb Windev ?

merci de vos lumières

Gilbert.

[Hibernatus34]

Bonjour,

Val va renvoyer un réel, qui est un type binaire.
1.15 n'existant pas en notation binaire finie, le réel contient une approximation (du genre 1.149999...).
Multiplié par 100, ça donne 114.9999...
Le cast d'un réel vers un entier fait une troncation, ce qui donne 114.

Ca peut paraître étrange, car tous les entiers jusqu'à 2^53 sont représentés exactement dans un réel, mais, manque de bol, on n'est pas tombé assez près.

Vous pouvez faire ceci :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

nPeukert = 0m100 * Val("1.15")

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

nPeukert = Arrondi(100 * Val("1.15"))

Dommage que :
- Le type Val ne renvoie pas un "numérique" (type décimal)
- Le type numérique est buggé de toute façon (cf. ce sujet)

[ihih45]

Merci bcp cher Hibernatus !

[Invité]

Code windev :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
nPeukert est un entier sans signe sur 1 octet
nPeukert=100*Val("1.15")
Trace(nPeukert)

à remplacer par :

Code windev :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
nPeukert est une chaîne
nPeukert=100*Val("1.15")
Trace(nPeukert)

Résultat : il semblerait que le type chaine soit le type le plus certain en wlangage, ça me fait penser que j'avais rencontré des anomalies en utilisant des variables de type de date (à l'époque où j'étais sous webdev 15), en passant par le type chaine, tout se passe à merveille.