Discussion :

[dug]

Bonjour,

je cherche à insérer une valeur très grande, retourné par la fonction HASH().

voilà une valeur que me retourne la fonction HASH:
728346208491277952

lorsque je rajoute dans une table avec un champs de type DOUBLE PRECISION, voilà ce que contient la colonne:
728346208491277950.000000

quelqu'un a une idée pour ce problème ?
perso, je trouve étonnant de pouvoir insérer une valeur qui sera tronqué, sans erreur du INSERT... non ?


PS:
- j'utilise FlameRobin pour faire mes requêtes, et FireBird v2.1.1 sous WinXP.

[makowski]

normal, DOUBLE PRECISION est un flottant

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
SELECT CAST(728346208491277952 AS NUMERIC(18,0))-CAST(728346208491277951 AS NUMERIC(18,0)),
 CAST(728346208491277952 AS DOUBLE PRECISION)-CAST(728346208491277951 AS DOUBLE PRECISION) 
FROM RDB$DATABASE;
 
             SUBTRACT                SUBTRACT 
===================== ======================= 
                    1       0.000000000000000

[dug]

ok ok...

bon ben, on va dire que la fonction HASH() retourne un NUMERIC(18).
Je vais changer mon code, mais à priori, le hash retourne bien le numeric le plus grand possible. (=> mon code fonctionne )

bizarre tout de même c'est insertion et cast qui tronque le dernier digit...

en tout cas, merci encore Philippe

[makowski]

Non ce n'est pas bizarre , c'est la définition même des float
ils ont une fenêtre de précision de 7 digits