Discussion :

[weebo]

Hello,

Je me pose une question (peut-être qu'il existe une réponse simple ), voilà mon cas :
Je cherche à convertir en hexadécimal une valeur entière (bigint) et j'ai fait plusieurs tests, dont celui-ci qui me laisse perplexe :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

SELECT CONVERT(bigint, 0xFFFFFFFF)

=> 4294967295 (parfait, logique c'est la valeur maximale sur 4 octets)

Maintenant si je fais l'inverse pour retrouver ma valeur hexadécimal :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

SELECT CONVERT(varbinary(4), 4294967295)

=> 0x0A000001 alors que je m'attendais à avoir 0xFFFFFFFF

Du coups j'ai poussé à 8 octets :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

SELECT CONVERT(varbinary(8), 4294967295)

=> 0x0A000001FFFFFFFF je ne comprends pas !

Maintenant en castant ma valeur en bigint, j'obtiens le bon résultat :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

SELECT CONVERT(varbinary(4), CAST(4294967295 AS bigint))

=> 0xFFFFFFFF


Du coup la question est : Comment le moteur SQL interprète t il la valeur brute 4294967295 ??

[SQLpro]

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

SELECT CONVERT(BINARY(4), CAST(4294967295 AS BIGINT))

L'hexadécimal se lit à l'envers des nombre donc faire attention à l'alignement découlant du format du nombre… => BIGINT !

A +

[weebo]

L'hexadécimal se lit à l'envers des nombre donc faire attention à l'alignement découlant du format du nombre… => BIGINT !

Ok mais ça ne répond pas à la question ... ou alors je n'ai pas compris

Si je ne fais pas de CONVERT en BIGINT, la valeur hexa n'est pas la même.
La valeur 4294967295 devrait tout le temps renvoyer FFFFFFFF sur 4 octets (peut importe l'ordre)
Si la conversion se fait sur 8 octets : 0x00000000FFFFFFFF, ça restera toujours FFFFFFFF avec les 0 à gauche.

Hors sans CONVERT, je me retrouve avec 0x0A000001FFFFFFFF
Pourquoi ?
Et si je fais l'inverse :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

SELECT CONVERT(bigint, 0x0A000001FFFFFFFF)

=> 720575948969213951

[SQLpro]

As tu essayé le code que je t'ai donné ?

Ta question était :

Je cherche à convertir en hexadécimal une valeur entière (bigint)

la réponse que je t'ai apportée est la bonne :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

SELECT CONVERT(BINARY(4), CAST(4294967295 AS BIGINT))

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

0xFFFFFFFF

La conversion inverse étant :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

SELECT CAST(0xFFFFFFFF AS bigint)

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

4294967295

Comme je te l'ai dit, IL FAUT TRAVAILLER LES CONVERSIONS DE TYPE ENTIER VERS HEXADECIMAL EN BIGINT en non en INT. Rien n'empêche un INT de recevoir uin BIGINT s'il est inférieur au max du INT.

A +

[weebo]

Oui j'ai compris qu'il fallait obligatoirement forcer en BigInt pour une conversion Hexa.
Du coup la question que je me pose, c'est en quoi il converti ma valeur "4294967295" sans CAST ni CONVERT ?
Comment SQL l'interprète t il ?