Discussion :

[LEK]

Bonjour, je bûche sur un problème où je dois travailler avec la valeur hexadécimale suivante :
9E3779B9

que j'ai noté dans mon code :

&H9E3779B9

or lorsque j'affiche la valeur en question je récupère la valeur : -1640531527

qui correspond à la valeur hexa : FFFFFFFF 9E3779B9
j'imagine que cela a à voir avec les nombres signés ou non. Mais est ce que quelqu'un pourrait m'expliquer comment m'y prendre pour traiter avec la valeur que je veux codé en hexa ?

[zazaraignée]

Salut

Tu l'as déclaré comme étant un Integer ou un Long ?

Long, surement. Un Long ne contient que quatre octets signés
(-2 147 483 648 to 2 147 483 647).
Ton nombre hexa (&H9E3779B9) représente 2 654 435 769 en décimal positif ce qui est au delà des capacités d'un long. Voilà pourquoi il te renvoie un entier négatifs. Le 32e bit (de droite à gauche) est un 1, donc tu as un nombre négatif!

En VB6! Sais pas pour VB.NET. En Delphi on a des Int64 (sur 64bits) qui semblent pouvoir afficher des entiers positifs un peu plus grands (un peu... Ha!) Ce n'est pas le cas de VB6, malheureusement.

[LEK]

un long, avec un integer je provoquerai une erreur de dépassement de capacité non ?

[zazaraignée]

J'ai édité mon message comme tu répondais...

J'ai pas l'impression de pouvoir t'aider d'avantage.

Désolée.

Y en a-t-il de plus cracs que moi qui connaissent une astuce ?

[LEK]

Ok c'est déjà un début d'explication
Je code effectivement en VB6...
Merci. Mais malheureusement, je ne vois toujours pas où cela me mène ...

[bhaal76]

effectivement, 9E3779B9 en hexa
valant en binaire 1001 1110 0011 0111 0111 1001 1011 1001
comme il considère un long sur -2 147 483 648 et 2 147 483 647
il estime donc que la valeur de ta variable est -1640531527

néantmoins, ce n'est qu'une interprétation décimal d'un nombre binaire, je ne vois pas ou est ton problème !!!

Qu'est-ce qui te gène ?

[LEK]

J'aurais souhaité affiché la valeur décimale réelle que ma valeur hexadécimale représentait et qui était : 2654435769.
Mais apparremment d'après ce que je comprend comme il n'y a pas un type de donnée ayant une capacité assez grande, la valeur qui m'est retournée est négative car lorsque l'on dépasse la capacité maximum en positif on reprend le décompte en commençant par la borne négative, c'est ça?

[Tofalu]

En effet, on a le droit à des erreurs de dépassement de capacité, tu peux par contre t'écrire une fonction qui transcrit un hexa en single

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
Function ConvertHex(strNb As String) As Single
Dim i As Integer
For i = 0 To Len(strNb) - 1
ConvertHex = ConvertHex + CInt("&H" & Mid(strNb, Len(strNb) - i, 1)) * (16 ^ i)
Next
End Function

[LEK]

Merci tofalu pour la fonction en effet elle me permet d'afficher approximativement le résultat que j'escomptais.

[zazaraignée]

Salut les mecs

Personnellement, je trouve un peu em...dant que VB ne permette pas de plus grande valeur de type Integer.

Chapeau Tofalu. J'enregistre ta fonction quelque part. On ne sait jamais, ça peut servir!