[VBA Excel]Nombre hexa trop grand ?

**rtg57** · 06/12/2008, 14h49

Bonjour,

j'effectue une opération logique XOR entre un nombre valant &H01FFFFFF et d'autres nombres:

Pour &H01FFFFFF XOR un nombre inférieur à &H8000, tout va bien.

Pour &H01FFFFFF XOR un nombre supérieur à &H8000, j'obtiens des résultats négatifs.

Je pense que cela est dû à une limitation de capacité de bits.
Même en faisant:

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

&H01FFFFFF xor CLng(&H8000)

cela ne fonctionne pas. Pourtantque CLng représente un nombre sur 4 octets.

J'ai même essayé du :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

CDbl(&H01FFFFFF) xor CDbl(&H8000)

ou du :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

Cdbl( CDbl(&H01FFFFFF) xor CDbl(&H8000) )

...sans succès

C'est quoi l'astuce ?

**pgz** · 06/12/2008, 15h59

Bonjour.

Comme tu l'as dit, les entiers long sont codés sur 4 octets. Donc une opération comme &H01FFFFFF xor &H80000000 est tout à fait possible.

Mais si tu ranges le résultat dans un entier court (2 octets)...

Par exemple

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
Sub essai()
Dim i As Integer
 
ActiveSheet.Range("A1") = (&H1FFFFFF Xor &H1000000)
i = &H8001
ActiveSheet.Range("A2") = i
End Sub

vadonner pour résultat 16777215 et -32767. Pourquoi -32767? parce que pour un entier les nombres supérieurs à &H8000 sont les nombres négatifs!

PGZ

**rtg57** · 07/12/2008, 09h23

Merci pour ces réponses,

Pgz, mon post précise bien que j'ai fais les opérations avec des nombres de type Long (sur 4 octets) et type Double (sur 8 octets). Là où je n'ai pas été assez détaillé, c'est que je range ces résultats dans des variables de même longueur. Alors que dans votre exemple, vous travaillez avec un Integer sur 2 octets.

Bref, j'en suis toujours au même point

D'autres idées ?

**JackOuYA** · 07/12/2008, 10h11

Bonjour, rtg57...

j'ai pas la solution mais regarde, un petit jeu dans la fenêtre éxécution

? &h8000
-32768
?&hFFFF8000
-32768
?hex(-32768)
FFFF8000
?hex(&h8000)
8000

(les valeurs en bleu sont les commande saisie , en noir le résultat)

en séparant poids fort et poids faible on arrive à trouver le bon résultat :

?hex(&h01FFFFFF xor &h00008000)
FE007FFF
?hex(&h01FF xor &h0000) & hex(&hFFFF xor &h8000)
1FF7FFF

j'ai pas trouvé la solution pour que &hFFFF8000 nous donne : 4294934528 et pas -32768 comme &h8000

**philben** · 07/12/2008, 11h54

bonjour,

A tester :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
 
Debug.Print &H1FFFFFF Xor &H8000&

philippe

**JackOuYA** · 07/12/2008, 12h43

Envoyé par philben

bonjour,

A tester :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
 
Debug.Print &H1FFFFFF Xor &H8000&

philippe

?&H1FFFFFF Xor &H8000&
33521663
?hex( &H1FFFFFF Xor &H8000&)
1FF7FFF

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
   Dim yaLong As Long
   yaLong = Val("&H1FFFFFF&") Xor Val("&H8000&")
   MsgBox "Résultat : " & yaLong & " : " & Hex(yaLong)

**ucfoutu** · 07/12/2008, 15h32

Re,

1) l'idée de philben mérite d'âtre saluée (Bravo à toi, philben)

2) j'ai malgré tout voulu m'amuser à mettre en oeuvre la méthode que je suggérais un peu plus haut (en passant par des chaines binaires sur 32 bits)..
Et j'ai un petit problème qui me laisse une espèce d'arrière-goût gênant ...

Le code qui suit est auto-explicite, ainsi que son exécution :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
Private Sub Command1_Click()
  c1 = enbinaire(&H1FFFFFF, 32)
  c2 = enbinaire(&H8000, 32)
  MsgBox "voici mes 2 chaines en binaire " & vbCrLf & c1 & vbCrLf & c2
  For i = 1 To 32
    If Val(Mid(c1, i, 1)) <> Val(Mid(c2, i, 1)) Then chsortie = chsortie & "1" Else chsortie = chsortie & "0"
  Next
  MsgBox "voici ma chaîne de sortie" & vbCrLf & chsortie
  MsgBox " et voici le résultat en décimal de ma chaine de sortie avec montype = 8" & vbCrLf & _
   endecimal(chsortie, 8) & vbCrLf & vbCrLf & _
   "et voici le résultat en décimal de ma chaine de sortie avec montype = 32" & vbCrLf & endecimal(chsortie, 32)
End Sub
 
 
Private Function endecimal(ByVal Chaine As String, montype As Integer) As Integer
  Dim i As Integer
  For i = 1 To montype
    If Mid(Chaine, i, 1) = "1" Then endecimal = endecimal + (2 ^ (montype - i))
  Next
End Function
 
Private Function enbinaire(ByVal nombre As Currency, nbbits As Integer) As String
  Dim binaire As String, z As Currency, x As Currency
  binaire = ""
  z = 0
  x = 0
  Do Until nombre < 1
    x = nombre - (Int(nombre / 2) * 2)
    nombre = Fix(nombre / 2)
    binaire = CStr(x) + binaire
  Loop
  If nbbits > Len(binaire) Then
    binaire = String(nbbits - Len(binaire), Chr(48)) + binaire
  End If
  enbinaire = binaire
End Function

Ma gêne est la suivante : doit-on examiner la valeur de sortie sur 8 bits (et j'ai alors le même résultat que philben) ou sur 32 (et j'ai alors un résultat différent)... ?

**JackOuYA** · 07/12/2008, 15h42

Envoyé par ucfoutu

...
Ma gêne est la suivante : doit-on examiner la valeur de sortie sur 8 bits (et j'ai alors le même résultat que philben) ou sur 32 (et j'ai alors un résultat différent)... ?

de quels 8 bits tu parle ?

1FF7FFF

du "FF" de droite

et c'est quoi ton résultat ..?

Il est logique que le résultat soit sur 32 bits, 4 octets...

**ucfoutu** · 07/12/2008, 15h45

Envoyé par JackOuYA

et c'est quoi ton résultat ..?

Il est logique que le résultat soit sur 32 bits, 4 octets...
.

Je crois (je l'ai dit) que mon code est suffisamment autoexplicite, non ?
Et il affiche deux résultats différents selon que l'on reste ou non sur ces fameux 32 bits ...
Quelqu'un d'autre aurait une explication complète ?

**pgz** · 07/12/2008, 15h47

Envoyé par rtg57

Merci pour ces réponses,

Pgz, mon post précise bien que j'ai fais les opérations avec des nombres de type Long (sur 4 octets) et type Double (sur 8 octets). Là où je n'ai pas été assez détaillé, c'est que je range ces résultats dans des variables de même longueur. Alors que dans votre exemple, vous travaillez avec un Integer sur 2 octets.

Bref, j'en suis toujours au même point

D'autres idées ?

Pourtant, &H1FFFFFF Xor &HFFFFFF donne 16777216 et pas un nombre négatif.

A ce stade, et si tu ne veux pas en rester à ce point, il serait bien que tu montres le code qui pose problème puisque &H1FFFFFF Xor &HFFFFFF n'en pose pas. Pour info, sur 4 octets les nombres négatifs commencent à &H80000000. ET sur 2 octets à &H8000.

PGZ

**JackOuYA** · 07/12/2008, 15h47

Envoyé par ucfoutu

Je crois (je l'ai dit) que mon code est suffisamment autoexplicite, non ?...

j'ai pas regardé (marre de lire du HS) ... le seul truc c'est que je vois pas comment tu veut écrire :

1FF7FFF

avec 8 bits seulement...!

tous tes 8 bits à 1 donne : FF ...

montre donc ton résultat.... où dit nous où est ta méprise...?

**ucfoutu** · 07/12/2008, 15h53

Je crois, Jackouya, que tu devrais un peu t'écarter ...

Le code que j'ai fait compare bien, caractère par caractère (donc bit à bit), deux chaines binaires de 32 bits...
Si je parcours ces deux chaînes dans leur intégralité, mon résultat n'est pas 1 mais 2 ...
Je souhaiterais vraiment que quelqu'un de plus averti me dise les choses de manière plus intelligible que "j'en ai marre du HS" !!!

**JackOuYA** · 07/12/2008, 16h00

Envoyé par ucfoutu

Je crois, Jackouya, que tu devrais un peu t'écarter ...

Le code que j'ai fait compare bien, caractère par caractère (donc bit à bit), deux chaines binaires de 32 bits...
Si je parcours ces deux chaînes dans leur intégralité, mon résultat n'est pas 1 mais 2 ...
Je souhaiterais vraiment que quelqu'un de plus averti me dise les choses de manière plus intelligible que "j'en ai marre du HS" !!!

ben le probléme n'est pas de comparer 2 chaines de caractére mais d'effectuer le XOR de 2 nombres de 32 bits... mon code donné plus haut donne le bon résultat :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
 Dim yaLong As Long
   yaLong = Val("&H1FFFFFF&") Xor Val("&H8000&")
   MsgBox "Résultat : " & yaLong & " : " & Hex(yaLong)

cela donne :

Résultat : 33521663 : 1FF7FFF

je te demande juste ce que donne tes 2 résultats en 8bits

et 32 bits ..

**ucfoutu** · 07/12/2008, 16h10

Bon...

Calmement, donc ...

Le Xor compare, bit à bit, deux chaines binaires.
C'est ce que je fais, en transposant en chaines binaires de 32 caractères (pour traiter des longs)
Le résultat est une nouvelle chaîne binaire de 32 caractères. Cette chaîne est obtenue par concaténation (dit plus haut) d'un 0 ou d'un 1 à chaque comparaison de bit (c'est exactement le principe de Xor).
Le résultat est une chaine binaire de 32 bits qui, traduite en décimal, me donne 2 et non le résultat de 1 trouvé par philben.
Il suffit maintenant de lancer mon code pour y voir suffisamment clair sur ce que je dit.
Pour info, maintenant : je viens de lancer mon code avec d'autres chiffres traités sans problèmes par le Xor. Dans ces cas-là (chiffres sans problèmes) Xor et mon code obtiennent le même résultat.
Mon code n'est jamais rien d'autre que ce que fait Xor ... tu comprends ?

**JackOuYA** · 07/12/2008, 16h16

décidément je ne comprends rien à ce que tu écrit, philben n'as donné aucun résultat ni 1 ni 2 ?

Envoyé par philben

bonjour,

A tester :
Code :

Debug.Print &H1FFFFFF Xor &H8000&

philippe

merci pour le cours mais je sais ce qu'est un XOR appliqué sur 2 nombres de 32 bits..

**pgz** · 07/12/2008, 16h21

@ ucfoutu.

As-tu remarqué que ta chaîne c2 donne, traduite en hexa : 00000000?
Par contre si tu écris

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

  c2 = enbinaire(&H8000&, 32)

tu obtiens alors 00008000. Normal, voir post de Philben pour forcer un long, au lieu d'UN ENTIER COURT.

ENsuite je pense que tu as un problème ici

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

    If Mid(Chaine, i, 1) = "1" Then endecimal = endecimal + (2 ^ (8 - i))

Il ne te paraît pas bizarre ce 8? MAis si tu mets montype, tu cours au dépassement de capa avec 32...

Cordialement,

PGZ

**ucfoutu** · 07/12/2008, 16h39

Oui, pgz. Merci ...

Le 8 (laissé là à la suite d'essais successifs ) est à remplacer par la variable montype (j'ai corrigé mon code plus haut)

**philben** · 07/12/2008, 16h43

bonjour à tous,

j'en suis arrivé à la même conclusion que pgz mais en retard...

Si la fonction d'ucfoutu

retourne un long, on retombe sur nos pieds a priori :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
 
Private Function endecimal(ByVal Chaine As String, montype As Integer) As Long
  Dim i As Integer
  For i = 1 To montype
    If Mid(Chaine, i, 1) = "1" Then endecimal = endecimal + (2 ^ (montype - i))
  Next
End Function

Amicalement,

Philippe

**ucfoutu** · 07/12/2008, 16h46

Voilà, en effet ....
Sinon on a un overflow sur les grands nombres...
Nous y sommes maintenant tout-à-fait ... et tout-à-fait d'accord ...

Je reste assez content d'avoir fait un autre Xor (voilà qui aura eu le mérite de le "décortiquer")
Merci.

**JackOuYA** · 07/12/2008, 16h56

Envoyé par ucfoutu

Voilà, en effet ....
Sinon on a un overflow sur les grands nombres...
Nous y sommes maintenant tout-à-fait ... et tout-à-fait d'accord ...

Je reste assez content d'avoir fait un autre Xor (voilà qui aura eu le mérite de le "décortiquer")
Merci.

j'ai compris pourquoi tu ne voulais pas me répondre à la question simple ... quel est le retour de ta fonction .?..

bon avec le type long c'est mieux.

sauf que faudra me dire l'intérêt de ton XOR
qui ne fais rien de plus que

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
Dim yaLong As Long
   yaLong = &H1FFFFFF& Xor &H8000&

[VBA Excel]Nombre hexa trop grand ?

Macros et VBA Excel

Discussions similaires

Partager

Partager