quelques questions arithmétiques

**hermellin** · 28/10/2010, 12h22

Bonjour,

comment calcule-t-on une puissance en RPGLE ? Je ne trouve pas l'opérateur requis. 15 ans de developpement en gestion... aie la honte

Dans un prog RPGLE, est-il possible de savoir le nombre de décimales d'une variable issue d'un fichier physique ? afin de l'initialiser en conséquence (.1 ou .01 ou .001 etc )

Et enfin, pourquoi l'instruction "IF mavariable - %int(mavariable) >0"
plante a l'execution dans le seul cas ou mavariable contient 100...00.00 (1er digit a gauche renseigné) ?

erreur : variable de destination trop petite pour contenir le resultat (désolé j'ai pas le CPF en tête)
mavariable est en 22S 2 mais une autre def réagit identiquement.
C'est facile à contourner mais j'aimerais comprendre pourquoi.

Merci d'avance,

**jump400** · 28/10/2010, 14h55

Bjr,

Puissance : c'est l'operateur ** exemple 3**2 = 9
pour la 2eme question, %DECPOS doit être ce que tu cherches

pour la 3ème : les entiers sont créée sur la base d'un nombre d'octets :1, 2, 4 ou 8.
avec un entier sur 8 octets (le maximum possible) du n'as droit qu'à 20 chiffres, mais cela ne veut pas dire que la valeur maximum possible soit une suite de vingt chiffres 9 ! tu es arrivé à provoquer un overflow (faudrait que tu retrouves le messages pour vérification) Avec ce que tu as donné en entrée de %Int il a du faire une varible de travail au maximum de 8 octets.
Pour simplifier, prenons le cas d'un entier sur un octet, que l'on déclare en indiquant 3/0, donc 3 chiffres au maximum. Mais comme nous n'avons qu'un octet pour stocker la valeur, le maximum n'est pas 999, mais 255 en entier non signé et +127 en entier signé !
Tu n'as plus qu'a faire le calcul des puissances de 2 pour 8 octets

facile maintenant que tu sais que l'opérateur est **

Edit: finalement je suis trop bon, voici les infos de la doc :

Pour les entiers non signés (U) :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
Field length Range of Allowed Values
 3-digit unsigned 0 to 255
 5-digit unsigned 0 to 65535 
10-digit unsigned 0 to 4294967295 
20-digit unsigned 0 to 18446744073709551615

Pour les entiers signés (I) :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
Field length Range of Allowed Values
 3-digit integer -128 to 127
 5-digit integer -32768 to 32767
10-digit integer -2147483648 to 2147483647 
20-digit integer -9223372036854775808 to 9223372036854775807

**Mercure** · 28/10/2010, 15h54

Exponentiation :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
/free
    Resultat = 10 ** 2;    (10 puissance 2)

Nombre de positions décimales :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
/free
    D MaVar          s            9p 5
    Resultat = %DECPOS( MaVar );   (Resultat = 5)

"IF mavariable - %int(mavariable) >0" plante
Parce que, lorsque tu emploies 10 000 000 000 000 000 000,00 (Un milliard de milliards (10 ** 19), cela fait un chiffre astronomique qui dépasse la capacité des variables utilisées pour le calcul.

Tu travailles pour Ariane-Espace ?

**hermellin** · 28/10/2010, 16h47

Merci bcp Mercure

Tout est clair.
Et ca marche sur ma V5R2.
** j'aurais cherché longtemps

Non pas pour Ariane

je developpe une classification décimale universelle (CDU) et je prévois une grande profondeur de classement (20) qui sera peut-être à revoir.. à la hausse

Merci,
Hermelin