mod dans une fonction qui reçoit un varchar

Bonjour

J'ai tourné le problème dans tous les sens cet après-midi et je sors vaincu :-(

Code:

---

1 2 3 4 5 6 7

create function `test_01`(arg1 varchar(255)) returns tinyint begin declare v double(30, 0); set `v` = `arg1`; return `v` mod 10; end;

---

suivi de

Code:

---

1 2	select test_01('1130201120201555555555161133'), 1130201120201555555555161133 % 10;

---

Résultat:

Citation:

---

r1;r2
"2";"3"

---

J'ai tenté toutes conversions auxquelles j'ai pensé mais rien à faire pour avoir un résultat de fonction correct.

Quelqu'un voudrait bien me dire où ça coince svp ??

Sans doute parce que le type double est un float avec des problèmes d'arrondi de calcul.

Ne serait-il d'ailleurs pas plus simple ici de simplement extraire le dernier caractère de la chaine ?

C'est juste un exemple raccourci. En fait, je fais un mod 97 dans la fonction complète. Difficile de déduire le résultat à partir du dernier caractère :)

ça y'est, je l'ai eu ....
en utilisant decimal(40) comme type de paramètre, ça fonctionne bien.

Merci de m'avoir aiguillé sur le type à ne pas utiliser

Citation:

---

Envoyé par Papy214

En fait, je fais un mod 97 dans la fonction complète.

---

Il suffisait de le dire que tu cherchais à calculer la clé d'un numéro de compte... ;)

J'avais déjà demandé ici comment faire la vérification d'un IBAN.
Là, plutôt que prendre le code standard, je devais transcrire du code PHP existant pour être parfaitement iso entre SQL et traitement métier.
Je pense d'ailleurs que la fonction écrite en PHP par un collègue n'est pas complète mais le but était d'avoir le même comportement dans une vérification par SQL pour intégrer le résultat dans une requête.
J'ai donc suivi chaque étape existante en PHP et avancé jusqu'au mod 97 final.
Et c'est là que ça a commencé à coincer.
J'avais bien compris que le problème venait du type de donnée mais après avoir essayé INT puis BIGINT, je ne savais plus vers quoi me tourner.
C'est là que j'ai pensé au DOUBLE. Si j'avais pensé NUMERIC tout de suite, je n'aurais même pas eu à venir déranger ici :)

Il faut se méfier comme de la peste du type FLOAT et ses dérivés.
Ils ne conservent qu'un nombre limité de chiffres significatifs et perdent la précision du nombre original, ce qui s'aggrave dès qu'il y a un calcul.

J'avoue avoir un peu de mal à faire la différence entre numeric(30) et double(30).
Et surtout le fait qu'une chaîne puisse être passée comme numeric en paramètre de fonction.
Je viens principalement de la programmation objet en Delphi et toute mon expérience est basée sur des types très précis que l'on peut éventuellement convertir dans un sens ou dans l'autre.
C'est quelque chose qui m'a beaucoup gêné quand j'ai découvert PHP et sa facilité à mettre tout et n'importe quoi dans une variable. C'est à la fois pratique, déconcertant et à mon avis dangereux.
Mais c'est un débat que j'ai eu avec mes collègue du pôle WEB et on n'est jamais tombés d'accord là-dessus :)

Pour finir, voilà comment je l'ai écrit.

Code:

---

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15

create definer = `root`@`%` function `mod_iban2`(`iban` decimal(40)) returns tinyint begin declare `fin` varchar(255); declare `debut` varchar(35);   if char_length(`iban`) > 20 then set `debut` = substr(`iban`, 1, 10) % 97; set `fin` = substr(`iban`, 11); set `iban` = concat(`debut`, `fin`); end if;   return `iban` % 97 = 1; end;

---

Je me doute que ça pourrait être optimisé mais je suis déjà bien content que ça fonctionne sans erreur maintenant :D