Discussion :

[rupteur]

bonjour à tous,

je suis sous postgresql 9.1 avec pgadmin 1.14.3

je rencontre sous pgadmin, un problème d'affichage des valeurs en double précision
par exemple pour une valeur stockée en base 30.39993, pgadmin m'affiche 30.4

peut-on le forcer à afficher la vrai valeur ?

(note: l'utilitaire console psql effectue aussi l'arrondi )


merci pour votre aide.

[punkoff]

bonjour,

http://www.postgresql.org/docs/9.1/i...e-numeric.html

double et double précision sont des types numéric inexact.

Etes-vous sur qu'en base il y a bien ce nombre exactement d'enregistré ?
(en faisant une multiplication par 100 par exemple ...)

[rupteur]

oui, j'ai fait un pg_dump de la base et j'ai bien le nombre enregistré en 30.39993

[punkoff]

A combien est votre paramètre de session : extra_float_digits ? -10 ?

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
 
show extra_float_digits

Essayez de le mettre à 0 si c'est le cas.

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
 
set extra_float_digits = 0;

[rupteur]

extra_float_digits me retourne 0.

[estofilo]

Déjà comment reproduire le problème?
En effet:

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
create table testdouble(a double precision);
insert into a values(30.39993);
insert into testdouble values(30.39993);
select * from testdouble ;

Résultat

    a     
----------
 30.39993
(1 row)

et non pas 30.4

[rupteur]

en fait le "problème" semble se situer au niveau du stockage.
par exemple :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

insert into test values (30.4)

voici ce que me donne pg_dump

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
 
CREATE TABLE test (
    test double precision
);
 
 
ALTER TABLE public.test OWNER TO postgres;
 
--
-- Data for Name: test; Type: TABLE DATA; Schema: public; Owner: postgres
--
 
COPY test (test) FROM stdin;
30.3999999999999986
\.

j'accède à ces données via jdbc et contrairement à pgadmin le driver java me renvoi 30.999999... et non 30.4

je n'avais jamais remarqué cela jusqu'au changement de version de jdbc

Peut être est ce un fonctionnement normal mais neamoins curieux

[punkoff]

Avez-vous lu l'article de la doc que je vous ai linké plus haut ..?

[rupteur]

oui et je vous en remercie.

je l'ai aussi lu en français (on ne sait jamais)
https://postgresql.developpez.com/cours/

j'ai bien compris que le stockage pouvait être approximatif.

mais je suis surpris de tant de "dérive" sur une seule décimale.
pourquoi se compliquer la vie ?

comme je l'ai dis précédemment c'est le changement de driver jdbc qui ma révélé cette curiosité.
je vais donc revoir le type de champ qui stocke ces données.

Merci pour tout !

[estofilo]

j'ai bien compris que le stockage pouvait être approximatif.

mais je suis surpris de tant de "dérive" sur une seule décimale.
pourquoi se compliquer la vie ?

C'est parce que le nombre est stocké en binaire flottant et pas en décimal flottant.
En binaire il y a problablement une infinité de chiffres après la virgule sur ce nombre 30.4
Mais si c'était 30.5 par exemple il n'y aurait aucune "dérive".