Le principe de maximum d'entropie [Résolu] - Page 2

pseudocode · 09/02/2012, 10h51

Citation:

Envoyé par souviron34

Le physicien que je suis ne résiste pas à vous faire partager la vraie définition de l'entropie, qui éclairera le sujet :

Entropie

Citation:

elle peut être interprétée comme la mesure du degré de désordre d'un système au niveau microscopique.

Appliqué à la théorie de l'information (Entropie de Shannon), on pourrait traduire cela par:

Citation:

elle peut être interprétée comme la mesure du degré d'incertitude à prédire la valeur d'une variable aléatoire.

Plus l'incertitude est grande, plus l'entropie est grande.

Par exemple un générateur aléatoire "équiprobable" a une entropie maximale (=1). Et, au contraire, un générateur constant a une entropie minimale (=0).

souviron34 · 09/02/2012, 11h37

absolument..

ce qui est en lien (je crois) dans l'avant-dernier lien de mon post..

Enfin, c'était juste pour faire le lien entre "bruit" , "information", "seuillage", et "désordre" ou "entropie" au sens physique... Comme quoi le "traitement d'images" ou statistique et ses grands fondements et les termes utilisés ont des fondements globaux que tout le monde ou presque a appris (il me semble que la première et seconde loi de la thermo on apprend (apprenait ??) ça en Terminale, non ? les gaz parfaits etc etc)

math_infomatique · 09/02/2012, 18h35

Citation:

Envoyé par souviron34

Enfin, c'était juste pour faire le lien entre "bruit" , "information", "seuillage", et "désordre" ou "entropie" au sens physique... Comme quoi le "traitement d'images" ou statistique et ses grands fondements et les termes utilisés ont des fondements globaux que tout le monde ou presque a appris (il me semble que la première et seconde loi de la thermo on apprend (apprenait ??) ça en Terminale, non ? les gaz parfaits etc etc)

oui parfaitement d'accord les fondements globaux sont présentes dans presque tous les domaines, uniquement le résultat recherché qui diffère...

d'ailleurs parfois il est plus facile de comprendre un phénomène en physique par exemple, et ensuite sa traduction en traitement d'image par exemple, serait plus claire..

Zavonen · 12/02/2012, 23h36

La notion physique d'entropie correspond à la notion mathématique d'information développée par Shannon et reprise par Kolmogoroff et Khinchin.
Une saine lecture

09/02/2012, 11h37	#22
souviron34 Expert Confirmé Sénior Inscription : janvier 2007 Messages : 8 740 Détails du profil Informations personnelles : Âge : 54 Informations forums : Inscription : janvier 2007 Messages : 8 740 Points : 9 963 Points : 9 963	absolument.. ce qui est en lien (je crois) dans l'avant-dernier lien de mon post.. Enfin, c'était juste pour faire le lien entre "bruit" , "information", "seuillage", et "désordre" ou "entropie" au sens physique... Comme quoi le "traitement d'images" ou statistique et ses grands fondements et les termes utilisés ont des fondements globaux que tout le monde ou presque a appris (il me semble que la première et seconde loi de la thermo on apprend (apprenait ??) ça en Terminale, non ? les gaz parfaits etc etc) __________________ "Un homme sage ne croit que la moitié de ce qu’il lit. Plus sage encore, il sait laquelle". *Consultant indépendant. Architecture systèmes complexes. Programmation grosses applications critiques. Ergonomie. C, Fortran, XWindow/Motif, Java Je ne réponds pas aux MP techniques*
	00

12/02/2012, 23h36	#24
Zavonen Rédacteur Inscription : novembre 2006 Messages : 1 756 Détails du profil Informations personnelles : Âge : 64 Informations forums : Inscription : novembre 2006 Messages : 1 756 Points : 1 697 Points : 1 697	La notion physique d'entropie correspond à la notion mathématique d'information développée par Shannon et reprise par Kolmogoroff et Khinchin. Une saine lecture __________________ Ce qu'on trouve est plus important que ce qu'on cherche. Maths de base pour les nuls (et les autres...)
	00

Outils de la discussion
Afficher une version imprimable Envoyer un lien vers cette page par email