erreur avec math.pow

**ricky78** · 28/01/2011, 12h56

Bonjour

Pour commencer soyer indulgent je suis un pur newbie en javascript.

Mon problème et le suivant, j'ai besoin de créer un petit outil pour convertir des dBm en µTesla. Je me suis dit qu'un petit gadget window me permettrait de l'avoir en direct sur mon bureau.
J'ai donc commencer à)voir comment créer un gadget, qui sont en fait du html et des javascript .

En continuant je veux donc intégrer la formule µT = 4 * PI * Math.pow(10.0, ((dbm + 36)/20)) ;

Je fait donc mon petit code et en testant mes valeurs sont complètement erronés.
En debuggant il s’avère que dbm peut varier en général de 0 à -50.

Quand je met 0, le Math.pow(10.0, ((dbm + 36)/20)) renvoie bien 63.095...
par contre quand je met -50 le power me renvoie 1.584893192461072e-252 alors que cela devrait être 1e-14 et la je comprend pas mon erreur.

Cordialement

**SpaceFrog** · 28/01/2011, 13h13

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
<script type='text/javascript'>
function bar(){
var dbm=1
while(--dbm > -50){
document.body.appendChild(document.createTextNode(dbm +" => " +Math.PI * Math.pow(10.0, ((dbm + 36)/20))	))
document.body.appendChild(document.createElement('br'))
 
}
}
	</script>
</head>
<body onload="bar()">
</body>
 
</html>

**ricky78** · 28/01/2011, 13h54

bonjour

Je crois pas bien comprendre ta réponse.
J'ai l'impression que tu calcule 50 itération avec le while n'est pas.

Mon problème et que pour une valeur, si dbm = 0, le math.pow renvoie une valeur bonne mais que si dbm =-50 le math .pow est erroné

Cordialement

**SpaceFrog** · 28/01/2011, 14h15

pour moi ce n'est pas le pow qui pose souci

hormis peut être pour -30 pour lequel je ne m'explique pas l'arrondi

mais pour les autres pas de souci

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
<script type='text/javascript'>
function bar(){
var dbm=5
while(--dbm > -51){
document.body.appendChild(document.createTextNode(dbm +" => "+ Math.pow(10.0, dbm)))
document.body.appendChild(document.createElement('br'))
 
}
}
	</script>
</head>
<body onload="bar()">
</body>

**ricky78** · 28/01/2011, 14h41

Merci!

C’était un problème de parenthèse.

Cordialement

**ricky78** · 28/01/2011, 15h00

alors la je comprend plus.

Ca marche pour les valeurs positives et pas pour les negatives??

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
 
<html>
<head>
<title>
DBm Converter
</title>
<script type="text/javascript">
	<!--
	function convert()
	{
		if (document.getElementById)
		{
				var db = document.getElementById('dbmid').value;
				var But = document.getElementById('utid');
				var ut = 4.0 * Math.PI * Math.pow(10.0, ((db + 36)/20));	
				res = (Math.round (ut *100))/100;		
				But.value=res;
		}	
	}	
	function bar()
	{
		var dbm=1
		while(--dbm > -50)
		{
			document.body.appendChild(document.createTextNode(dbm +" => " + 4.0 * Math.PI * Math.pow(10.0, ((dbm + 36)/20))	))
			document.body.appendChild(document.createElement('br'))
 
		}
	}
	//-->
</script>
</head>
<body onload="bar()">
DBm: <input type="text" name="dbmid" value="" /><br />
µT:  <input type="text" name="utid" value="" /><br />
<input type="submit" value="Convert" onClick="convert()" />
</body>
</html>

**Bovino** · 30/01/2011, 21h51

Envoyé par ricky78

Quand je met 0, le Math.pow(10.0, ((dbm + 36)/20)) renvoie bien 63.095...
par contre quand je met -50 le power me renvoie 1.584893192461072e-252 alors que cela devrait être 1e-14 et la je comprend pas mon erreur.

Ben... ton erreur, elle vient du fait qu'avec -50, on a :

-50 + 36 = -14
-14 / 20 = -0.7
10^-0.7 = 0,19952623149688796013524553967395

On est loin des valeurs dont tu parles

erreur avec math.pow

JavaScript

Vue hybride

Discussions similaires

Partager

Partager