Bonjours,
Lors d’une operation de calcul avec une soustraction
J’obtiens lorsque le resultat est de 0, l’affichage :
2,842171e14
Je ne comprends pas pourquoi, mon collegue et moi, n’avanons plus a cause de cela…
quel est le type de donne utilis ? double ?
quelle est la prcision requise ?
une bonne adresse pour des calculs prcis : http://delaneyrm.com/fpPlugin.html
[quote=327006:@julien assayah]Bonjours,
Lors d’une operation de calcul avec une soustraction
J’obtiens lorsque le resultat est de 0, l’affichage :
2,842171e14
Je ne comprends pas pourquoi, mon collegue et moi, n’avançons plus a cause de cela…[/quote]
Postez le code, SVP.
Bonsoir, merci pour vos reponses et soutien…
Je ne suis pas chez moi, je posterai le code plus tard,
Cependant,
Le code n’est autre que dans ce style
Dim calcul as double
Dim valref as double
For i = 0 to 10
Calcul = Cdbl(textfield(i).text) * cdbl(textfield(i+11) + calcul
Next
Textfield10.text = str ( calcul - cdbl(textfield25.text))
[quote=327007:@Jean-Yves Pochez]quel est le type de donnée utilisé ? double ?
quelle est la précision requise ?
une bonne adresse pour des calculs précis : http://delaneyrm.com/fpPlugin.html[/quote]
Bonsoir,
Le type est double,
Les donnees viennent d’une sqlite en double @remplir des “textfield” et je multiplie mes textfields entre eux Puis compare mon resulat avec une textfield de reference par soustraction.
il faut faire un arrondi la prcision souhaite, sinon le double moins un double peut faire 10-xx au lieu de zro
ou alors utiliser le fpplugin qui a une precision infinie.
[quote=327021:@Jean-Yves Pochez]il faut faire un arrondi à la précision souhaitée, sinon le double moins un double peut faire 10-xx au lieu de zéro
ou alors utiliser le fpplugin qui a une precision infinie.[/quote]
Je vais essayer et vous tiens informé !
Merci!!
Le plugin est il facile à utiliser.?
Apres l’installation, il faut faire comment pour l’utiliser… (Il faut l’apeller…? Ou ca se fait tout seul…?)
une fois install, de nouveaux types de donnes sont disponibles : bigfloat utiliser en place de double.
je ne connais pas la teneur de vos calculs, mais un simple round() doit surement suffire.
Je vous remercie,
je n’ai finalement pas install le plugin, mais merci, car on sait jamais,
j’ai juste mis sur le format du textfield qui recoit le rsultat le format “#.00” et le problme est rsolu !!
Mille Merci de votre participation !!
si c’est pour utiliser des monnaies, il vaut mieux utiliser le type currency c’est adapt.