Problème soustraction

  1. 4 months ago

    Bonjours,
    Lors d'une operation de calcul avec une soustraction
    J'obtiens lorsque le resultat est de 0, l'affichage :
    2,842171e14
    Je ne comprends pas pourquoi, mon collegue et moi, n'avançons plus a cause de cela..

    il faut faire un arrondi à la précision souhaitée, sinon le double moins un double peut faire 10-xx au lieu de zéro
    ou alors utiliser le fpplugin qui a une precision infinie.

  2. Jean-Yves P

    Apr 20 Pre-Release Testers, Xojo Pro Europe (France, Besancon)

    quel est le type de donnée utilisé ? double ?
    quelle est la précision requise ?

    une bonne adresse pour des calculs précis : http://delaneyrm.com/fpPlugin.html

  3. Michel B

    Apr 20 Pre-Release Testers, Xojo Pro

    @julien a Bonjours,
    Lors d'une operation de calcul avec une soustraction
    J'obtiens lorsque le resultat est de 0, l'affichage :
    2,842171e14
    Je ne comprends pas pourquoi, mon collegue et moi, n'avançons plus a cause de cela..

    Postez le code, SVP.

  4. Bonsoir, merci pour vos reponses et soutien..
    Je ne suis pas chez moi, je posterai le code plus tard,
    Cependant,
    Le code n'est autre que dans ce style

    Dim calcul as double
    Dim valref as double

    For i = 0 to 10
    Calcul = Cdbl(textfield(i).text) * cdbl(textfield(i+11) + calcul
    Next

    Textfield10.text = str ( calcul - cdbl(textfield25.text))

  5. @Jean-YvesPochez quel est le type de donnée utilisé ? double ?
    quelle est la précision requise ?

    une bonne adresse pour des calculs précis : http://delaneyrm.com/fpPlugin.html

    Bonsoir,
    Le type est double,
    Les donnees viennent d'une sqlite en double @remplir des "textfield" et je multiplie mes textfields entre eux Puis compare mon resulat avec une textfield de reference par soustraction.

  6. Jean-Yves P

    Apr 20 Pre-Release Testers, Xojo Pro Answer Europe (France, Besancon)

    il faut faire un arrondi à la précision souhaitée, sinon le double moins un double peut faire 10-xx au lieu de zéro
    ou alors utiliser le fpplugin qui a une precision infinie.

  7. @Jean-YvesPochez il faut faire un arrondi à la précision souhaitée, sinon le double moins un double peut faire 10-xx au lieu de zéro
    ou alors utiliser le fpplugin qui a une precision infinie.

    Je vais essayer et vous tiens informé !
    Merci!!
    Le plugin est il facile à utiliser.?
    Apres l'installation, il faut faire comment pour l'utiliser.. (Il faut l'apeller..? Ou ca se fait tout seul..?)

  8. Jean-Yves P

    Apr 21 Pre-Release Testers, Xojo Pro Europe (France, Besancon)

    une fois installé, de nouveaux types de données sont disponibles : bigfloat à utiliser en place de double.
    je ne connais pas la teneur de vos calculs, mais un simple round() doit surement suffire.

  9. Je vous remercie,
    je n'ai finalement pas installé le plugin, mais merci, car on sait jamais,
    j'ai juste mis sur le format du textfield qui recoit le résultat le format "#.00" et le problème est résolu !!

    Mille Merci de votre participation !!

  10. Jean-Yves P

    Apr 21 Pre-Release Testers, Xojo Pro Europe (France, Besancon)

    si c'est pour utiliser des monnaies, il vaut mieux utiliser le type currency c'est adapté.

or Sign Up to reply!