Questions sur floating-accuracy

27
réponses

Est calcul en virgule flottante cassé?

considère le code suivant: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 pourquoi ces inexactitudes se produisent-elles?
demandé sur 2009-02-26 00:39:02
3
réponses

Pourquoi ces nombres sont-ils pas égaux?

le code suivant est évidemment erroné. Quel est le problème? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15
demandé sur 2012-03-01 03:46:46
21
réponses

Qu'est-ce qui ne va pas avec l'utilisation de == pour comparer les flotteurs en Java?

selon ce java.sun page == est l'opérateur de comparaison d'égalité pour les nombres à virgule flottante en Jav ... il y a de mal à utiliser == pour comparer des valeurs à virgule flottante? Quelle est la bonne façon de le faire? 
demandé sur 2009-07-06 21:28:38
4
réponses

Pourquoi la valeur en virgule flottante de 4*0.1 est-elle belle en Python 3 mais pas 3*0.1?

je sais que la plupart des décimales n'ont pas de représentation exacte en virgule flottante ( est-ce que les mathéma ... 16169452667236328125') >>> Decimal(4*0.1) Decimal('0.40000000000000002220446049250313080847263336181640625')
demandé sur 2016-09-21 17:07:21
12
réponses

Est-il possible d'obtenir 0 en soustrayant deux nombres de virgule flottante inégaux?

est-il possible d'obtenir la division par 0 (ou l'infini) dans l'exemple suivant? public double calculation(do ... tez que cette question Est pour Java, mais je pense qu'elle s'appliquera à la plupart des langages de programmation.
demandé sur 2015-02-12 12:55:35
9
réponses

PHP-précision du nombre flottant [dupliquer]

cette question a déjà une réponse ici: est-ce que les maths à virgule flottante s ... programme continuait à rapporter des résultats étranges. pourquoi PHP ne renvoie-t-il pas le 0,01 attendu?
demandé sur 2010-09-16 16:39:59
5
réponses

Traitement de la précision des flotteurs en Javascript [dupliquer]

cette question a déjà une réponse ici: comment gérer la précision du nombre de vi ... 002 et: >>> y = 1.23456789 >>> x = 0.2 >>> y - (y % x) 1.2000000000000002
demandé sur 2012-07-28 01:03:42
5
réponses

(.1f+.2f==.3f)!= (.1f+.2f).Égal.(3f) pourquoi?

ma question Est et non au sujet de la précision flottante. Il s'agit de savoir pourquoi Equals() est différent de ... + .2f == .3f; // false (.1f + .2f).Equals(.3f); // true (.1d + .2d).Equals(.3d); // false
demandé sur 2013-02-27 20:21:36
23
réponses

Tronquer (pas arrondir) les nombres décimaux en javascript

j'essaie de tronquer les nombres décimaux en décimales. Quelque chose comme ceci: 5.467 -> 5.46 985.943 ... il arrondit la valeur. Je n'ai pas besoin que la valeur soit arrondie. Espérons que cela est possible en javascript.
demandé sur 2011-02-06 13:42:08
2
réponses

Quelle est la solution standard en JavaScript pour gérer les grands nombres (BigNum)? [fermé]

est - il une bibliothèque bignum pour JavaScript ou intégré que je peux inclure comme <script type="text/jav ... er.html . Ou recommanderiez-vous d'appeler à partir de JavaScript dans une bibliothèque Java bignum comme apfloat?
demandé sur 2010-06-18 22:47:20
5
réponses

zéro négatif en python

[Python 3.1] j'ai rencontré un zéro négatif en sortie de python; il est créé par exemple comme suit: ... érente; je se soucient de leur comportement dans un programme.) Y a-t-il des pièges cachés que je devrais connaître?
demandé sur 2010-11-03 03:57:31
5
réponses

Précision arbitraire de Python floating point disponible?

juste pour le plaisir et parce que c'était vraiment facile, j'ai écrit un programme court pour générer numéros de gref ... . Est-il un moyen de contourner ce sous Python? Ou est-ce que je dois passer à C et utiliser GMP ou quelque chose?
demandé sur 2012-07-17 16:54:48
15
réponses

Comment faire un entier log2() en C++?

dans les bibliothèques standard C++, Je n'ai trouvé qu'une méthode de journal à virgule flottante. Maintenant j'utilis ... 0. Cette peur est-elle correcte? Comment puis-je modifier mon énoncé pour qu'il retourne toujours une bonne réponse?
demandé sur 2009-06-15 09:30:59
3
réponses

Y a-t-il un gain de précision lors de la coulée en double et en arrière lors de la division float?

Quelle est la différence entre les deux? float f1 = some_number; float f2 = some_near_zero_number; float result; result ... cision d'être gagné? Quelques lignes directrices pratiques pour l'utilisation de ce genre de casting serait bien ainsi.
demandé sur 2015-02-05 15:17:26
12
réponses

Comment éviter les erreurs de précision floating point avec des flotteurs ou des doubles en Java?

j'ai un problème très ennuyeux avec de longues sommes de flotteurs ou doubles en Java. Fondamentalement, l'idée est qu ... ai essayé d'utiliser des doubles à la moitié de l'erreur, mais le résultat est toujours le même. des idées?
demandé sur 2011-03-10 11:35:17
8
réponses

Comment obtenir la Colombie-Britannique pour gérer les nombres en notation scientifique (aka exponentielle)?

bc n'aime pas les nombres exprimés en notation scientifique (aka notation exponentielle). $ echo "3.1e1*2" | bc -l (stand ... c pour comprendre la notation exponentielle? Si non, que puis-je faire pour traduire dans un format bc allez comprendre?
demandé sur 2012-10-14 17:19:01
7
réponses

Exemples d'imprécision de la virgule flottante

Comment expliquez-vous l'inexactitude de la virgule flottante aux nouveaux programmeurs et profanes qui pensent encore ... ien mieux qu'une explication précise, mais sèche? Comment cela est-il enseigné dans les cours D'Informatique?
demandé sur 2010-01-20 13:10:30
2
réponses

Pourquoi flotteur.Epsilon et pas zéro?

dans le code suivant, Pourquoi y a-t-il une comparaison avec float.Epsilon et pas 0? // Coroutine to move elements protec ... newPostion); sqrRemainingDistance = (transform.position - end).sqrMagnitude; yield return null; } }
demandé sur 2015-05-13 16:37:33
5
réponses

Qu'est-ce qu'un exemple simple d'erreur de virgule flottante/d'arrondissement?

j'ai entendu parler d ' "erreur" en utilisant des variables à virgule flottante. Maintenant j'essaie de résoudre ce puzz ... pow(1-p, (double)8) * pow(p, (double)2) * (double)choose(8, 2); Est-ce l'occasion d'une erreur de virgule flottante?
demandé sur 2008-10-30 10:12:10
8
réponses

Comment comparer correctement et standardementles flotteurs?

chaque fois que je commence un nouveau projet et quand j'ai besoin de comparer quelques variables float ou double j'éc ... fichier d'en-tête standard? Il serait également agréable d'avoir le flotteur et double limites (valeurs min et max)
demandé sur 2010-12-28 20:38:13
3
réponses

Comment utiliser Java String.format avec une précision variable?

j'aimerais varier la précision d'une double représentation dans une chaîne que je formate en me basant sur l'entrée de l'u ... ision + "f\n", my_double); mais je serais toujours intéressé par le soutien des autochtones pour une telle opération.
demandé sur 2010-02-20 07:26:12
6
réponses

Calcul efficace (A-K) / (A + K) avec une précision accrue

dans différents contextes, par exemple pour la réduction des arguments pour les fonctions mathématiques, il faut calculer ... code ci-dessus, sur un intervalle plus large,en particulier pour les intervalles dont la limite inférieure est inférieure à
demandé sur 2016-02-16 07:51:48
1
réponses

Lors de l'utilisation de `std::hypot(x,y)` plus `std::sqrt(x*x + y*y)`

documentation de std::hypot dit: calcule la racine carrée de la somme des carrés de x et y, sans débordement ou sous ... ouble xx = static_cast<double>(x); double yy = static_cast<double>(y); double h = std::sqrt(xx*xx + yy*yy);
demandé sur 2015-09-07 12:55:42
5
réponses

Calcul Exp rapide: possibilité d'améliorer la précision sans perdre trop de performance?

je suis en train d'essayer la fonction Exp(x) rapide qui a déjà été décrite dans répondre à une SORTE de question sur l' ... soit trop rapidement divergent avec un plus grand négatif x, surtout lorsqu'on utilise" seulement " 8 multiplications.
demandé sur 2012-05-11 17:26:51
2
réponses

"Epsilon" garantit-il vraiment quelque chose dans les calculs à virgule flottante?

pour abréger le problème disons que je veux calculer l'expression a / (b - c) sur float S. pour être sûr que ... return x; } mais qu'est-ce que l'epsilon alors et pourquoi tout le monde dit epsilon est bon à utiliser?
demandé sur 2010-04-28 17:06:56
1
réponses

La précision à virgule flottante peut-elle dépendre du filetage?

j'ai une petite classe de vecteur 3D en C# 3.0 basée sur struct qui utilise le double comme unité de base. ex ... - v2._y, v1._z - v2._z); } } le calcul est aussi simple que celui-ci Vector3d pos41 = pos4 - pos1;
demandé sur 2010-05-17 13:28:57
2
réponses

Provoquer un sous-débit dans le format IEEE-754 point flottant en utilisant la soustraction

Cela semble basique, mais j'ai beaucoup de difficulté à répondre à la question suivante: donne deux nombres X ... ais pour la durée de vie de la mine, Je ne peux pas trouver d'exemple de soustraction. PLEASE HELP!!! merci
demandé sur 2013-09-27 18:46:56