Questions sur floating-point

27
réponses

Est calcul en virgule flottante cassé?

considère le code suivant: 0.1 + 0.2 == 0.3 -> false 0.1 + 0.2 -> 0.30000000000000004 pourquoi ces inexactitudes se produisent-elles?
demandé sur 2009-02-26 00:39:02
12
réponses

Pourquoi ne pas GCC optimiser un*un*un*un*un*un (a*a*a)*(a*a*a)?

je fais de l'optimisation numérique sur une application scientifique. Une chose que J'ai remarqué , C'est que GCC va o ... un comportement similaire. pourquoi les compilateurs ne reconnaissent-ils pas cette astuce d'optimisation?
demandé sur 2011-06-21 22:49:55
23
réponses

Comment puis-je analyser une chaîne à un float ou à un int en Python?

en Python, Comment puis-je analyser une chaîne numérique comme "545.2222" à sa valeur flottante correspondante, 542 ... e savoir comment analyser un float string à un float , et (séparément) un int string à une int .
demandé sur 2008-12-19 04:52:26
18
réponses

Différence entre décimal, float et double in.NET Je ne sais pas.

Quelle est la différence entre decimal , float et double dans .NET? quand quelqu'un utiliserait-il l'un d'eux?
demandé sur 2009-03-06 14:31:23
5
réponses

Pourquoi le changement de 0.1 f à 0 ralentit-il la performance de 10x?

pourquoi ce morceau de code, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, ... } } lors de la compilation avec Visual Studio 2010 SP1. (Je n'ai pas testé avec d'autres compilateurs.)
demandé sur 2012-02-16 19:58:39
30
réponses

Comment vérifier si une chaîne est un nombre (float)?

Quelle est la meilleure façon de vérifier si une chaîne peut être représentée sous forme de nombre en Python? ... Cependant, je n'ai pas trouvé de meilleure méthode car appeler float dans la fonction principale est encore pire.
demandé sur 2008-12-09 23:03:42
19
réponses

Limitation des flotteurs à deux décimales

je veux que a soit arrondi à 13.95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 la fonction round ne fonctionne pas comme je l'espérais.
demandé sur 2009-01-18 21:16:41
14
réponses

Pourquoi ne pas utiliser le double ou le flottant pour représenter la monnaie?

on m'a toujours dit jamais de représenter de l'argent avec double ou float types, et cette fois je vous pose la ... estion: pourquoi? je suis sûr qu'il ya une très bonne raison, je ne sais tout simplement pas ce que c'est.
demandé sur 2010-09-16 23:23:57
13
réponses

Convertir décimal en Double?

je veux utiliser une barre de piste pour changer l'opacité d'un formulaire. C'est mon code: decimal tr ... tiliser trans et double mais le contrôle ne fonctionne pas. Ce code a bien fonctionné dans le passé. VB.NET projet.
demandé sur 2008-08-01 01:42:52
7
réponses

Y a-t-il un type d'entrée float dans HTML5?

selon html5.org , l'attribut de valeur "Nombre" type d'entrée", s'il est spécifié et non vide, doit avoir une val ... faire le type d'entrée Nombre travailler avec des chars, des pas entiers? Ou dois-je recourir à un plugin jQuery UI?
demandé sur 2013-09-25 21:51:41
5
réponses

Pourquoi les Mathématiques.rond(0.49999999999999994) retour 1?

dans le programme suivant vous pouvez voir que chaque valeur légèrement inférieure à .5 est arrondie vers le bas, sauf ... .5 rounded is 1 0.49999999999999994 rounded is 1 0.4999999999999999 rounded is 0 j'utilise Java 6 update 31.
demandé sur 2012-03-28 11:30:27
30
réponses

Comment utiliser une valeur de pas décimal ()?

y a-t-il un moyen de faire un pas entre 0 et 1 par 0.1? j'ai pensé que je pouvais le faire comme suit, mais ... print i au lieu de cela, il dit que l'argument de pas ne peut pas être zéro, ce que je ne m'attendais pas.
demandé sur 2009-01-25 13:20:43
27
réponses

Quelle est la méthode la plus efficace pour la comparaison flottante et double?

quel serait le moyen le plus efficace de comparer deux valeurs double ou deux valeurs float ? faire simplement ... le être un traitement des déchets. est-ce que quelqu'un connaît un compareur de flotteurs plus intelligent?
demandé sur 2008-08-20 06:09:33
30
réponses

Comment gérer la précision du nombre de virgule flottante en JavaScript?

j'ai le scénario de test du mannequin suivant: function test(){ var x = 0.1 * 0.2; document.write(x); } ... ir si l'un de vous avait une solution élégante. bien sûr, sinon je vais arrondir à une dizaine de chiffres.
demandé sur 2009-09-22 11:34:42
11
réponses

Quelle est la différence entre float et double?

j'ai lu la différence entre la double précision et la simple précision. Toutefois, dans la plupart des cas, float et ... aiment le cas? Quand les flotteurs et les doubles sont-ils interchangeables? Quelles sont les différences entre eux?
demandé sur 2010-03-05 15:48:32
22
réponses

Comment arrondir un nombre en Python?

ce problème me tue. Comment fait-on un tour d'horizon d'un nombre en Python? j'ai essayé rond(nombre) mais il ... re + .5) mais ça ne marchera pas dans les cas extrêmes. Exemple: WAIT! THIS WORKED! , s'il vous plaît.
demandé sur 2010-03-01 17:40:04
7
réponses

Pourquoi changer l'ordre de la somme renvoie-t-il un résultat différent?

pourquoi changer l'ordre de la somme renvoie-t-il un résultat différent? 23.53 + 5.88 + 17.64 = 47.0 ... présentée avec précision. pourquoi le simple fait de changer l'ordre des éléments affecte-t-il le résultat?
demandé sur 2013-11-06 22:50:17
11
réponses

Comment puis-je imprimer une valeur double avec une précision maximale en utilisant la méthode cout?

donc j'ai eu la réponse à ma dernière question (Je ne sais pas pourquoi je n'y ai pas pensé). J'imprimais un doubl ... ndi quand je ne m'y attendais pas. Comment puis-je faire cout imprimer un double en utilisant la pleine précision?
demandé sur 2009-02-16 21:15:18
3
réponses

Comment obtenir un nombre aléatoire entre une portée flottante?

randrange(start, stop) ne prend que des arguments entiers. Alors comment pourrais-je obtenir un nombre aléatoire entre deux valeurs flottantes?
demandé sur 2011-05-22 17:00:50
20
réponses

Pourquoi pas des nombres décimaux être représenté exactement en binaire?

il y a eu plusieurs questions sur la représentation en virgule flottante. Par exemple, le nombre décimal 0.1 n'est pas ... plus de limites arbitraires à ces nombres. Les positions s'accroître indéfiniment vers la gauche et vers la droite.
demandé sur 2009-07-07 00:17:12
3
réponses

Flottant vs décimal dans ActiveRecord

parfois, les types de données Activerecord me déconcertent. Err, souvent. Une de mes questions éternelles est, pour un ... e chacune de ces méthodes? ce qui serait quelques bonnes règles empiriques pour savoir quel type d'utiliser?
demandé sur 2011-12-15 05:49:52
12
réponses

Quand dois-je utiliser le double au lieu du décimal?

je peux nommer trois avantages à l'utilisation de double (ou float ) au lieu de decimal : utilise moins ... récision peut diminuer (parfois de façon significative) lorsque des opérations en virgule flottante sont effectuées?
demandé sur 2009-04-29 20:38:21
8
réponses

Quand dois-je utiliser le mot-clé "strictfp" en java?

j'ai cherché ce que cela fait, mais est-ce que quelqu'un a réellement un exemple de quand vous utiliseriez le mot-clé ... r cela? est-ce qu'il y aurait des effets secondaires si je le mettais sur toutes mes opérations flottantes?
demandé sur 2009-02-06 00:08:34
3
réponses

Pourquoi ces nombres sont-ils pas égaux?

le code suivant est évidemment erroné. Quel est le problème? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal 0.15
demandé sur 2012-03-01 03:46:46
7
réponses

JavaScript affichage d'un flottant à 2 décimales

je voulais afficher un nombre à 2 décimales. je pensais pouvoir utiliser toPrecision(2) en JavaScript . ... ? je peux penser à coder quelques solutions, mais j'imagine (j'espère) quelque chose comme c'est construit?
demandé sur 2010-07-02 07:21:24
20
réponses

round () pour float en C++

j'ai besoin d'une simple fonction d'arrondi en virgule flottante, donc: double round(double); round(0.1) = 0 r ... ais pas round() . est-il présent dans la bibliothèque standard C++ sous un autre nom, ou est-il manquant??
demandé sur 2009-01-28 01:06:30
13
réponses

Quelle est la raison d'être de toutes les comparaisons retournant à false pour les valeurs de la NaN de L'EEE 754?

pourquoi les comparaisons des valeurs de la NNA se comportent-elles différemment de toutes les autres valeurs? C'est-à ... lue avec une petite limite. Si IMHO il s'agit d'un argument relativement faible pour briser la réflexivité chez NaN.
demandé sur 2009-10-14 13:19:17
6
réponses

En utilisant bitwise ou 0 pour floor un nombre

un de mes collègues est tombé sur une méthode pour faire flotter des nombres en utilisant un bitwise ou: var a ... cas? La clarté est évidente, puisque nous avons dû la comprendre, et bien, j'écris cette question. Merci.
demandé sur 2011-09-20 19:47:08
4
réponses

Pourquoi la valeur en virgule flottante de 4*0.1 est-elle belle en Python 3 mais pas 3*0.1?

je sais que la plupart des décimales n'ont pas de représentation exacte en virgule flottante ( est-ce que les mathéma ... 16169452667236328125') >>> Decimal(4*0.1) Decimal('0.40000000000000002220446049250313080847263336181640625')
demandé sur 2016-09-21 17:07:21
4
réponses

Pourquoi Les Nombres À Virgule Flottante Sont-Ils Inexacts?

pourquoi certains nombres perdent-ils leur précision lorsqu'ils sont stockés sous forme de nombres à virgule flottante ... 2421875 comment un nombre aussi simple peut-il être " trop grand" pour exprimer en 64 bits de mémoire?
demandé sur 2014-02-20 04:39:02