preguntar acerca de floating-point-precision

5
réponses

Pourquoi la boucle for utilisant un double échoue-t-elle à se terminer

Je regarde à travers les anciennes questions d'examen (actuellement première année d'uni.) et je me demande si quelqu'un pourrait expliquer un peu plus en profondeur pourquoi la boucle for suivante ne se termine pas quand elle est supposée le faire. …
demandé sur 1970-01-01 00:33:33
3
réponses

Précision, pourquoi Matlab et Python numpy donnent-ils des sorties si différentes?

je connais les types de données de base et que les types float (float, double) ne peuvent pas contenir certains nombres exactement. en transférant du code de Matlab à Python (Numpy), j'ai cependant trouvé des différences significatives dans les calc …
demandé sur 1970-01-01 00:33:31
6
réponses

Spécificateur de largeur Printf pour maintenir la précision de la valeur à virgule flottante

y a-t-il un spécificateur de largeur printf qui peut être appliqué à un spécificateur de virgule flottante qui formaterait automatiquement la sortie au nombre nécessaire de chiffres significatifs de sorte que lors de la numérisation de la chaîne, …
demandé sur 1970-01-01 00:33:33
10
réponses

La précision en virgule flottante est-elle mutable ou invariante?

je continue d'obtenir des réponses mitigées à savoir si les nombres à virgule flottante (i.e. float , double , ou long double ) ont une et une seule valeur de précision, ou ont une valeur de précision qui peut varier. un sujet appelé float v …
demandé sur 1970-01-01 00:33:35