preguntar acerca de floating-accuracy

bc n'aime pas les nombres exprimés en notation scientifique (aka notation exponentielle). $ echo "3.1e1*2" | bc -l (standard_in) 1: parse error Mais je dois l'utiliser pour gérer quelques enregistrements qui sont exprimés dans cette notation. Exis …

Je voudrais varier la précision d'une double représentation dans une chaîne que je suis en train de formater en fonction de l'entrée de l'utilisateur. En ce moment, j'essaie quelque chose comme: String foo = String.format("%.*fn", precision, my_dou …

J'essaie la fonction EXP (x) rapide qui a été décrite précédemment dans cette réponse à une question SO sur l'amélioration de la vitesse de calcul en C#: public static double Exp(double x) { var tmp = (long)(1512775 * x + 1072632447); return …

j'ai fait quelques calculs pour planifier une meilleure mise en oeuvre de mon tamis prime quand j'ai remarqué que le tableur Libre Office montrait les mauvaises valeurs pour les nombres bien en dessous de 2^53, qui est la limite pour des calculs d'en …

... …

j'essaie de tronquer les nombres décimaux en décimales. Quelque chose comme ceci: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2) n'a juste la bonne chose, mais il arrondit la valeur. Je n'ai pas besoin que la valeur soit arrond …

Comment expliquez-vous l'inexactitude de la virgule flottante aux nouveaux programmeurs et profanes qui pensent encore que les ordinateurs sont infiniment sages et précis? Avez-vous un exemple ou une anecdote préférée qui semble faire passer l …

dans les bibliothèques standard C++, Je n'ai trouvé qu'une méthode de journal à virgule flottante. Maintenant j'utilise log pour trouver le niveau d'un index dans un arbre binaire ( floor(2log(index)) ). Code (C++): int targetlevel …

je sais que la plupart des décimales n'ont pas de représentation exacte en virgule flottante ( est-ce que les mathématiques en virgule flottante sont brisées? ). mais je ne vois pas pourquoi 4*0.1 est joliment imprimé comme 0.4 , mais …

cette question a déjà une réponse ici: est-ce que les maths à virgule flottante sont cassées? 27 Réponses $a = '35'; $b = '-34.9 …