preguntar acerca de precision

Il est important de noter que je ne cherche pas de fonction d'arrondi. Je cherche une fonction qui renvoie le nombre de décimales dans la représentation décimale simplifiée d'un nombre arbitraire. Autrement dit, nous avons ce qui suit: decimalPlace …

Je sais que Haskell a des types de données natifs qui vous permettent d'avoir de très gros entiers, donc des choses comme >> let x = 131242358045284502395482305 >> x 131242358045284502395482305 Travaillez comme prévu. Je me demandais …

Je voudrais varier la précision d'une double représentation dans une chaîne que je suis en train de formater en fonction de l'entrée de l'utilisateur. En ce moment, j'essaie quelque chose comme: String foo = String.format("%.*fn", precision, my_dou …

j'ai fait quelques calculs pour planifier une meilleure mise en oeuvre de mon tamis prime quand j'ai remarqué que le tableur Libre Office montrait les mauvaises valeurs pour les nombres bien en dessous de 2^53, qui est la limite pour des calculs d'en …

je suis en train de construire un classificateur multi-classe avec Keras 2.02 (avec TensorFlow backend) et je ne sais pas comment calculer la précision et le rappel dans Keras. S'il vous plaît aider moi. ... …

je suis confronté à un comportement étrange de la round() fonction: for i in range(1, 15, 2): n = i / 2 print(n, "=>", round(n)) ce code imprime: 0.5 => 0 1.5 => 2 2.5 => 2 3.5 => 4 4.5 => 4 5.5 => 6 6.5 => 6 J …

cette question a déjà une réponse ici: Quand dois-je utiliser le double au lieu du décimal? 12 réponses je vois toujours des g …

non, ce n'est pas un autre "Pourquoi est (1/3.0) * 3 != 1" question. j'ai beaucoup lu sur les floating-points récemment; plus précisément, comment le même calcul pourrait donner des résultats différents sur différentes architectures …

ce n'est pas une question car il est plus d'un être conscient. J'ai mis à jour une application qui utilise json_encode() à PHP7.1.1 et je voyais un problème avec les flotteurs changés pour parfois étendre 17 chiffres. Selon la documentation, PHP 7. …

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } le code ci-dessus imprime: 11.399999999999 …