preguntar acerca de arbitrary-precision

3
réponses

Calcul de tableurs avec (au moins) la précision D’un double C

j'ai fait quelques calculs pour planifier une meilleure mise en oeuvre de mon tamis prime quand j'ai remarqué que le tableur Libre Office montrait les mauvaises valeurs pour les nombres bien en dessous de 2^53, qui est la limite pour des calculs d'en …
demandé sur 1970-01-01 00:33:35