preguntar acerca de floating-point

Existe-t-il une valeur standard pour (ou une méthode pour obtenir) epsilon en Python? J'ai besoin de comparer les valeurs à virgule flottante et je veux comparer avec la plus petite différence possible. En C++, il y a une fonction fournie numeric_l …

Considérez #include <iostream> int main() { double a = 1.0 / 0; double b = -1.0 / 0; double c = 0.0 / 0; std::cout << a << b << c; // to stop compilers from optimising out the code. } J'ai toujours pens …

Il y a des années, j'ai appris à la dure les problèmes de précision avec les flotteurs, alors j'ai arrêté de les utiliser. Cependant, je rencontre toujours du code en utilisant des flotteurs et cela me fait grincer des dents parce que je sais que ce …

Même si Lua ne fait pas de différence entre les nombres à virgule flottante et les entiers, il y a des cas où vous voulez utiliser des entiers. Quelle est la meilleure façon de cacher un nombre à un entier si vous ne pouvez pas faire une distribution …

Il semble que la norme IEEE 754 définit 16 777 214 valeurs à virgule flottante 32 bits comme NaNs, soit 0,4% de toutes les valeurs possibles. Je me demande Quelle est la raison de réserver autant de valeurs utiles, alors que seulement 2 sont essenti …

En Python 2, floor() renvoie une valeur flottante. Bien que ce ne soit pas évident pour moi, j'ai trouvé quelques explications expliquant pourquoi il peut être utile d'avoir floor() return float (pour des cas comme float('inf') et float('nan')). Ce …

Il est important de noter que je ne cherche pas de fonction d'arrondi. Je cherche une fonction qui renvoie le nombre de décimales dans la représentation décimale simplifiée d'un nombre arbitraire. Autrement dit, nous avons ce qui suit: decimalPlace …

Quelles sont ses valeurs les plus petites et les plus grandes en python? ... …

Je maintiens un script Python qui utilise xlrd pour récupérer des valeurs à partir de feuilles de calcul Excel, puis faire diverses choses avec eux. Certaines des cellules de la feuille de calcul sont des nombres de haute précision, et elles doivent …

On m'a demandé de tester une bibliothèque fournie par un tiers. La bibliothèque est connue pour être précise à n chiffres significatifs. Toutes les erreurs moins significatives peuvent être ignorées en toute sécurité. Je veux écrire une fonction pour …