preguntar acerca de significant-digits
10
réponses
Comment obtenir excel pour afficher un certain nombre de chiffres significatifs?
j'utilise excel et je veux afficher une valeur à un certain nombre de chiffres significatifs.
j'ai essayé d'utiliser l'équation suivante
=ROUND(value,sigfigs-1-INT(LOG10(ABS(value))))
avec la valeur remplacée par le nombre que j'utilise et sigf …
demandé sur
1970-01-01 00:33:33
11
réponses
Autour d’un double à X chiffres significatifs
si j'ai un double (234.004223), etc. Je voudrais arrondit à x chiffres significatifs en C#.
jusqu'à présent, je ne peux trouver que des moyens de arrondir à la décimale x, mais cela enlève tout simplement la précision s'il y a des 0 dans le …
demandé sur
1970-01-01 00:33:28
10
réponses
La précision en virgule flottante est-elle mutable ou invariante?
je continue d'obtenir des réponses mitigées à savoir si les nombres à virgule flottante (i.e. float , double , ou long double ) ont une et une seule valeur de précision, ou ont une valeur de précision qui peut varier.
un sujet appelé float v …
demandé sur
1970-01-01 00:33:35
17
réponses
L’arrondi à un nombre arbitraire de chiffres significatifs
Comment Pouvez-vous arrondir n'importe quel Nombre (pas seulement des entiers > 0) à N chiffres significatifs?
Par exemple, si je veux ronde à trois chiffres significatifs, je suis à la recherche d'une formule qui pourrait prendre: …
demandé sur
1970-01-01 00:33:28