preguntar acerca de significant-digits

10
réponses

Comment obtenir excel pour afficher un certain nombre de chiffres significatifs?

j'utilise excel et je veux afficher une valeur à un certain nombre de chiffres significatifs. j'ai essayé d'utiliser l'équation suivante =ROUND(value,sigfigs-1-INT(LOG10(ABS(value)))) avec la valeur remplacée par le nombre que j'utilise et sigf …
demandé sur 1970-01-01 00:33:33
11
réponses

Autour d’un double à X chiffres significatifs

si j'ai un double (234.004223), etc. Je voudrais arrondit à x chiffres significatifs en C#. jusqu'à présent, je ne peux trouver que des moyens de arrondir à la décimale x, mais cela enlève tout simplement la précision s'il y a des 0 dans le …
demandé sur 1970-01-01 00:33:28
10
réponses

La précision en virgule flottante est-elle mutable ou invariante?

je continue d'obtenir des réponses mitigées à savoir si les nombres à virgule flottante (i.e. float , double , ou long double ) ont une et une seule valeur de précision, ou ont une valeur de précision qui peut varier. un sujet appelé float v …
demandé sur 1970-01-01 00:33:35
17
réponses

L’arrondi à un nombre arbitraire de chiffres significatifs

Comment Pouvez-vous arrondir n'importe quel Nombre (pas seulement des entiers > 0) à N chiffres significatifs? Par exemple, si je veux ronde à trois chiffres significatifs, je suis à la recherche d'une formule qui pourrait prendre: …
demandé sur 1970-01-01 00:33:28