preguntar acerca de floating-point

Pourquoi ce bit de code, const float x[16] = { 1.1, 1.2, 1.3, 1.4, 1.5, 1.6, 1.7, 1.8, 1.9, 2.0, 2.1, 2.2, 2.3, 2.4, 2.5, 2.6}; const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, …

Un double 64 bits peut représenter un entier +/- 253 exactement Compte tenu de ce fait, je choisis d'utiliser un type double comme un type unique pour tous mes types, puisque mon plus grand entier est non signé 32 bits. Mais maintenant je dois imp …

J'essaie d'analyser deux valeurs à partir d'un datagrid. Les champs sont numériques, et quand ils ont une virgule (ex. 554,20), Je ne peux pas obtenir les nombres après la virgule. J'ai essayé parseInt et parseFloat. Comment puis-je faire cela? ... …

Le type de données float est un virgule flottante IEEE 754 32 bits à simple précision et le type de données double est un virgule flottante IEEE 754 64 bits à double précision. Qu'est-ce que ça veut dire? Et quand devrais-je utiliser float au lieu d …

J'ai des nombres flottants comme 3.2 et 1.6. J'ai besoin de séparer le nombre dans la partie entière et décimale. Par exemple, une valeur de 3.2 serait scindé en deux numéros, c'est à dire 3 et 0.2 Obtenir la partie entière est facile: n = Math.fl …

J'essaie de trouver la plus grande racine cubique qui est un nombre entier, c'est-à-dire moins de 12 000. processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see if this has decimals or not Je ne sais pas comm …

Disons que le goulot D'étranglement de mon programme Java est vraiment des boucles serrées pour calculer un tas de produits vectoriels. Oui j'ai profilé, Oui c'est le goulot d'étranglement, Oui c'est significatif, Oui c'est comme ça que l'algorithme …

J'ai écrit ce code: float b = 3.6; Et je reçois ceci: Error:Unresolved compilation problem: Type mismatch: cannot convert from double to float Pourquoi? Quelle est la définition de float? ... …

Comment convertir une chaîne contenant un nombre en sa valeur numérique en Perl? ... …

J'ai besoin de sortir 4 flotteurs différents à deux décimales. C'est ce que j'ai: print '%.2f' % var1,'kg =','%.2f' % var2,'lb =','%.2f' % var3,'gal =','%.2f' % var4,'l' Qui est très impur, et qui a l'air mauvais. Y a-t-il un moyen de faire flott …