-
-
未解决 [求助]求助float、double表示的范围和精度是如何算出来的。
-
发表于: 2019-2-22 23:54
-
网上有说法表示float能表示的范围取决于指数部分。如float的指数位范围为：[-127,128]，故float可以表示的范围为 -2^128 至 +2^127 。
但float的精度
（此精度为整数和小数的位数之和）
由尾数决定。即 10^6 < 2^23 =
8388608
< 10^7。 即float的精度（此精度为整数和小数的位数之和）最大为 7。
double和float类似。
请问哪位大神知道上面是不是对的。因为网上说法太多，且大部分都不一样。谁能给我讲讲原理。
[招生]科锐逆向工程师培训(2024年11月15日实地，远程教学同时开班, 第51期)
|
|
|---|---|
