-
-
未解决 [求助]求助float、double表示的范围和精度是如何算出来的。
-
发表于: 2019-2-22 23:54 2141
-
网上有说法表示float能表示的范围取决于指数部分。如float的指数位范围为:[-127,128],故float可以表示的范围为 -2^128 至 +2^127 。
但float的精度
(此精度为整数和小数的位数之和)
由尾数决定。即 10^6 < 2^23 =
8388608
< 10^7。 即float的精度(此精度为整数和小数的位数之和)最大为 7。
double和float类似。
请问哪位大神知道上面是不是对的。因为网上说法太多,且大部分都不一样。谁能给我讲讲原理。
[招生]科锐逆向工程师培训(2024年11月15日实地,远程教学同时开班, 第51期)
赞赏
看原图
赞赏
雪币:
留言: