首页
社区
课程
招聘
未解决 [求助]求助float、double表示的范围和精度是如何算出来的。
发表于: 2019-2-22 23:54 2141

未解决 [求助]求助float、double表示的范围和精度是如何算出来的。

2019-2-22 23:54
2141



网上有说法表示float能表示的范围取决于指数部分。如float的指数位范围为:[-127,128],故float可以表示的范围为  -2^128 至  +2^127 。
float的精度 (此精度为整数和小数的位数之和) 由尾数决定。即  10^6 < 2^23 = 8388608   < 10^7。 即float的精度(此精度为整数和小数的位数之和)最大为 7
double和float类似。
请问哪位大神知道上面是不是对的。因为网上说法太多,且大部分都不一样。谁能给我讲讲原理。

[招生]科锐逆向工程师培训(2024年11月15日实地,远程教学同时开班, 第51期)

收藏
免费 0
支持
分享
最新回复 (0)
游客
登录 | 注册 方可回帖
返回
//