首页
社区
课程
招聘
[求助]一个超疑惑的问题:同样的指令,同样的值,运算后结果不一样!
2008-8-10 11:55 3916

[求助]一个超疑惑的问题:同样的指令,同样的值,运算后结果不一样!

2008-8-10 11:55
3916
程序A和程序B,同样的代码:

A和B程序的st0 寄存器值均为:5175.0000000000000000

接下来执行 fsqrt 指令后.
A程序st0值为:
71.937472849690787840

B程序st0值为:
71.937472849690792030

多次执行均得到同样结果,百思不得其解.望大虾们指点一二.

附:

FSQRT--Square Root

Description:

Computes the square root of the source value in the ST(0) register and stores the result in ST(0).

[CTF入门培训]顶尖高校博士及硕士团队亲授《30小时教你玩转CTF》,视频+靶场+题目!助力进入CTF世界

收藏
点赞0
打赏
分享
最新回复 (4)
雪    币: 1946
活跃值: (238)
能力值: (RANK:330 )
在线值:
发帖
回帖
粉丝
Bughoho 8 2008-8-10 12:21
2
0
浮点数是有精度的,计算出来的结果会有误差
雪    币: 207
活跃值: (15)
能力值: ( LV2,RANK:10 )
在线值:
发帖
回帖
粉丝
athlor 2008-8-10 21:40
3
0
不知有其它答案否?
貌似有点牵强... 有误差,没道理每次计算误差都一样吧..?
雪    币: 200
活跃值: (10)
能力值: ( LV2,RANK:10 )
在线值:
发帖
回帖
粉丝
cncc 2008-8-10 22:00
4
0
有误差可以造成每次都不一样的
雪    币: 331
活跃值: (56)
能力值: ( LV13,RANK:410 )
在线值:
发帖
回帖
粉丝
Isaiah 10 2008-8-11 09:29
5
0
检查两个程序的浮点模型是否一样。

Precise
Strict
Fast
游客
登录 | 注册 方可回帖
返回