首页
社区
课程
招聘
[求助]一个超疑惑的问题:同样的指令,同样的值,运算后结果不一样!
发表于: 2008-8-10 11:55 4339

[求助]一个超疑惑的问题:同样的指令,同样的值,运算后结果不一样!

2008-8-10 11:55
4339
程序A和程序B,同样的代码:

A和B程序的st0 寄存器值均为:5175.0000000000000000

接下来执行 fsqrt 指令后.
A程序st0值为:
71.937472849690787840

B程序st0值为:
71.937472849690792030

多次执行均得到同样结果,百思不得其解.望大虾们指点一二.

附:

FSQRT--Square Root

Description:

Computes the square root of the source value in the ST(0) register and stores the result in ST(0).

[注意]传递专业知识、拓宽行业人脉——看雪讲师团队等你加入!

收藏
免费 0
支持
分享
最新回复 (4)
雪    币: 1946
活跃值: (248)
能力值: (RANK:330 )
在线值:
发帖
回帖
粉丝
2
浮点数是有精度的,计算出来的结果会有误差
2008-8-10 12:21
0
雪    币: 207
活跃值: (15)
能力值: ( LV2,RANK:10 )
在线值:
发帖
回帖
粉丝
3
不知有其它答案否?
貌似有点牵强... 有误差,没道理每次计算误差都一样吧..?
2008-8-10 21:40
0
雪    币: 200
活跃值: (10)
能力值: ( LV2,RANK:10 )
在线值:
发帖
回帖
粉丝
4
有误差可以造成每次都不一样的
2008-8-10 22:00
0
雪    币: 331
活跃值: (56)
能力值: ( LV13,RANK:410 )
在线值:
发帖
回帖
粉丝
5
检查两个程序的浮点模型是否一样。

Precise
Strict
Fast
2008-8-11 09:29
0
游客
登录 | 注册 方可回帖
返回
//