-
-
[旧帖]
[已解决]请教关于浮点数指令
0.00雪花
-
发表于:
2011-11-8 21:21
1139
-
[旧帖] [已解决]请教关于浮点数指令
0.00雪花
我在使用浮点堆栈的时候有时通过fild压入一个整数,或者类似fld st(0)从浮点堆栈压入数时,有时会出现像图上的那类错误,也就是压入堆栈的数成了一个NaN
请问在什么条件下会出现这种情况?如何避免?
我猜想是压入堆栈的数超过了8个以后会出现这样的情况,但是我有个程序用fincstp指令正常退栈也一样会出现这样的错误。求指教!
例如我的这个代码:
http://www.cnblogs.com/bombless/archive/2011/11/08/2240732.html
问题出在_highest_digit_when_not_less_than_1标号处。
求大家帮帮我!
[课程]Linux pwn 探索篇!