使用od发现正常执行无法解析算法

发现有溢出

在text段有混淆代码

使用od run跟踪得到xi

ADD ESP,-0x10
XOR EAX,EAX
MOV DWORD PTR DS:[0x41B034],EAX

字符缓冲区

POP EAX
MOV ECX,EAX ECX == v0

POP EAX
MOV EBX,EAX EBX == v1

POP EAX EAX=31313039, ESP=0012FF48
MOV EDX,EAX EDX == x

MOV EAX,ECX
SUB EAX,EBX EAX = v0-v1
SHL EAX,0x2 EAX =(v0-v1)4
ADD EAX,ECX EAX =(v0-v1)4+v0
ADD EAX,EDX EAX =(v0-v1)4+v0+z
SUB EAX,0xEAF917E2
(v0-v1)4 + v0+ x =0xEAF917E2

ADD EAX,ECX
SUB EAX,EBX
MOV EBX,EAX
SHL EAX,1 EAX =(v0-v1)2
ADD EAX,EBX EAX =(v0-v1) 3
ADD EAX,ECX EAX +=v0
MOV ECX,EAX ECX =(v0+v1)3+v0
ADD EAX,EDX EAX=+x
SUB EAX,0xE8F508C8
(v0-v1)3+v0+x=0xE8F508C8

MOV EAX,ECX EAX=(v0-v1)3+v0
MOV EAX,ECX
SUB EAX,EDX EAX =(v0-v1)3+v0-x

SUB EAX,0xC0A3C68
(v0-v1)*3+v0 -x =0xC0A3C68

POP EAX
XOR EAX,0x81010
MOV EDI,EAX
XOR EAX,EAX
STOS DWORD PTR ES:[EDI]
CALL ctf2017_.00413841
POP EAX
PUSH EAX
MOV EDI,EAX
MOV EDI,EAX
PUSH 0x4E000969
POP EAX
XOR EAX,EDX
STOS DWORD PTR ES:[EDI]
XOR EAX,0x10A3E
STOS DWORD PTR ES:[EDI]
XOR EAX,EBX
XOR EAX,0x22511E14
STOS DWORD PTR ES:[EDI]
XOR EAX,0x61642D
XOR EAX,DWORD PTR DS:[0x41B034]
JMP EAX

使用od发现正常执行无法解析算法

发现有溢出

在text段有混淆代码

使用od run跟踪得到xi

[CTF入门培训]顶尖高校博士及硕士团队亲授《30小时教你玩转CTF》，视频+靶场+题目！助力进入CTF世界