查看SEH异常链，位于 0x3650, 使用IDA f5 查看没啥特殊的，只是通过不同的异常类型来处理，直接忽略对应的异常即可
IDA 如下

我们需要达到的目标就是传入的 0x2070 (函数设为 enc)
也就是 调用 enc(key, 0x10, ctf, tmp, 0x20) 后, memcmp(tmp, R, 0x20) == 0

首先，第一步， key是固定的，那么有没有可能是对称的算法，直接把 ctf替换成 R的值是不是就可以破解了，
替换后，结果如下

这一看就不是目标，那算法肯定不是对称的或者enc不是dec算法。那么再测试一下enc算法一些规律
比如 全是 0x00，结果如下

比如 0x11 4 0x22 4 0x33 4 0x44 4

暂时只能确认每0x10进行的加密

首先，用IDA F5看看

简单分析就出来，sub_4010BE 是初始化KEY的，单步如下
生成表格如下:

这个表定义为 sbox
那么 算法如下:

从算法大概看，应该就是这些算法的逆算法就可以解密了, 直接撸逆算法

看了一下就是 新坐标 0, 4, 8, 12 -> 原坐标为 0, 1, 2, 3
比如 01, 02, 03, 04, 05, 06, 07, 08, 09, 10, 11, 12, 13, 14, 15, 16
变成 01, 05, 09, 13, 02, 06, 10, 14, 03, 07, 11, 15, 04, 08, 12, 16
再次调用就回来了，算法逆算法都是同一个

对称算法，固定即可

表置换，将表置换回来即可。
目标值为

得到置换表(循环遍历表，每个值就是新表坐标，当前坐标为值)如下:

无法F5， 单步即可

就是取每四个字节进行移动, 逆向算法如下

代码如下:

这个就比较复杂了，首先拷贝到临时变量里面
然后就是使用 0x401d50计算得到 四组 dword值再异或为 新的 一个dword， 这样计算完成组成新的十六字节
其中 sub_401D50 设为 H
那么设 01, 02, 03, 04, 05, 06, 07, 08, 09, 10, 11, 12, 13, 14, 15, 16
v1 = H(2, 01)
v2 = H(3, 05)
v3 = H(1, 09)
v4 = H(1, 13)
新的值就是 H(2, 01) ^ H(3, 05) ^ H(1, 09) ^ H(1, 13)
下一个是 H(1, 02) ^ H(2, 06) ^ H(3, 10) ^ H(1, 14)
H(1, 03) ^ H(1, 07) ^ H(2, 11) ^ H(3, 15)
H(3, 04) ^ H(1, 08) ^ H(1, 12) ^ H(2, 16)

那如果结果是以下
17 0A 0B 14 03 2A 2B 34 23 18 19 12 29 38 39 3A
怎么推导以上结果呢，
17 H(2, 01) ^ H(3, 05) ^ H(1, 09) ^ H(1, 13)
03 H(1, 02) ^ H(2, 06) ^ H(3, 10) ^ H(1, 14)
23 H(1, 03) ^ H(1, 07) ^ H(2, 11) ^ H(3, 15)
29 H(3, 04) ^ H(1, 08) ^ H(1, 12) ^ H(2, 16)

这里面肯定可以通过H算法得到移位，然后得到逆算法，这里为了赶时间，直接写出来暴力算法，其中每一个4字节是独立的， 如下

完整的十六字节计算如下

和 sub_401500 一样

逆算法就是将所有算法反着跑一遍就出来了

最后得到结果： "f{cdld6fabaeg58c4c96d5840590e69}";
然后调整一下位置:

[注意]传递专业知识、拓宽行业人脉——看雪讲师团队等你加入！