-
-
[原创]某程 encode 算法分析
-
发表于: 2025-2-10 19:21
-
样本与之前的魔改MD5是同一个so，不过魔改MD5的文章没了，so放在附件了
第一个传参是明文，第二个传参是请求体的长度
代码逻辑很清晰了，将明文，明文长度和输出都传进了 ctrip_enc
直接进入 ctrip_enc
填充模式
这里可以看到他对明文长度进行了计算，将受影响的算法提取出来
|
1
2
3
4
5
6
7
8
9
10
11
12
13
|
if ( (input_len & 0xF) != 0 )
input_len_10 = (input_len + 16) & 0xFFFFFFF0;
else
input_len_10 = input_len + 16;
// ============================== //
if ( (input_len & 0xF) != 0 )
v8 = 16 - (input_len & 0xF);
else
v8 = 16;
//===============================//
input_ = (char *)malloc(input_len_10);
memcpy(input_, input, (unsigned int)input_len);
memset(&input_[input_len], v8, (unsigned int)(v8 - 1) + 1LL);
|
如果明文长度是 16的倍数，就+16，如果不是16的倍数就+16再向下对齐到偶数长度
然后如果明文长度是16的倍数，v8赋值为16，如果不是16的倍数就v8赋值为 16 - (input_len & 0xF);
再申请长度对齐后的空间，将明文 和 v8 都 赋值过去
以上，其实他实际上就是实现标准的 AES 的 pkcs7 填充模式，没有进行魔改
而后将 填充后的明文和长度，进入方法 ctrip_enc_internal
1 |
v10 = ctrip_enc_internal((__int64)input_, input_len_10, &v12, 16, output);
|
v12的值上面可以看到赋值是， v12 = xmmword_112D4; 直接点过去
看着啥也不像，长度正好为 16，暂且将这个当做一个 IV 吧
encrypt_one 生成真实key
进入方法 ctrip_enc_internal
一步步来，首先random_key，就是通过时间生成随机数，得到一个随机key
然后将随机key和上面的iv，v20 传入 encrypt_one
通过下面v20的方法调用发现 aes_setkey_enc(CTX, v20, 0x80u);
那么大胆猜测 v20 就是真实key，随机数+iv 通过 encrypt_one方法计算得出真实的aes key
看一下关键的 encrypt_one 方法
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
|
void __fastcall encrypt_one(_OWORD *randomkey, _OWORD *iv, unsigned __int8 **a3)
{ // [COLLAPSED LOCAL DECLARATIONS. PRESS NUMPAD "+" TO EXPAND]
aes_gen_tables();
v6 = (unsigned __int8 *)malloc(0x10uLL);
*a3 = v6;
v7 = v6;
*(_OWORD *)v6 = *randomkey;
v8 = (int8x8_t *)malloc(0x10uLL);
*(_OWORD *)v8->n64_u64 = *iv;
sbox = get_sbox();
v10 = v7[1];
v11 = v7[2];
v12 = v7[3];
v13 = *(_BYTE *)(sbox + *v7);
v14 = v7[4];
v15 = v7[5];
v16 = v7[6];
*v7 = v13;
LOBYTE(v10) = *(_BYTE *)(sbox + v10);
v17 = v7[7];
v18 = v7[8];
v19 = v7[9];
v7[1] = v10;
LOBYTE(v11) = *(_BYTE *)(sbox + v11);
v20 = v7[10];
v21 = v7[11];
v22 = v7[12];
v7[2] = v11;
LOBYTE(v12) = *(_BYTE *)(sbox + v12);
v27.n64_u8[0] = v13;
v23 = v7[13];
v27.n64_u8[1] = v10;
v7[3] = v12;
LOBYTE(v14) = *(_BYTE *)(sbox + v14);
v24 = v7[14];
v27.n64_u8[2] = v11;
v25 = v7[15];
v7[4] = v14;
LOBYTE(v15) = *(_BYTE *)(sbox + v15);
v27.n64_u8[3] = v12;
v27.n64_u8[4] = v14;
v26 = 2;
v7[5] = v15;
LOBYTE(v16) = *(_BYTE *)(sbox + v16);
v27.n64_u8[5] = v15;
v7[6] = v16;
LOBYTE(v17) = *(_BYTE *)(sbox + v17);
v27.n64_u8[6] = v16;
v7[7] = v17;
LOBYTE(v18) = *(_BYTE *)(sbox + v18);
v27.n64_u8[7] = v17;
v7[8] = v18;
LOBYTE(v19) = *(_BYTE *)(sbox + v19);
v29.n64_u8[0] = v18;
v7[9] = v19;
LOBYTE(v20) = *(_BYTE *)(sbox + v20);
v29.n64_u8[1] = v19;
v7[10] = v20;
LOBYTE(v21) = *(_BYTE *)(sbox + v21);
v29.n64_u8[2] = v20;
v7[11] = v21;
v28 = *(_BYTE *)(sbox + v22);
v29.n64_u8[3] = v21;
v7[12] = v28;
LOBYTE(v10) = *(_BYTE *)(sbox + v23);
v29.n64_u8[4] = v28;
v7[13] = v10;
LOBYTE(v11) = *(_BYTE *)(sbox + v24);
v29.n64_u8[5] = v10;
v7[14] = v11;
v29.n64_u8[6] = v11;
v29.n64_u8[7] = *(_BYTE *)(sbox + v25);
v7[15] = v29.n64_u8[7];
while ( 1 )
{
v30 = veor_s8(v29, v8[1]).n64_u64[0];
*(int8x8_t *)v7 = veor_s8(v27, (int8x8_t)v8->n64_u64[0]);
*((_QWORD *)v7 + 1) = v30;
row_rotation(v7, 4LL, 1LL);
if ( !v26 )
break;
column_rotation(v8, 4LL, 1LL);
v31 = get_sbox();
v32 = v8->n64_u8[1];
v27.n64_u64[0] = *(unsigned __int64 *)v7;
v29.n64_u64[0] = *(_QWORD *)(v7 + 8);
--v26;
v8->n64_u8[0] = *(_BYTE *)(v31 + v8->n64_u8[0]);
v33 = *(_BYTE *)(v31 + v32);
v34 = v8->n64_u8[2];
v8->n64_u8[1] = v33;
v35 = *(_BYTE *)(v31 + v34);
v36 = v8->n64_u8[3];
v8->n64_u8[2] = v35;
v37 = *(_BYTE *)(v31 + v36);
v38 = v8->n64_u8[4];
v8->n64_u8[3] = v37;
v39 = *(_BYTE *)(v31 + v38);
v40 = v8->n64_u8[5];
v8->n64_u8[4] = v39;
v41 = *(_BYTE *)(v31 + v40);
v42 = v8->n64_u8[6];
v8->n64_u8[5] = v41;
v43 = *(_BYTE *)(v31 + v42);
v44 = v8->n64_u8[7];
v8->n64_u8[6] = v43;
v45 = *(_BYTE *)(v31 + v44);
v46 = v8[1].n64_u8[0];
v8->n64_u8[7] = v45;
v47 = *(_BYTE *)(v31 + v46);
v48 = v8[1].n64_u8[1];
v8[1].n64_u8[0] = v47;
v49 = *(_BYTE *)(v31 + v48);
v50 = v8[1].n64_u8[2];
v8[1].n64_u8[1] = v49;
v51 = *(_BYTE *)(v31 + v50);
v52 = v8[1].n64_u8[3];
v8[1].n64_u8[2] = v51;
v53 = *(_BYTE *)(v31 + v52);
v54 = v8[1].n64_u8[4];
v8[1].n64_u8[3] = v53;
v55 = *(_BYTE *)(v31 + v54);
v56 = v8[1].n64_u8[5];
v8[1].n64_u8[4] = v55;
v57 = *(_BYTE *)(v31 + v56);
v58 = v8[1].n64_u8[6];
v8[1].n64_u8[5] = v57;
v59 = *(_BYTE *)(v31 + v58);
v60 = v8[1].n64_u8[7];
v8[1].n64_u8[6] = v59;
v8[1].n64_u8[7] = *(_BYTE *)(v31 + v60);
}
free(v8);
} |
代码量还是比较小的，而且没有加混淆，感觉好处理，那就一步步看
s盒替换
首先调用 aes_gen_tables();，但是这个方法没有入参也没有返回，就当是初始化方法，暂时先不管，遇到了再回来看
|
1
2
3
|
v7= v6 = *randomkey;
v8->n64_u64 = *iv;
sbox = get_sbox();
|
这里然后将randomkey赋值给了v7，iv赋值给了v8， 以及获取了sbox
|
1
2
3
4
5
|
char *get_fbox()
{ aes_gen_tables();
return &byte_1D090;
} |
点过去 byte_1D090 发现没有值，那么aes_gen_tables 实际上就是为了给这个sbox赋值
unidbg 看下返回结果
对比标准的sbox
|
1
2
3
4
5
|
Sbox = (
0x63, 0x7C, 0x77, 0x7B, 0xF2, 0x6B, 0x6F, 0xC5, 0x30, 0x01, 0x67, 0x2B, 0xFE, 0xD7, 0xAB, 0x76,
0xCA, 0x82, 0xC9, 0x7D, 0xFA, 0x59, 0x47, 0xF0, 0xAD, 0xD4, 0xA2, 0xAF, 0x9C, 0xA4, 0x72, 0xC0,
。。。。。。
) |
从头到尾，一个个对比过了，没毛病，一个字没动
后面的代码非常长，而且有点不太好看逻辑
但是如果我们细心观察，我们就可以发现，他的从v7中取值和赋值是可以 一 一对应上的
将代码整理一下：
|
1
2
3
4
|
v10 = v7[1];
LOBYTE(v10) = *(_BYTE *)(sbox + v10);
v11 = v7[2];
LOBYTE(v11) = *(_BYTE *)(sbox + v11);
|
不就是取值然后把取的值当成索引嘛，直接使用 java 进行还原
|
1
2
3
4
5
6
|
private static void take_sbox(byte[] data) { for (int i = 0; i < data.length; i++) {
int byte_data = data[i] & 0xFF;
data[i] = SBOX[byte_data];
}
} |
所以，这个方法前面的那么大一串，实际上6行就能解决，实际上就是做了s盒替换
行移位+列混淆
然后就进入了一个while循环
里面其实就调用了两个方法
|
1
2
|
row_rotation(v7, 4LL, 1LL);
column_rotation(v8, 4LL, 1LL);
|
至于后面的一大串代码就很熟悉了，get_sbox()，v33 = *(_BYTE *)(sbox_1 + v32);
就是上面刚说过的s盒替换，不过是这里换成了 iv 去替换
最后于 2025-2-11 16:36
被Lychow编辑
，原因：
|
|
|---|---|
|
|
|
|
|
熊佬带带弟弟 
|
|
|
太强辣，xc哥求带
|
|
|
|
