首页
社区
课程
招聘
[原创]xdec:为去 VMP 而生的可编程反编译引擎(ai文)
发表于: 4小时前 165

[原创]xdec:为去 VMP 而生的可编程反编译引擎(ai文)

4小时前
165

这个是以前windows vmp基本都是这个思路,但是大家实现不一样,xdec也只是在ai时代做的更加完善,其实跟以前我的zhuzhu-Top/de_vm本质思路是一致的

我一直很喜欢binja,开源了很多内容,但是还核心的il不做开源,导致无法进一步定制,我期待是类似js vmp还原一样的思路,直接遍历ast完成还原,现在xdec也可以做到了,xdec也能作为一款非常轻便的反编译工具,对大二进制文件有奇效,我会持续迭代优化xdec

因为是自己的反编译工具,所以在trace方面也能做的更好,xdec可以作为类似unicorn的工具,进而实现字节/位级别的污点传播(这些都是我实际用xdec已经实现的工具),虽然现在ai时代模型能力越来越强,但是这些都是很有趣的技术

面对一个 VMP(Virtual Machine Protection) 或 OLLVM + 自定义虚拟机 混合保护的算法模块:

为了彻底解决这个问题,我从头设计并开源了 xdec —— 一个从架构第一天起就专为去混淆与去虚拟化(Devirtualization)而生的 C++20 多级 IL 反编译库与 Python 绑定(pyxdec)。

开源仓库:zhuzhu-Top/xdec

商业与自研 VMP 的实现五花八门:

把每家 VMP 的解包/解码逻辑硬编码进反编译器核心是不现实的。真正优雅的解法不是「替你猜所有 VMP」,而是把反编译器做成一套可编程底层库(Library-First):

一句话总结:你只需要用几十行 Python 描述「字节码怎么解码」,剩下的常量折叠、虚拟栈/寄存器提升、MBA 化简、循环结构化、C 代码还原和 Bit-Exact 执行校验,全部由 xdec 核心自动接管。

xdec 的 il::RegisterFile 原生支持任意数量、任意位宽、带父子视图(zero-extend / preserve)的虚拟寄存器;中段管线通过 analysis::AbiSpec 解耦了所有架构假设。无论是 128 个 64-bit 寄存器的 RISC 虚拟机,还是只有 vSP/vPC 的栈式虚拟机,都是 xdec 的一等公民。

decompile(..., structured_exprs=True) 同时导出带 il_expr/il_op/il_blocks 溯源的结构化 AST 与底层规范化 IL DAG。summarize_case_effects() 可从解释器的任意一个 case 或分支块中自动拆出:

面对没有规整 switch(opcode) 的 OLLVM 控制流平坦化 或 滚动 key 字节码解释器,xdec.specialize() 按 (pc, StateKey) 自动沿路径展开、折叠常量分支与不可变查表、并在命中已访问状态时自动连回边形成循环。

优化反编译完以后,怎么证明自己的去虚拟化没有引入 1 bit 偏差?
xdec.il.Interpreter(支持跨块 Phi 求值、多函数 subfunctions 递归调用以及单次求值 DAG memoization)与 xdec.diff_verify() 可以直接执行提升后的原始 Cfg IL 和优化后的 Vars IL,与真实向量逐字节比对。

仓库中的 samples/rqt/ 提供了一个完全自包含的脱敏真实样本(vm_payload.bin,115,776 B 的 XIMG ELF64 虚拟载荷 + vm_fmt.json 指令格式表,无需任何外部私有二进制即可一键运行)。

这个样本实现了一个受 128 寄存器自定义 RISC 虚拟机保护的摘要令牌计算模块:

在 samples/rqt/devirt_rqt.py 中,我们只需要声明 r0..r127 寄存器文件和 AbiSpec:

随后把 .rodata/.text/.got 作为 immutable=True 层挂载进 xdec.LayeredMemory(),用 xdec.il.FunctionBuilder 按解码出的指令逐条构建 IL,再直接送入:

执行:

总耗时 ~1.0 秒,实测输出:

看看从加密虚拟机里直接还原出来的 C 代码质量:

i % 3 == 0 切换两张轮常数表(0x100002d0 / 0x100003d0)以及 (7, 13, 17)、(5, 11, 19) 的魔改循环移位量直接呈现在 C 表达式中;

在 xdec 的架构规范(docs/00-core-vs-plugin-prompt.md)中,有一条铁律:
任何针对具体样本的硬编码、启发式、专用魔法数,一律禁止进入 Core。

如果你也在被各类定制 VMP、OLLVM 平坦化或白盒密码折磨,欢迎试用并一起共建 xdec:

┌────────────────────────────────────────────────────────────────────────────┐
│                上层分析脚本层 (Python / pyxdec,按目标样本定制)              │
│                                                                            │
│  [1] Load & Bootstrap   xdec.Image / LayeredMemory / RuntimeOracle         │
│         │               加载并挂载解密、重定位后的虚拟载荷                   │
│         ▼                                                                  │
│  [2] Dual-View 模式识别 xdec.Image.decompile(structured_exprs=True)        │
│                         遍历结构化 HlStmt/HlExpr AST + summarize_case_effects │
│         │               批量自动化聚类解释器 Handler 语义                    │
│         ▼                                                                  │
│  [3] 提升为标准 IL      xdec.il.FunctionBuilder + xdec.AbiSpec             │
│                         为任意自定义虚拟架构构造 il::Function               │
│         │                                                                  │
│         ▼                                                                  │
│  [4] 回流优化与校验     xdec.decompile_from_il() + xdec.il.Interpreter     │
│                         白嫖 SSA/MBA/Structurizer 出 C,并做 Bit-Exact 校验 │
└──────────────────────────┬─────────────────────────────────────────────────┘
                           │
                           ▼
┌────────────────────────────────────────────────────────────────────────────┐
│                        xdec Core (纯通用底层引擎)                           │
│  • 数据驱动 ISA: il::RegisterFile + analysis::AbiSpec + Custom32/64        │
│  • 私有状态消除: passes::RegionMem2Reg + passes::RegionDSE                  │
│  • 常量与代数化简: const-fold-memory + SCCP + MBA 恒等式 + Oracle 验证门禁   │
│  • 可选部分求值: devirt::Specializer ((pc, StateKey) 上下文敏感展开)        │
│  • 校验闭环: il::Interpreter (DAG memoized) + devirt::DiffVerifier         │
└────────────────────────────────────────────────────────────────────────────┘
rf = xdec.il.RegisterFile()
R = [
    rf.add(
        f"r{i}", 64,
        xdec.il.RegClass.General if i != 125 else xdec.il.RegClass.StackPointer,
    )
    for i in range(128)
]
abi = xdec.AbiSpec(
    name="vm-128-64",
    stack_pointer=R[125],
    link_register=R[127],
    int_arg_regs=R[0:8],
    int_ret_regs=[R[0]],
    callee_saved_regs=R[8:125] + [R[126], R[127]],
    caller_saved_regs=R[0:8],
)
res = xdec.decompile_from_il(fn_cfg, abi=abi, memory=layered, names=names)
python samples/rqt/devirt_rqt.py
[1/4] Loaded anonymized VM payload (115,776 B), entry cs @ 0x10004000
[2/4] Lifting VM functions into xdec::il::Function ...
  lifted cs @ 0x10004000: 333 basic blocks
[3/4] Decompiling cs via xdec.decompile_from_il ...
  wrote samples\rqt\output\cs.c (6069 lines, labeled=32, vars_blocks=333)
  lifted vm_init_array @ 0x10016520: 4 basic blocks
  wrote samples\rqt\output\vm_init_array.c (21 lines, labeled=0, vars_blocks=4)
  lifted vm_memcpy @ 0x10016588: 33 basic blocks
  wrote samples\rqt\output\vm_memcpy.c (271 lines, labeled=6, vars_blocks=33)
  lifted vm_memset @ 0x10016a2c: 12 basic blocks
  wrote samples\rqt\output\vm_memset.c (84 lines, labeled=2, vars_blocks=12)
[4/4] Executing cs via xdec.il.Interpreter (Bit-Exact check) ...
  Cfg (raw lifted): out_u32=0x44704227 (expected=0x44704227), out_len=4
  Vars (xdec optimized): out_u32=0x44704227 (expected=0x44704227), out_len=4
SUCCESS: Self-contained VM devirtualization & Bit-Exact IL execution PASSED!
uint64_t vm_init_array(void) {
  uint64_t var_18; // sp-24
  uint64_t t0, _cse0;

  var_18 = 0x0;
  do {
    t0 = var_18;
    _cse0 = (t0 + 0x10018000);
    (*(uint8_t*)(_cse0)) = ((uint8_t)((((int64_t)(int8_t)((*(uint8_t*)(_cse0)))) ^ 0xc)));
    var_18 = (t0 + 0x1);
  } while ((((t0 + 0x1) < 0x6) == 0x1));
  return 0x10018000;
}
t833 = (*(uint32_t*)(((((((_cse7 & 0xff) % 0x3) == var_1a98) == 0x1) ? 0x100002d0 : 0x100003d0) + _cse6)));
...
_cse9 = (... + (((((_cse10 & var_1ac8) >> 0x7) | (_cse10 << 0x19)) ^ (((_cse10 & 0xffffe000) >> 0xd) | (_cse10 << 0x13))) ^ (((_cse10 & 0xfffe0000) >> 0x11) | (_cse10 << 0xf)))) + ...);

这个是以前windows vmp基本都是这个思路,但是大家实现不一样,xdec也只是在ai时代做的更加完善,其实跟以前我的zhuzhu-Top/de_vm本质思路是一致的

我一直很喜欢binja,开源了很多内容,但是还核心的il不做开源,导致无法进一步定制,我期待是类似js vmp还原一样的思路,直接遍历ast完成还原,现在xdec也可以做到了,xdec也能作为一款非常轻便的反编译工具,对大二进制文件有奇效,我会持续迭代优化xdec

因为是自己的反编译工具,所以在trace方面也能做的更好,xdec可以作为类似unicorn的工具,进而实现字节/位级别的污点传播(这些都是我实际用xdec已经实现的工具),虽然现在ai时代模型能力越来越强,但是这些都是很有趣的技术

  • 静态反编译器面对 500+ 块的字节码解释器循环,要么卡死在状态分派图上,要么给你吐出一堆 *(vm_ctx + rs * 8) 的指针读写;
  • 于是大家只能退回到「手写 Python 模拟器 + 跑 Unicorn Trace + 盯十几万条动态指令人肉总结算法」的原始手工劳动;
  • 最憋屈的是:你明明知道虚拟机里面跑的就是一个魔改哈希或分组密码,却完全用不上反编译器的 SSA 优化、常量传播、MBA 化简与控制流结构化能力。
  • 封装形态各异:明文段、XOR/zlib 压缩壳、自定义 ELF 变体(如 XIMG)、运行时 call_once 解密;
  • 虚拟架构各异:128×64-bit 寄存器机、纯栈机(vSP push/pop)、混合内存机;
  • 编码花样翻新:PC 相关 XOR 解混淆、滚动 key、opcode 二次重映射表(.rodata_v)、源寄存器差分编码;
  • 调度形态各异:大 switch(opcode)、直接线程化 br xN、OLLVM 控制流平坦化套壳。

冰与火的战歌:Windows内核攻防实战高级班!从零到实战,融合AI与Windows内核攻防全技术栈,打造具备自动化能力的内核开发高手。

最后于 3小时前 被zhuzhu_biu编辑 ,原因:
收藏
点赞 ・20
打赏
分享
最新回复 (11)
雪    币: 3756
活跃值: (7735)
能力值: ( LV8,RANK:73 )
在线值:
发帖
回帖
粉丝
2 楼

rqt实战样本

上传的附件:
4小时前
0
雪    币: 224
能力值: ( LV1,RANK:0 )
在线值:
发帖
回帖
粉丝
3 楼
6666666大佬
4小时前
0
雪    币: 8205
活跃值: (7258)
能力值: ( LV2,RANK:10 )
在线值:
发帖
回帖
粉丝
4 楼
谢谢分享 
4小时前
0
雪    币: 2512
活跃值: (1755)
能力值: ( LV8,RANK:73 )
在线值:
发帖
回帖
粉丝
5 楼
VTIL吗?感觉做的工作好像啊
3小时前
0
雪    币: 216
活跃值: (3648)
能力值: ( LV2,RANK:10 )
在线值:
发帖
回帖
粉丝
6 楼
666
3小时前
0
雪    币: 6
能力值: ( LV1,RANK:0 )
在线值:
发帖
回帖
粉丝
7 楼
感谢分享
3小时前
0
雪    币: 34
活跃值: (2613)
能力值: ( LV2,RANK:10 )
在线值:
发帖
回帖
粉丝
8 楼
好东西看看吧
3小时前
0
雪    币: 412
活跃值: (1221)
能力值: ( LV3,RANK:11 )
在线值:
发帖
回帖
粉丝
9 楼
66
3小时前
0
雪    币: 3210
活跃值: (8149)
能力值: ( LV3,RANK:21 )
在线值:
发帖
回帖
粉丝
10 楼
66666666666666666666666
2小时前
0
雪    币: 200
能力值: ( LV1,RANK:0 )
在线值:
发帖
回帖
粉丝
11 楼
666
1小时前
0
雪    币: 1973
活跃值: (3153)
能力值: ( LV2,RANK:10 )
在线值:
发帖
回帖
粉丝
12 楼
666
21分钟前
0
游客
登录 | 注册 方可回帖
返回