这个是以前windows vmp基本都是这个思路,但是大家实现不一样,xdec也只是在ai时代做的更加完善,其实跟以前我的zhuzhu-Top/de_vm本质思路是一致的
我一直很喜欢binja,开源了很多内容,但是还核心的il不做开源,导致无法进一步定制,我期待是类似js vmp还原一样的思路,直接遍历ast完成还原,现在xdec也可以做到了,xdec也能作为一款非常轻便的反编译工具,对大二进制文件有奇效,我会持续迭代优化xdec
因为是自己的反编译工具,所以在trace方面也能做的更好,xdec可以作为类似unicorn的工具,进而实现字节/位级别的污点传播(这些都是我实际用xdec已经实现的工具),虽然现在ai时代模型能力越来越强,但是这些都是很有趣的技术
面对一个 VMP(Virtual Machine Protection) 或 OLLVM + 自定义虚拟机 混合保护的算法模块:
为了彻底解决这个问题,我从头设计并开源了 xdec —— 一个从架构第一天起就专为去混淆与去虚拟化(Devirtualization)而生的 C++20 多级 IL 反编译库与 Python 绑定(pyxdec)。
开源仓库:zhuzhu-Top/xdec
商业与自研 VMP 的实现五花八门:
把每家 VMP 的解包/解码逻辑硬编码进反编译器核心是不现实的。真正优雅的解法不是「替你猜所有 VMP」,而是把反编译器做成一套可编程底层库(Library-First):
一句话总结:你只需要用几十行 Python 描述「字节码怎么解码」,剩下的常量折叠、虚拟栈/寄存器提升、MBA 化简、循环结构化、C 代码还原和 Bit-Exact 执行校验,全部由 xdec 核心自动接管。
xdec 的 il::RegisterFile 原生支持任意数量、任意位宽、带父子视图(zero-extend / preserve)的虚拟寄存器;中段管线通过 analysis::AbiSpec 解耦了所有架构假设。无论是 128 个 64-bit 寄存器的 RISC 虚拟机,还是只有 vSP/vPC 的栈式虚拟机,都是 xdec 的一等公民。
decompile(..., structured_exprs=True) 同时导出带 il_expr/il_op/il_blocks 溯源的结构化 AST 与底层规范化 IL DAG。summarize_case_effects() 可从解释器的任意一个 case 或分支块中自动拆出:
面对没有规整 switch(opcode) 的 OLLVM 控制流平坦化 或 滚动 key 字节码解释器,xdec.specialize() 按 (pc, StateKey) 自动沿路径展开、折叠常量分支与不可变查表、并在命中已访问状态时自动连回边形成循环。
优化反编译完以后,怎么证明自己的去虚拟化没有引入 1 bit 偏差?
xdec.il.Interpreter(支持跨块 Phi 求值、多函数 subfunctions 递归调用以及单次求值 DAG memoization)与 xdec.diff_verify() 可以直接执行提升后的原始 Cfg IL 和优化后的 Vars IL,与真实向量逐字节比对。
仓库中的 samples/rqt/ 提供了一个完全自包含的脱敏真实样本(vm_payload.bin,115,776 B 的 XIMG ELF64 虚拟载荷 + vm_fmt.json 指令格式表,无需任何外部私有二进制即可一键运行)。
这个样本实现了一个受 128 寄存器自定义 RISC 虚拟机保护的摘要令牌计算模块:
在 samples/rqt/devirt_rqt.py 中,我们只需要声明 r0..r127 寄存器文件和 AbiSpec:
随后把 .rodata/.text/.got 作为 immutable=True 层挂载进 xdec.LayeredMemory(),用 xdec.il.FunctionBuilder 按解码出的指令逐条构建 IL,再直接送入:
执行:
总耗时 ~1.0 秒,实测输出:
看看从加密虚拟机里直接还原出来的 C 代码质量:
i % 3 == 0 切换两张轮常数表(0x100002d0 / 0x100003d0)以及 (7, 13, 17)、(5, 11, 19) 的魔改循环移位量直接呈现在 C 表达式中;
在 xdec 的架构规范(docs/00-core-vs-plugin-prompt.md)中,有一条铁律:
任何针对具体样本的硬编码、启发式、专用魔法数,一律禁止进入 Core。
如果你也在被各类定制 VMP、OLLVM 平坦化或白盒密码折磨,欢迎试用并一起共建 xdec:
┌────────────────────────────────────────────────────────────────────────────┐
│ 上层分析脚本层 (Python / pyxdec,按目标样本定制) │
│ │
│ [1] Load & Bootstrap xdec.Image / LayeredMemory / RuntimeOracle │
│ │ 加载并挂载解密、重定位后的虚拟载荷 │
│ ▼ │
│ [2] Dual-View 模式识别 xdec.Image.decompile(structured_exprs=True) │
│ 遍历结构化 HlStmt/HlExpr AST + summarize_case_effects │
│ │ 批量自动化聚类解释器 Handler 语义 │
│ ▼ │
│ [3] 提升为标准 IL xdec.il.FunctionBuilder + xdec.AbiSpec │
│ 为任意自定义虚拟架构构造 il::Function │
│ │ │
│ ▼ │
│ [4] 回流优化与校验 xdec.decompile_from_il() + xdec.il.Interpreter │
│ 白嫖 SSA/MBA/Structurizer 出 C,并做 Bit-Exact 校验 │
└──────────────────────────┬─────────────────────────────────────────────────┘
│
▼
┌────────────────────────────────────────────────────────────────────────────┐
│ xdec Core (纯通用底层引擎) │
│ • 数据驱动 ISA: il::RegisterFile + analysis::AbiSpec + Custom32/64 │
│ • 私有状态消除: passes::RegionMem2Reg + passes::RegionDSE │
│ • 常量与代数化简: const-fold-memory + SCCP + MBA 恒等式 + Oracle 验证门禁 │
│ • 可选部分求值: devirt::Specializer ((pc, StateKey) 上下文敏感展开) │
│ • 校验闭环: il::Interpreter (DAG memoized) + devirt::DiffVerifier │
└────────────────────────────────────────────────────────────────────────────┘
rf = xdec.il.RegisterFile()
R = [
rf.add(
f"r{i}", 64,
xdec.il.RegClass.General if i != 125 else xdec.il.RegClass.StackPointer,
)
for i in range(128)
]
abi = xdec.AbiSpec(
name="vm-128-64",
stack_pointer=R[125],
link_register=R[127],
int_arg_regs=R[0:8],
int_ret_regs=[R[0]],
callee_saved_regs=R[8:125] + [R[126], R[127]],
caller_saved_regs=R[0:8],
)
res = xdec.decompile_from_il(fn_cfg, abi=abi, memory=layered, names=names)
python samples/rqt/devirt_rqt.py
[1/4] Loaded anonymized VM payload (115,776 B), entry cs @ 0x10004000
[2/4] Lifting VM functions into xdec::il::Function ...
lifted cs @ 0x10004000: 333 basic blocks
[3/4] Decompiling cs via xdec.decompile_from_il ...
wrote samples\rqt\output\cs.c (6069 lines, labeled=32, vars_blocks=333)
lifted vm_init_array @ 0x10016520: 4 basic blocks
wrote samples\rqt\output\vm_init_array.c (21 lines, labeled=0, vars_blocks=4)
lifted vm_memcpy @ 0x10016588: 33 basic blocks
wrote samples\rqt\output\vm_memcpy.c (271 lines, labeled=6, vars_blocks=33)
lifted vm_memset @ 0x10016a2c: 12 basic blocks
wrote samples\rqt\output\vm_memset.c (84 lines, labeled=2, vars_blocks=12)
[4/4] Executing cs via xdec.il.Interpreter (Bit-Exact check) ...
Cfg (raw lifted): out_u32=0x44704227 (expected=0x44704227), out_len=4
Vars (xdec optimized): out_u32=0x44704227 (expected=0x44704227), out_len=4
SUCCESS: Self-contained VM devirtualization & Bit-Exact IL execution PASSED!
uint64_t vm_init_array(void) {
uint64_t var_18; // sp-24
uint64_t t0, _cse0;
var_18 = 0x0;
do {
t0 = var_18;
_cse0 = (t0 + 0x10018000);
(*(uint8_t*)(_cse0)) = ((uint8_t)((((int64_t)(int8_t)((*(uint8_t*)(_cse0)))) ^ 0xc)));
var_18 = (t0 + 0x1);
} while ((((t0 + 0x1) < 0x6) == 0x1));
return 0x10018000;
}
t833 = (*(uint32_t*)(((((((_cse7 & 0xff) % 0x3) == var_1a98) == 0x1) ? 0x100002d0 : 0x100003d0) + _cse6)));
...
_cse9 = (... + (((((_cse10 & var_1ac8) >> 0x7) | (_cse10 << 0x19)) ^ (((_cse10 & 0xffffe000) >> 0xd) | (_cse10 << 0x13))) ^ (((_cse10 & 0xfffe0000) >> 0x11) | (_cse10 << 0xf)))) + ...);
这个是以前windows vmp基本都是这个思路,但是大家实现不一样,xdec也只是在ai时代做的更加完善,其实跟以前我的zhuzhu-Top/de_vm本质思路是一致的
我一直很喜欢binja,开源了很多内容,但是还核心的il不做开源,导致无法进一步定制,我期待是类似js vmp还原一样的思路,直接遍历ast完成还原,现在xdec也可以做到了,xdec也能作为一款非常轻便的反编译工具,对大二进制文件有奇效,我会持续迭代优化xdec
因为是自己的反编译工具,所以在trace方面也能做的更好,xdec可以作为类似unicorn的工具,进而实现字节/位级别的污点传播(这些都是我实际用xdec已经实现的工具),虽然现在ai时代模型能力越来越强,但是这些都是很有趣的技术
- 静态反编译器面对 500+ 块的字节码解释器循环,要么卡死在状态分派图上,要么给你吐出一堆
*(vm_ctx + rs * 8) 的指针读写;
- 于是大家只能退回到「手写 Python 模拟器 + 跑 Unicorn Trace + 盯十几万条动态指令人肉总结算法」的原始手工劳动;
- 最憋屈的是:你明明知道虚拟机里面跑的就是一个魔改哈希或分组密码,却完全用不上反编译器的 SSA 优化、常量传播、MBA 化简与控制流结构化能力。
- 封装形态各异:明文段、XOR/zlib 压缩壳、自定义 ELF 变体(如
XIMG)、运行时 call_once 解密;
- 虚拟架构各异:128×64-bit 寄存器机、纯栈机(
vSP push/pop)、混合内存机;
- 编码花样翻新:PC 相关 XOR 解混淆、滚动 key、opcode 二次重映射表(
.rodata_v)、源寄存器差分编码;
- 调度形态各异:大
switch(opcode)、直接线程化 br xN、OLLVM 控制流平坦化套壳。