首页
社区
课程
招聘
windows 程序反调试检测的设计(终结篇)
发表于: 2小时前 32

windows 程序反调试检测的设计(终结篇)

2小时前
32

我给自己的 Windows 测试程序 AntiDbgtest 做了两个 PEB 诱饵。程序先写入已知值,再看它们有没有被改写。最初的附加测试中,附加后的首轮读到了两个清零的诱饵。等程序把它们写回,后续普通采样却读不到新的变化,而进程外查询仍然报告有调试。

于是我把问题拆开验证。进程是否仍在被调试,可以每轮重新查询。某个调试事件前后,诱饵是否又被修改了一次,则要比较该事件前后的实际读数。 我先试了可见线程和自定义异常,最后试了真正的 DLL 加载。公开源码显示,ScyllaHide 的 x64dbg 插件可以在 DLL 加载事件里重跑 PEB 补丁。首组 x64 对照中,附加后连续 33 轮、调试器直接启动后连续 20 轮,两个字段都在这段窗口内重新清零。后续测试也记录到了 DLL 成功加载、字段保持不变的有调试轮次。

PEB 是进程环境块,这里用它的两个字段做诱饵。程序把 BeingDebugged 写成 1,把当前的 NtGlobalFlag 与 0x70 做按位或,并保存写入的完整值作为预期。比如原值是 0,写回后才是 0x70。如果原来还有其他位,程序会把它们保留下来。

普通检测以首次观察到差异的采样点为依据。例如,轮入口已经读到 BeingDebugged=0,只能确定变化在这次采样之前发生,无法根据这一个读数确定准确的写入时刻。重植后,下一轮如果一直读到预期值,就没有新的诱饵命中。首次结果可以保留在历史记录中,后续轮次仍用当轮读数重新判断。

这个设计也决定了 IsDebuggerPresent 该怎么解释。测试程序自己写入了 1,API 返回 1 本身就缺乏独立证明力。普通采样关心的是已布置的字段是否改变、查询结果是否与观察矛盾,以及函数入口检查有没有匹配异常特征。每项的命中依据要和原始值一起看。

当进程内的 CheckRemoteDebuggerPresent 没有报告有调试时,AntiDbgtest 会启动同一 EXE 的观察者模式。这个短生命周期子进程按 PID 打开目标,调用 CheckRemoteDebuggerPresent 查询目标,再通过退出码回传结果。父进程在创建成功后对等待设置了 500 毫秒上限。启动失败、等待未完成或查询失败,都使这一路观测不可用。手动刷新的校准子进程另有用途,它为调试端口和调试对象查询提供一个已知处于调试关系中的对照目标。 CheckRemoteDebuggerPresent 文档

我把进程外结果用在两处。远程查询这一项可以直接使用本轮的进程外阳性结果。与此同时,如果进程内远程查询、调试对象或调试标志查询有效,却报告无调试,就可以记录它们与当前证据的矛盾。程序仍保存这些 API 各自的原始返回值。

这里的「查询有效」有具体含义。对调试对象查询,程序把 STATUS_PORT_NOT_SET(0xC0000353)解释为可用的无调试对象结果。对调试标志,程序只在调用成功后按当前实现解释结果,0 表示有调试,本次测试中观察到的 1 表示无调试。查询矛盾可以让多行同时显示命中,但几行可能共享同一份外部证据。

在加入 DLL 探测之前,我先让两套 x64 构建都完整追加每轮日志。旧版补上自动刷新和逐轮日志,沿用原来的判定。结果如下。

直接启动时,旧版还会因共享查询入口匹配改写特征而保留三项命中。附加场景的共享入口没有匹配该特征,所以当诱饵停止变化后,两版的差别更容易看清。持续的四项命中分别是远程查询、调试对象、调试标志和一致性交叉信号。这一步解决了测试配置下的持续观察问题。接下来我想再回答一个问题:能否在后续轮次重新观察到字段本身被修改?

普通刷新已经证明了一件事。测试程序可以把被清掉的字段写回,写回之后持续读取,它们却可能一直保持原值。要把首次改写变成可重复的实验,还缺一个条件。每次写回之后,都要发生一个会让插件重新执行补丁的事件。 在这个实验里,选的是调试器能收到、而且插件源码里有明确处理分支的模块加载事件。

AntiDbgtest 把测试 DLL 当成资源内置在 EXE 里。读取 RCDATA、把字节写到文件,只是准备一份合法的 DLL 映像。这两个动作都发生在读取诱饵前值之前。之后用普通的 LoadLibraryW 把它作为模块装入目标进程,才进入这里要测的加载流程。选用一个与 EXE 位数匹配、没有入口代码的资源型 DLL,是为了让测量尽量只涉及加载器。这个 DLL 无需导出函数,也没有自己的 DllMain 去改写 PEB。Windows 的调试事件由加载行为产生,即便模块没有入口函数,也可以报告加载。 Windows 调试事件文档 · LoadLibraryW 文档

对正在被用户态调试的进程,Windows 在载入一个此前未驻留的模块时向调试器报告 LOAD_DLL_DEBUG_EVENT。事件里有新模块的基址等信息。报告事件时,Windows 暂停目标进程的线程,调试器处理完事件并调用 ContinueDebugEvent,目标才继续运行。x64dbg 的公开实现把原始事件通过 CB_DEBUGEVENT 分发给插件。这个停顿提供了一个确定的先后关系。如果插件同步处理事件并写入目标的 PEB,写入会早于目标恢复执行、从 LoadLibraryW 返回并读取后值。手工下 DLL 断点并非取得这个回调的前提。 Windows 调试事件文档 · x64dbg 的事件分发

这条时间线把可能的写入夹在两次读取之间。只打开调试器、没有建立对目标进程的调试关系时,测试程序仍会正常加载 DLL,却没有这条向该调试器送达事件的路径。已经建立了调试关系时,调试器也可以只登记模块并继续运行。这段停顿本身不会改写那两个字段。 Windows 调试事件文档

ScyllaHide 的 x64dbg 插件在初始化时注册了 CB_DEBUGEVENT。回调遇到 LOAD_DLL_DEBUG_EVENT,会检查该会话的 bHooked 标志。上游在启动方式的初始化断点或附加方式的初始化路径中置这个标志,表示已进入过初始化流程。它在尝试应用补丁前就可以置位,单看标志无法知道补丁实际有没有写成功。标志置位之后,加载事件走的是已有会话的分支,也就是 startInjection(..., newProcess=false)。这一分支不按事件中的 DLL 文件名进行筛选,所以一个普通测试 DLL 同样能进入回调。 ScyllaHide 的事件回调和注册

为何会有「再应用」这条路径?从实现看,一部分 Hook 要等相应的目标模块出现才具备安装条件。比如 ApplyUserHook 发现 user32.dll 和 win32u.dll 都没加载时,会留下「用户模块 Hook 尚未安装」的状态并返回。新模块加载后,ApplyHook 可以据此重试尚未完成的安装。已有会话在检查这些安装状态之前,会先经过 StartHooking 里的 ApplyPEBPatch。所以即使所有 API Hook 早已就绪,新进来的 DLL 也与那些 API 无关,启用的 PEB 修补依然有机会再次执行。测试 DLL 利用的正是两类补丁在这条路径上的执行顺序。 用户模块的 Hook 条件 · 已有会话重新应用补丁 · API Hook 的重试条件

从回调走到写入也有前提。源码里有打开目标进程、读取 Hook 库、暂停目标、读取及写回 PEB 等步骤。相关配置未启用,或者途中失败,目标端就可能读不到预期的字段变化。因此,公开源码给出的是一条可验证的因果路径。用户态调试关系、加载事件、插件回调和成功改写分别是这条路径上的不同环节。 打开目标及应用流程 · 实际的 PEB 修改

字段的取值直接对应补丁的写法。BeingDebugged 被补丁置零,因此每轮先写成 1,为下一次清除留下可见的 1 → 0。NtGlobalFlag 是位字段,上游清除的掩码是 0x70,由 0x10、0x20、0x40 组成,分别对应堆尾检查、堆释放检查、堆参数检查。测试程序将当前完整值与 0x70 做按位或,保留其他位。补丁再次执行时清除同一组位。因此 0x70 → 0x00 是原值没有其他位时的预期。比如布置前有别的位 0x02,布置后是 0x72,按上游逻辑清除后仍应留下 0x02。 Microsoft GFlags 标志表 · ScyllaHide 字段修改

这也解释了为什么要每轮重新布置。如果上一轮已经被改成 BD=0、GF=0,下一轮的补丁再写一次同样的值,前后读数依然都是零,靠两次采样捕捉不到。先恢复诱饵,再重新制造加载机会,才有条件把又一次清除反映在日志里。会话进入稳定阶段后,创建可见线程和自定义异常也可能产生调试事件。在上游回调中,这两种事件没有通往上述补丁重跑逻辑的专用分支。这和我在相应实验中没读到新变化的结果一致。 ScyllaHide 的事件分支

读者最容易在这里混淆两个状态。磁盘上可以一直有同一份 DLL,进程里却可以一次次加载、卸载它。Windows 的 DLL 加载调试事件对应模块进入进程地址空间的那次加载。一个 DLL 已经驻留时,LoadLibraryW 仍可以成功返回句柄,此时通常只是增加原模块的引用计数。单凭句柄非空,无法区分一次新映射和对既有模块的再次引用。 Windows 调试事件文档 · LoadLibraryW 文档

因此,程序把解包的 DLL 放在本次进程专用目录,后续只使用它的完整路径。探测前用 GetModuleHandleW 检查该模块是否仍驻留,未发现驻留才发起加载。日志里的「新加载成功」来自这个前置检查和 LoadLibraryW 的成功返回。它描述目标端看到的模块状态,调试器有没有收到并处理本次事件还需要调试器侧记录。专用路径由测试程序串行操作,也避免了程序自己的其他轮次同时加载同一模块。 LoadLibraryW 文档

一轮结束后,FreeLibrary 释放的只是本轮 LoadLibraryW 取得的那份引用。假如还有其他引用,FreeLibrary 即使成功,模块也可能留在进程里,所以程序再查一次驻留状态。仍驻留时会记录原因,下一轮也会被加载前的检查挡住。程序只有自己尚未释放的引用可以重试释放,GetModuleHandleW 返回的查询句柄只用于检查。只要引用归零、原映射解除,同一路径就能再次产生新加载,无须每轮解包或更换文件名。 FreeLibrary 文档

前值是 ArmCanaries 之后从 PEB 实际读到的值,后值是 LoadLibraryW 返回后立即从同一位置读到的值。普通 API 检测、进程外查询和已结束的线程探测都在前值之前,卸载和下一次重植都在后值之后。判断因此只使用本次调用附近新取得的样本。假如字段在取得前值之前已经被清掉,或者在取得后值之后才被清掉,这次采样就没有捕捉到那次写入。

源码比较的是两个时点的现场值,既不强制前值刚好为 1、0x70,也不要求后值必须为零。比如补丁只启用了 BeingDebugged,现场是 BD 1→0、GF 0x70→0x70,依然命中。反过来,开着调试器且加载成功,但现场一直是 BD 1→1、GF 0x70→0x70,DLL 项就记未命中。进程外的调试状态结果不会代入这个比较式。

加载调用若失败,就算两次读到不同的值,也缺少这项检测所要求的有效新加载,程序只记录错误码与现场读数。若加载成功,当前轮的测量在后值取完时就已经成立。此后的卸载状态单独写进日志。如果 FreeLibrary 失败,程序保留自己的引用供下轮重试。如果释放成功但模块仍驻留,程序已经交还了自己的引用,下轮只做驻留检查。正常关闭时才清理磁盘上的 DLL 文件和子目录。用调试器直接终止目标时,退出清理可能没有机会执行,残留文件与此前日志里每轮「卸载成功」可以同时成立。


传递专业知识、拓宽行业人脉——看雪讲师团队等你加入!!

上传的附件:
收藏
点赞 ・0
打赏
分享
最新回复 (0)
游客
登录 | 注册 方可回帖
返回