Windows子系统是Windows操作系统不可分割的一部分，它在Windows内核的基础上，为应用程序提供了一个图形用户界面(GUI)环境。

Windows子系统结构如下图所示，该子系统提供了模块结构，供应用程序直接调用的API函数位于一组子系统DLL中，这些DLL在根据需要调用内核模块组件(win32k.sys)的功能。这些子系统DLL有时候也被简单地统称为系统DLL。

Windows子系统既有用户模块组件，也有内核模块组件；既有注入到每个应用程序进程中的组件模块，也有独立的进程空间。下面列出这些组件的职责：

内核模块win32k.sys，虽然它的名称像是一个驱动程序，但实际上，win32k.sys并不遵从I/O管理器定义的程序模型，而仅仅是Windows内核扩展而已

图像设备驱动程序，这是一些与硬件相关的显示驱动程序，打印驱动程序，以及视频小端口驱动程序

Windows环境子系统进程(csrss.exe)，它包含如下支持：控制台窗口；创建和删除进程和线程；支持16位虚拟DOS机(VDM, Virtual DOS Machine)进程

子系统DLL，例如user32.dll, advapi32.dll, gdi32.dll和kernel32.dll，它们实现了已经文档化的Windows API函数，可能需要调用内核模块ntoskrnl.exe和win32k.sys中未文档化的系统服务，甚至与环境子系统进程通信

其中Win32k.sys包含了两大功能组成部分：

窗口管理器：负责控制窗口显示，管理屏幕输出，收集来自键盘，鼠标和其他设备的输入，以及将用户消息传递给应用程序

GDI：这是一个针对图像输出设备的函数库，包含了有关线程，文本和图像绘制，以及操作各种图形的函数

Windows是一个以图形用户界面为主要输入输出手段的操作系统，但是图形界面功能并非位于内核模块ntoskrnl.exe中，而是在Windows子系统中，这是Windows体系结构的一个重要特性。

每个线程在创建之初都是采用SSDT的普通线程，而不是GUI线程。但是，当一个非GUI线程调用的系统服务号超出该线程所指的系统服务表数组定义的界限，并且系统服务号的表索引为1时，系统服务分发代码试图将它转换为GUI线程，这是通过调用PsConvertToGuiThread函数来完成的。因此，当一个非GUI线程调用任何一个子系统服务(服务号为0x1000~0x1FFF)时，由于该线程的ServiceTable成员初始指向KeServiceDescriptorTable，而KeServiceDescriptorTable[1]项的系统服务表不包含任务系统服务，所以，此调用必定导致PsConvertToGuiThread函数被调用，从而让该线程转换为GUI线程。

在PsConvertToGuiThread函数中，首先会对线程数据进行验证

接下来会调用MmCreateKernelStack函数来创建一个新的大的内核栈，然后调用KeSwitchKernelStack函数来替换内核栈，在调用MmDeleteKernelStack删除原内核栈。在x86平台上，大内核栈大小是0xF000字节，标准的内核栈大小是0x3000字节。内核栈的实际内存分配是按页面计数的，而且还要加上一个不可访问的保护页面，以便检测到内存栈溢出的错误。

调用全局变量PspW32ProcessCallout中保存的WinkProcessCallback函数会创建Windows子系统为它的进程维护的一套平行的数据结构。并通过调用内核的PsSetProcessWin32Process函数，将该结构设置到进程对象偏移0x130处的Win32Process域中

将线程的ServiceTable域切换到指向KeServiceDescriptorTableShadow，从而使该线程以后可以使用win32k,sys提供的系统服务

调用全局变量PspWin32ThreadCallout中保存的Win32kThreadCallback函数创建Windows子系统为每个GUI线程维护的数据结构，该函数通过调用内核PsSetThreadWin32Thread函数将该数据结构设置到线程对象偏移0x130的Win32Thread域中。最后退出函数

将一个内核线程转换为GUI线程，这表明了Windows子系统已接纳该线程及其所属的进程。PspW32ProcessCallout和PspW32ThreadCallout分别执行了当该线程和所属进程加入到Windows子系统中时的初始化工作（当然，当线程或进程结束时，这两个函数也负责相应的清除工作）。一旦线程被接纳到Windows子系统中，它就可以方便地使用Windows子系统提供的两个重要功能：窗口管理和GUI。

其中进程对象的Win32Process中保存的结构是_W32PROCESS结构，该结构定义如下：

线程对象的Win32Thread中保存的结构则是_W32THREAD结构，该结构定义如下：

其中的第一个成员MessageQueue是个指针，指向一个USER_MESSAGE_QUEUE数据结构，该结构就是线程的视窗报文队列。所有发送给线程的消息都会保存在该队列中，线程需要从该队列取出消息才可以完成对消息的处理。

USER_MESSAGE_QUEUE结构定义如下：

可以看到该结构中共有七种不同类型的队列，Thread成员则指向了该队列的所属线程。

消息最开始是由窗口捕获的，窗口捕获到消息以后，要将消息发送给窗口的所属的线程的消息队列。这样，窗口所属线程才可以从消息队列中取出消息进行处理。因此，要想捕获消息，首先就需要创建一个窗口。

在用户层可以通过CreateWindow函数来创建窗口，该函数通过调用win32k.sys的NtUserCreateWindowEx来在内核中创建一个窗口对象，窗口对象的的结构是_WINDOW_OBJECT，该结构的定义如下：

在用户层可以通过GetMessageA或GetMessageW来接收消息，GetMessageW的函数实现如下：

参数lpMsg是个指针，用来返回获取的报文，报文是通过系统调用NtUserGetMessage从内核获取的，但是从内核获取的报文是“内核模式”的报文，与用户空间实际使用的报文在格式上有所不同，所以要经过MsgiKMToUMMessage函数将其转换为"用户模式"的报文。视图子系统的保卫呢是针对窗口而不仅仅是线程或进程的，所以在获取报文时需要说明是哪一个窗口，参数hWnd就是一个已创建（或已打开）窗口的句柄。其余两个参数就不那么重要了，那是用来选择所获取报文的类型范围的。

系统调用NtUserGetMessage从内核获取报文时，需要准备好NTUSERGETMESSAGEINFO数据结构，让内核往里面填写，该结构定义如下：

这里Msg是个MSG数据结构，所谓窗口报文，实际上就是MSG数据结构，结构定义如下：

可见报文是以具体的窗口为目标的，但是MSG结构中并没有用来挂入队列的指针或队列头。实际上，挂入报文队列的是USER_MESSAGE数据结构，而MSG是其内部的核心成员，该结构的定义如下：

在系统调用NtUserGetMessage中会通过调用co_IntPeekMessage从消息队列中获取消息

在co_IntPeekMessage中会通过线程对象的Win32Thread来获取线程的消息队列，增加删除队列的标志，然后调用co_MsgDispatchOneSentMessage来首先循环获取和处理SendMessage队列中的消息

通过SendMessage发送的消息是针对线程的，而不是针对某个窗口的。因此，在这种情况下，线程的消息循环必须直接处理它们，而不是交给DispatchMessage来处理。而且，这种通过消息来实现跨进程通信的方式仅限于同属一个桌面的进程之间才可以进行

当处理完成SendMessage的消息以后，才开始从其他队列中获取消息

用户层通过DispathMessage来完成消息的分发，函数实现如下：

该首先调用NtUserDispatchMessage内核函数，该函数会将返回值保存到提供的NTUSERDISPATCHMESSAGEINFO结构中，结构体定义如下：

这里最关键的就是Proc字段，该字段是个函数指针，指向的函数就是由用户指定的消息处理过程函数。

而在NtUserDispatchMessage函数中，会首先通过窗口句柄获取窗口对象，在根据窗口对象获取窗口过程函数来填充上述的结构体

获取消息处理例程以后，就通过IntCallWindowProcW来调用消息处理例程

Win32k.sys中的回调机制是由KeUserModeCallback来实现的，该函数的定义如下：

其中第一个参数指定了回调函数的索引。根据索引就可以从预先设置好的“回调函数表”中调用相应的函数，而回调函数表则保存在PEB结构偏移0x02C的KernelCallbackTable中。根据索引的不同，回调函数表中保存的回调函数也不相同，其中索引号定义如下：

在KeUserModeCallback中会首先准备好陷阱帧，然后通过调用KiCallUserMode来返回用户层，随后在恢复栈指针

《Windows内核源码情景分析》

《Windows内核原理与实现》

[培训]内核驱动高级班，冲击BAT一流互联网大厂工作，每周日13:00-18:00直播授课