rust的编译器rustc用llvm进行中间代码生成(MIR-> LLVM IR 链接)，所以我想尝试下在rust编译过程加个pass进行代码混淆，进而保护生产代码。

由于rust在Windows下有两种toolchain，一种是msvc，另外一种是用mingw的windows-gnu。由于LLVM在Windows下的动态库编译只能使用Mingw-w64环境，具体来源：LLVM官方CMake参数，并且rust自己编译的LLVM不支持动态链接。

即本文使用MSYS2下的Mingw-w64环境。

足够强劲的机器，大概20G的硬盘空间(固态更好)，8G以上的内存，以及良好的网络链接

使用Ninja代替make能大幅提升速度，但是增加内存消耗(link时可能达到24G内存占用),若内存不足的可以在生产cmake build的时候使用MinGW Makefiles或者Unix Makefiles.,本文主要使用Ninja作为主要构建工具.

空间占用：

内存占用:

从清华源 链接 下载最新的安装包，例如 msys2-x86_64-20220904.exe

然后直接安装

中间会卡一会，等一下就好

完成的时候不要直接启动它默认的终端

去开始菜单找msys2 - mingw64

安装编译依赖

pacman -S mingw-w64-x86_64-gcc mingw-w64-x86_64-ninja mingw-w64-x86_64-python3 mingw-w64-x86_64-cmake autoconf libtool

这里安装了gcc、ninja构建工具，mingw-w64版的python3，mingw-w64下的cmake，以及一些编译用到的工具

可自己从git官网下，也可以在msys2安装，看个人喜好

我偏向于使用官网下载的git，其他ide也能用上

下载64位Standalone Installer即可，安装过程可以按照个人喜好配置，如果只是为了本次编译就直接无脑下一步即可。

可从官网下windows安装包，也可以在msys2中安装mingw-w64-x86_64-cmake,但千万不能使用msys2提供的cmake包.

即使用pacman -S mingw-w64-x86_64-cmake安装cmake, 本文使用msys2中的mingw-w64-x86_64-cmake.

若使用官网安装的cmake,需要在msys2 mingw中手动指定cmake.exe位置,即

/c/Program\ Files/CMake/bin/cmake -G "Unix Makefiles"

在官方github分支中找到你想要的版本，例如 1.63.0

然后在你自己的工作目录用命令

git clone --single-branch --branch 1.63.0 https://github.com/rust-lang/rust

克隆指定分支的rust源码

这里注意不要去llvm-org直接下载源码，以免出现不兼容等bug

在rust源码里有.gitmodules这个文件，打开看对应LLVM的分支，并克隆。例如 rust 1.63.0对着的LLVM版本rustc/14.0-2022-03-22

git clone --branch rustc/14.0-2022-03-22 https://github.com/rust-lang/llvm-project.git

添加LLVM obfuscator

这里用的是heroims的patch，具体项目地址在这里。

由于LLVM14有两种pass方式，一种legacy pass一种new pass，LLVM官方正在逐渐用new pass淘汰legacy pass，所以这里使用new pass作为补丁

这里要注意，正常情况下是直接patch完毕的，如果应用patch错误有.rej文件出现，需要手动处理冲突。

成功应用patch截图：

修复LLVM 14的Link错误

无冲突应用完patch之后，需要去llvm-project/llvm/lib/Transforms/Obfuscation目录，修改CMakeLists.txt

在 intrinsics_gen之后添加以下内容

最终文件内容如图所示：

生成cmake构建项目:

在刚刚克隆的LLVM源码同级目录输入以下命令

cmake -G "Ninja" -S ./llvm-project/llvm -B ./build_dyn_x64 -DCMAKE_INSTALL_PREFIX=./llvm_x64 -DCMAKE_CXX_STANDARD=17 -DCMAKE_BUILD_TYPE=Release -DLLVM_ENABLE_PROJECTS="clang;lld;" -DLLVM_TARGETS_TO_BUILD="X86" -DBUILD_SHARED_LIBS=ON -DLLVM_INSTALL_UTILS=ON -DLLVM_INCLUDE_TESTS=OFF -DLLVM_BUILD_TESTS=OFF -DLLVM_INCLUDE_BENCHMARKS=OFF -DLLVM_BUILD_BENCHMARKS=OFF

命令解析:

具体参数可以查看LLVM的官方文档

开始编译:

cmake --build ./build_dyn_x64 -j 22

命令解析:

然后就是等待，这个时间可以刷会视频看看小说,大概20-40分钟，具体时长取决于机器配置。

安装(生成)LLVM

cmake --install ./build_dyn_x64

安装编译好的LLVM到llvm_x64目录

这里如果不需要对LLVM进行其他修改，可以删除build_dyn_x64目录，节省硬盘空间。

添加运行LLVM的依赖

由于是使用Mingw-w64的环境，编译出来的LLVM无法直接使用，需要去MSYS2的mingw64的bin目录复制下列dll到LLVM的bin目录。

需要复制的dll列表

编译完成后的目录结构：

成果：

进入rust源码目录，复制一份config.toml.example到config.toml

如图所示

修改config.toml

在[rust]子项，debug = false

这里把debug关闭，提升速度

在[rust]子项，往下的channel设置成nightly

使用nightly channel才能设置LLVM pass的参数

在[target.x86_64-unknown-linux-gnu]子项，llvm-config设置到刚刚我们编译的llvm目录下的llvm-config

修改x86_64-unknown-linux-gnu为x86_64-pc-windows-gnu

这里设置llvm-config选项后，就能跳过rustc编译的过程中编译非动态版本的LLVM

因为rustc(rust的编译器)是有几个不同的编译阶段

这里我只是大概了解了一下，可能会有些偏差，具体详情可以看官方文档以及源码的说明

其中，我们真正使用的是阶段2的文件作为我们自己的toolchain。由于我们的llvm是动态编译的，所以在阶段1->阶段2的时候编译出的rustc无法执行，需要跟LLVM一样需要手动补充依赖文件。

修改的文件：src/bootstrap/compile.rs

注意,上面的目录需要按照自己的实际情况修改

位置：

这里我们在创建完每个阶段的bin文件夹后，判断当前阶段，如果是阶段1就复制我们自己编译的LLVM的dll文件到当前阶段的bin文件夹，这样就能保证rustc的编译过程能完成。

这里有个小坑，如果没有在MSYS2装Git，但是在Windows下装了Git的，需要手动设置下环境变量，否则rust的编译脚本无法找到git

export PATH=$PATH:/c/Program\ Files/Git/bin

在mingw-w64窗口，进到rust的源码目录，执行

python x.py build

然后等待大概30-40分钟，具体时间取决于编译机器的配置以及网络情况。

编译完成：

成品：

在rust源码目录执行

python x.py build tools/cargo

等待20-30分钟，具体时长取决于编译机器的配置。

成品：

编译出来的cargo还是跟之前一样，缺少dll，从需要去MSYS2的mingw64的bin目录复制zlib1.dll到rust/build/x86_64-pc-windows-gnu/stage1-tools-bin

如果之前安装过rustup的可以跳过这个步骤

下载rustup-init.exe

到官网 点击rustup-init.exe (64-bit) 进行下载

设置rustup

选择ABI

这里选3,跳过安装vs

选择toolchain

这里选择2,自定义,并输入x86_64-pc-windows-gnu

选择toolchain频道

这里输入nightly

选择额外工具

这里默认即可(回车)

是否修改系统环境变量

这里选是,输入Y

然后进行安装
这里直接输入1,然后回车即可

完成
按回车退出即可.

打开一个新的cmd

配置toolchain

在cmd输入

rustup toolchain link my-rust-1.63.0 C:\Users\Administrator\Desktop\tutorial\rust\build\x86_64-pc-windows-gnu\stage1

其中:

设置成默认toolchain

在cmd输入
rustup default my-rust-1.63.0

其中, my-rust-1.63.0为刚才自定义toolchain的名字

验证

在cmd输入

rustup toolchain list

查看当前toolchain的状态

使用cargo new创建个hello world

设置项目参数

在项目根目录创建或者修改.cargo/config

如果.config目录不存在,自己创建一个.

config是一个文件

config的内容如下

说明：

编译

打开MSYS2 - MINGW64

在项目目录执行

cargo +my-rust-1.63.0 build -Z build-std=panic_abort,std,core,alloc,proc_macro --target x86_64-pc-windows-gnu --release

参数说明：

正常编译

使用命令：cargo +nightly-x86_64-pc-windows-gnu build --release并不指定config编译

IDA如下：

混淆

使用命令：cargo +my-rust-1.63.0 build -Z build-std=panic_abort,std,core,alloc,proc_macro --target x86_64-pc-windows-gnu --release 编译

IDA如下：

[培训]内核驱动高级班，冲击BAT一流互联网大厂工作，每周日13:00-18:00直播授课