[原创]混淆 Pass 分析 - Flattening-iOS安全-看雪-安全社区|安全招聘|kanxue.com

[原创]混淆 Pass 分析 - Flattening

发表于: 2024-8-29 17:09 6098

[原创]混淆 Pass 分析 - Flattening

ElainaDaemon 活跃值

2024-8-29 17:09

6098

代码扁平化的目的是将原有的程序逻辑重新组合成复杂逻辑，其主要体现是把原来的 if else语句转换成 switch语句。switch结构体包含多个分支，各个分支的执行顺序是随机的，但并不影响真正的程序逻辑。然后在 switch结构的外层，再套一个或多个 while循环。
下面编写一段代码进行测试，代码的功能是在 main函数中执行一个名称为 add的自定义函数。add函数里会判断参数 num1 是否等于 100，如果等于，则返回 0，否则继续执行，而后将参数 num1和 num2相加，结果赋值给 num3，并返回 num3。具体代码如下：

编译上面的代码，使用 IDA 反编译可执行文件，会看到代码的调用过程非常简单，很容易被分析，如图所示:

obfuscator-llvm 中有一个代码扁平化的 Pass，名称为 flattening，接下来我们抽丝剥茧，一步步分析 flattening是怎么做到代码扁平化的。

首先使用 opt 进行调试。打开 Flattening.cpp，从第 39 行可以看到注册的 Pass 名称是 flattening；第 45 行调用 toObfuscate判断需要处理的函数是否有 fla标识（为了调试方便，我们将这部分代码注释掉），如果判断有，就调用flatten函数，这个函数是我们分析的关键。Flattening.cpp 文件的内容如下：

在 flatten函数的入口设置断点，在 lldb 后面输入命令 po f->dump()，打印参数 F，输出 add函数的所有中间层代码，代码如下，为了方便理解，每一行都做了相应注释：

可以看出，一共有 4 个 BasicBlock，分别是 entry、if.then、if.end和 return。第 63 行是 flatten
函数要执行的第一条代码，第 63 行和第 64 行的作用是生成随机数（下方代码），这个在后面会用到：

第 68 行和第 69 行的作用是将代码中的 switch语句转换成 if语句：

紧接着，第 72 行到第 80 行的作用是保存原始的 BasicBlock到 origBB 容器：

第 88 行的作用是清空 origBB 容器里的第一个BasicBlock，因为第一个BasicBlock需要单独处理：

第 95 行到第 98 行的作用是判断第一个BasicBlock是否含有条件语句，如果有，就获取条件语句的内容，并赋给br变量：

获取的内容如下：

第 100 行到第 107 行的作用是获取第一个BasicBlock的倒数第二行：

获取的内容如下：

第 109 行的作用是对 BasicBlock进行分割，第 110 行是将分割后的内容放入 origBB 容器的第一条记录中，还记得第88 行清空了origBB容器的第一条记录吧？

分割后 tmp得到的内容如下：

分割后 insert 的内容如下：

第 114 行是移除跳转语句，也就是将 br label%first移除：

第 117 行到第 122 行的作用是创建 switch语句需用的变量 switchVar，变量的值就是最前面第 63 行和第 64 行随机生成的 scrambling_key：

创建好 switchVar之后，再打印 insert，可以看到其内容的最后多了两条语句：

第 125 行的作用是创建 loopEntry和 loopEnd，此时里面的代码还是空的。第 128 行是创建一条 load指令，将 switchvar放入 loopEntry中。

第 151 行到第 164 行的作用是给 origBB 里每个的 BasicBlock 填充 switch分支：

经过上面一番处理之后，得到的代码如下：

可以看出，扁平化效果已经实现了，loopEntry和 loopEnd是一个 while循环，while循环中有一个 switch结构，switch结构中有 4 个 case分支，分别是 first、if.then、if.end、return。如果 switchVar的值是1207049111，就跳转到 first分支；如果是-677357051，则跳转到 if.then；如果是 -125090459，跳转到 if.end分支；如果是1194405227，跳转到 return分支。
可以看到，上面得到的中间层代码中已经有 switch结构了，但是在执行跳转时并没有更新 switchVar，这样会使真实的程序逻辑没有正确执行。第 166 行到第 237 行的作用就是更新 switchVar，因为只有一个后续块相当于无条件跳转，所以直接将switchVar更新成后续块对应的 case：

最后我们看看最终的中间层代码是什么样的，完整的代码如下：

可以看到，first、if.then、if.end这三个 BasicBlock的代码都会更新 switchVar，这样便达到了混淆代码逻辑的效果，并且不影响真实的程序逻辑。至此，整个代码扁平化的过程全部分析完。

该文章只是针对最初版本的 OLLVM 中的 Flatttening Pass 进行了分析，通过简单的例子简述平坦化的实现步骤。但由于该仓库对应的 LLVM 版本较低，读者可以阅读最近的适配版本进行理解，整体思路相同，很多细节处理可能存在差异，比如OLLVM-17 在代码结构、可读性、上下文管理、随机数生成、代码简洁性和调试标识等方面表现更好，或者Hikari中使用了 DataLayout 来获取数据布局信息，同时增加了对异常处理的检查和调试信息的输出，读者感兴趣也可以调试看下具体实现细节。

int add(int num1, int num2){

    if (num1 == 100) { 

        return 0;

    }   

    int num3 = num1 + num2;

    return num3;
}
 
int main(){ 

   int num1 = 10;

   int num2 = 20;

   int num3 = add(num1,num2); 

   return 0;
}

int add(int num1, int num2){

if (num1 == 100) {

return 0;

}

int num3 = num1 + num2;

return num3;

}

int main(){

int num1 = 10;

int num2 = 20;

int num3 = add(num1,num2);

return 0;

}

namespace {

struct Flattening : public FunctionPass {

  static char ID;  // Pass identification, replacement for typeid

  bool flag;
 
  Flattening() : FunctionPass(ID) {}

  Flattening(bool flag) : FunctionPass(ID) { this->flag = flag; }
 
  bool runOnFunction(Function &F);

  bool flatten(Function *f);
};
}
 
char Flattening::ID = 0;

static RegisterPass<Flattening> X("flattening", "Call graph flattening");

Pass *llvm::createFlattening(bool flag) { return new Flattening(flag); }
 
bool Flattening::runOnFunction(Function &F) {

  Function *tmp = &F;

  // Do we obfuscate

  if (toObfuscate(flag, tmp, "fla")) {

    if (flatten(tmp)) {

      ++Flattened;

    }

  }
 
  return false;
}

namespace {

struct Flattening : public FunctionPass {

static char ID; // Pass identification, replacement for typeid

bool flag;

Flattening() : FunctionPass(ID) {}

Flattening(bool flag) : FunctionPass(ID) { this->flag = flag; }

bool runOnFunction(Function &F);

bool flatten(Function *f);

};

}

char Flattening::ID = 0;

static RegisterPass<Flattening> X("flattening", "Call graph flattening");

Pass *llvm::createFlattening(bool flag) { return new Flattening(flag); }

bool Flattening::runOnFunction(Function &F) {

Function *tmp = &F;

// Do we obfuscate

if (toObfuscate(flag, tmp, "fla")) {

if (flatten(tmp)) {

++Flattened;

}

return false;

}

; Function Attrs: noinline nounwind ssp uwtable
define i32 @add(i32 %num1, i32 %num2) #0 {
 
entry:  ;第 1 个 BasicBlock，名称是 entry 

    %retval = alloca i32, align 4    ;为返回值分配 4 字节空间

    %num1.addr = alloca i32, align 4 ;为变量 num1.addr 分配 4 字节空间

    %num2.addr = alloca i32, align 4 ;为变量 num2.addr 分配 4 字节空间

    %num3 = alloca i32, align 4 ;为变量 num3 分配 4 字节的空间 

    store i32 %num1, i32* %num1.addr, align 4 ;将变量 num1 保存到 num1.addr  

    store i32 %num2, i32* %num2.addr, align 4 ;将变量 num2 保存到 num2.addr

    %0 = load i32, i32* %num1.addr, align 4 ;将变量 num1.addr 保存到变量 0  

    %cmp = icmp ne i32 %0, 100 ;比较变量 0 是否等于 100

    br i1 %cmp, label %if.then, label %if.end ;如果条件比较成立则会跳转到 if.then

if.then:  ;第 2 个 BasicBlock，名称是 if.then ; preds = %entry  

    store i32 0, i32* %retval, align 4   

    br label %return   ;跳转到 return

if.end:  ;第 3 个 BasicBlock，名称是 if.end   ; preds = %entry  

    %1 = load i32, i32* %num1.addr, align 4  ;将变量 num1.addr 保存到变量 1 

    %2 = load i32, i32* %num2.addr, align 4  ;将变量 num2.addr 保存到变量 2

    %add = add nsw i32 %1, %2 ;将变量 1 和变量 2 相加，结果保存到变量 add 

    store i32 %add, i32* %num3, align 4 ;将变量 add 保存到变量 num3

    %3 = load i32, i32* %num3, align 4  ;将变量 num3 保存到变量 3 

    store i32 %3, i32* %retval, align 4 ;将变量 3 保存到变量 retval

    br label %return ;跳转到 return

return: ;第 4 个 BasicBlock，名称是 return     ; preds = %if.end, %if.then 

    %4 = load i32, i32* %retval, align 4 

    ret i32 %4
}

; Function Attrs: noinline nounwind ssp uwtable

define i32 @add(i32 %num1, i32 %num2) #0 {

entry: ;第 1 个 BasicBlock，名称是 entry

%retval = alloca i32, align 4 ;为返回值分配 4 字节空间

%num1.addr = alloca i32, align 4 ;为变量 num1.addr 分配 4 字节空间

%num2.addr = alloca i32, align 4 ;为变量 num2.addr 分配 4 字节空间

%num3 = alloca i32, align 4 ;为变量 num3 分配 4 字节的空间

store i32 %num1, i32* %num1.addr, align 4 ;将变量 num1 保存到 num1.addr

store i32 %num2, i32* %num2.addr, align 4 ;将变量 num2 保存到 num2.addr

%0 = load i32, i32* %num1.addr, align 4 ;将变量 num1.addr 保存到变量 0

%cmp = icmp ne i32 %0, 100 ;比较变量 0 是否等于 100

br i1 %cmp, label %if.then, label %if.end ;如果条件比较成立则会跳转到 if.then

if.then: ;第 2 个 BasicBlock，名称是 if.then ; preds = %entry

store i32 0, i32* %retval, align 4

br label %return ;跳转到 return

if.end: ;第 3 个 BasicBlock，名称是 if.end ; preds = %entry

%1 = load i32, i32* %num1.addr, align 4 ;将变量 num1.addr 保存到变量 1

%2 = load i32, i32* %num2.addr, align 4 ;将变量 num2.addr 保存到变量 2

%add = add nsw i32 %1, %2 ;将变量 1 和变量 2 相加，结果保存到变量 add

store i32 %add, i32* %num3, align 4 ;将变量 add 保存到变量 num3

%3 = load i32, i32* %num3, align 4 ;将变量 num3 保存到变量 3

store i32 %3, i32* %retval, align 4 ;将变量 3 保存到变量 retval

br label %return ;跳转到 return

return: ;第 4 个 BasicBlock，名称是 return ; preds = %if.end, %if.then

%4 = load i32, i32* %retval, align 4

ret i32 %4

}

//生成随机数

char scrambling_key[16];
llvm::cryptoutils->get_bytes(scrambling_key, 16);

62 //生成随机数

63 char scrambling_key[16];

64 llvm::cryptoutils->get_bytes(scrambling_key, 16);

67  //转换 switch 语句
68 FunctionPass *lower = createLowerSwitchPass();
69 lower->runOnFunction(*f);

67 //转换 switch 语句

68 FunctionPass *lower = createLowerSwitchPass();

69 lower->runOnFunction(*f);

71  //保存所有原始的 BasicBlock

72  for (Function::iterator i = f->begin(); i != f->end(); ++i) {
73      BasicBlock *tmp = &*i;
74      origBB.push_back(tmp);
75
76      BasicBlock *bb = &*i;

77      if (isa<InvokeInst>(bb->getTerminator())) {

78          return false;
79      }
80  }

71 //保存所有原始的 BasicBlock

72 for (Function::iterator i = f->begin(); i != f->end(); ++i) {

73 BasicBlock *tmp = &*i;

74 origBB.push_back(tmp);

75

76 BasicBlock *bb = &*i;

77 if (isa<InvokeInst>(bb->getTerminator())) {

78 return false;

79 }

80 }

87  //清空第一个 BasicBlock
88  origBB.erase(origBB.begin());
89

90  //获取指向第一个 BasicBlock 的指针

91  Function::iteratortmp = f->begin();  //++tmp;
92  BasicBlock *insert = &*tmp;
93

87 //清空第一个 BasicBlock

88 origBB.erase(origBB.begin());

89

90 //获取指向第一个 BasicBlock 的指针

91 Function::iteratortmp = f->begin(); //++tmp;

92 BasicBlock *insert = &*tmp;

93

94  //如果第一个 BasicBlock 含有条件语句
95  BranchInst *br = NULL;

96  if (isa<BranchInst>(insert->getTerminator())) {
97      br = cast<BranchInst>(insert->getTerminator());
98  }

94 //如果第一个 BasicBlock 含有条件语句

95 BranchInst *br = NULL;

96 if (isa<BranchInst>(insert->getTerminator())) {

97 br = cast<BranchInst>(insert->getTerminator());

98 }

br i1 %cmp, label %if.then, label %if.end

100  if ((br != NULL && br->isConditional()) ||
101      insert->getTerminator()->getNumSuccessors() > 1) {
102      BasicBlock::iterator i = insert->end();
103      --i;
104

105      if (insert->size() > 1) {
106          --i;
107      }
108

100 if ((br != NULL && br->isConditional()) ||

101 insert->getTerminator()->getNumSuccessors() > 1) {

102 BasicBlock::iterator i = insert->end();

103 --i;

104

105 if (insert->size() > 1) {

106 --i;

107 }

108

%cmp = icmp ne i32 %0, 100

109      BasicBlock *tmpBB = insert->splitBasicBlock(i, "first");
110      origBB.insert(origBB.begin(), tmpBB);
111  }
112

109 BasicBlock *tmpBB = insert->splitBasicBlock(i, "first");

110 origBB.insert(origBB.begin(), tmpBB);

111 }

112

first:                                   ; preds = %entry

    %cmp = icmp ne i32 %0, 100  

    br i1 %cmp, label %if.then, label %if.end

first: ; preds = %entry

%cmp = icmp ne i32 %0, 100

br i1 %cmp, label %if.then, label %if.end

entry:

    %retval = alloca i32, align 4 

    %num1.addr = alloca i32, align 4

    %num2.addr = alloca i32, align 4

    %num3 = alloca i32, align 4 

    store i32 %num1, i32* %num1.addr, align 4

    store i32 %num2, i32* %num2.addr, align 4

    %0 = load i32, i32* %num1.addr, align 4

    br label %first

entry:

%retval = alloca i32, align 4

%num1.addr = alloca i32, align 4

%num2.addr = alloca i32, align 4

%num3 = alloca i32, align 4

store i32 %num1, i32* %num1.addr, align 4

store i32 %num2, i32* %num2.addr, align 4

%0 = load i32, i32* %num1.addr, align 4

br label %first

113 // 移除跳转

114 insert->getTerminator()->eraseFromParent();

113 // 移除跳转

114 insert->getTerminator()->eraseFromParent();

116  //创建 switchVar，并按其进行设置

117  switchVar = new AllocaInst(Type::getInt32Ty(f->getContext()), 0, "switchVar", insert);
118

119  new StoreInst(
120      ConstantInt::get(Type::getInt32Ty(f->getContext()),
121                       llvm::cryptoutils->scramble32(0, scrambling_key)),
122                       switchVar, insert);

116 //创建 switchVar，并按其进行设置

117 switchVar = new AllocaInst(Type::getInt32Ty(f->getContext()), 0, "switchVar", insert);

118

119 new StoreInst(

120 ConstantInt::get(Type::getInt32Ty(f->getContext()),

121 llvm::cryptoutils->scramble32(0, scrambling_key)),

122 switchVar, insert);

%switchVar = alloca i32

store i32 1207049111, i32* %switchVar

%switchVar = alloca i32

store i32 1207049111, i32* %switchVar

124  //创建主循环

125  loopEntry = BasicBlock::Create(f->getContext(), "loopEntry", f, insert);

126  loopEnd = BasicBlock::Create(f->getContext(), "loopEnd", f, insert);
127

128  load = new LoadInst(switchVar, "switchVar", loopEntry);
129

130  //在顶部移动第一个 BasicBlock
131  insert->moveBefore(loopEntry);
132  BranchInst::Create(loopEntry, insert);
133

134  //从 loopEnd 跳转到 loopEntry
135  BranchInst::Create(loopEntry, loopEnd);
136

137  BasicBlock *swDefault = BasicBlock::Create(f->getContext(), "switchDefault", f, loopEnd);
138
139  BranchInst::Create(loopEnd, swDefault);
140

141  //创建 switch 语句本身，并设置条件
142  switchI = SwitchInst::Create(&*f->begin(), swDefault, 0, loopEntry);
143  switchI->setCondition(load);
144

145  //移除第一个BasicBlock 中的跳转分支，并且创建一个到 while 循环的跳转
146  f->begin()->getTerminator()->eraseFromParent();
147

148  BranchInst::Create(loopEntry, &*f->begin()); //添加上 br label %loopEntry

124 //创建主循环

125 loopEntry = BasicBlock::Create(f->getContext(), "loopEntry", f, insert);

126 loopEnd = BasicBlock::Create(f->getContext(), "loopEnd", f, insert);

127

128 load = new LoadInst(switchVar, "switchVar", loopEntry);

129

130 //在顶部移动第一个 BasicBlock

131 insert->moveBefore(loopEntry);

132 BranchInst::Create(loopEntry, insert);

133

134 //从 loopEnd 跳转到 loopEntry

135 BranchInst::Create(loopEntry, loopEnd);

136

137 BasicBlock *swDefault = BasicBlock::Create(f->getContext(), "switchDefault", f, loopEnd);

138

139 BranchInst::Create(loopEnd, swDefault);

140

141 //创建 switch 语句本身，并设置条件

142 switchI = SwitchInst::Create(&*f->begin(), swDefault, 0, loopEntry);

143 switchI->setCondition(load);

144

145 //移除第一个BasicBlock 中的跳转分支，并且创建一个到 while 循环的跳转

146 f->begin()->getTerminator()->eraseFromParent();

147

148 BranchInst::Create(loopEntry, &*f->begin()); //添加上 br label %loopEntry

150  //把所有 BasicBlock 都放入 switch 分支

151  for (vector<BasicBlock *>::iterator b = origBB.begin(); b != origBB.end();
152       ++b) {
153      BasicBlock *i = *b;
154      ConstantInt *numCase = NULL;
155

156      //把 BasicBlock 移动到 switch 内（只是视觉上的，不涉及代码逻辑）
157      i->moveBefore(loopEnd);
158

159      //给 switch 添加 case，switchVar 是随机数
160      numCase = cast<ConstantInt>(ConstantInt::get(
161          switchI->getCondition()->getType(),
162          llvm::cryptoutils->scramble32(switchI->getNumCases(), scrambling_key)));

163      switchI->addCase(numCase, i);  //添加 switch case
164  }