-
-
[原创]KernelGPT让大模型给 Linux 内核写 fuzz 规则:一条从源码到 QEMU 的流水线,和它踩过的坑
-
发表于: 2026-10-19 10:17 601
-
用一个 7 分钟、1 台虚拟机的冒烟测试,换来一条完整闭环的证明:
内核源码 → Clang AST → LLM 推理 → Syzkaller 描述 → 常量提取 → 编译器校验 → QEMU 里真的执行了那条 ioctl。
用 Syzkaller fuzz 内核,大多数系统调用的参数是"有名有姓"的:read(fd, buf, count) 的结构从签名就能读出来。
但 ioctl(fd, cmd, arg) 不行。arg 只是一个 unsigned long,它到底是 int、是 struct foo *、还是一个位域打包的结构体,只有驱动源码知道。而 syzkaller 的模糊测试效果,几乎完全取决于这份"类型描述"写得对不对:
这一行里,const[RNDRESEEDCRNG] 的常量值、arg 的真实类型,都不是猜出来的,是从内核源码里读出来的。
人工写规则不现实——Linux 有几万个 ioctl。所以很自然的一个想法是:
让大模型读源码,自动生成这些描述。
KernelGPT 做的就是这件事。但真正把它跑通,从"能生成 JSON"到"能真的在 QEMU 里执行",中间隔着一整个工程问题。
看起来是条直线,但每一段都有让整条链静默失效的细节。
内核源码几百 MB,塞不进上下文。所以第一步不是问模型,而是先把源码变成可查询的库:分析器用 Clang AST 把「函数 / 结构体 / 枚举 / 引用点」全抽出来,按名字索引。
然后模型只需要输出符号名:
Python 拿着这些名字去库里取回原文,拼进下一轮 prompt。
这一步把不确定性压到了最小:模型不需要复述任何代码,也就不可能编造代码。上下文长度天然可控(每次几 KB),而且每一步取到的源码都落盘,可以复盘。
最糟糕的做法是让模型硬猜——猜出来的类型会变成编译错误,改起来比重新生成还贵。
所以协议里显式定义了 UNKNOWN_ARG、UNKNOWN_VAL、UNKNOWN_LEN、types 里的 UNKNOWN、以及 ioctl 列表旁的 unknown[]。每一轮把这些"未知"摘出来,连同新的取码指令进下一轮:
每层都有 MAX_DEPTH 封顶。宁可标记未知,也不让模型编一个看起来合理的答案。
"生成得好不好"不靠另一个模型打分,而靠 Syzkaller 自己编译:
从诊断里正则抽出出错行号 → 反查是哪条 syscall / 哪个 type → 只把那一小块和错误信息重新问模型 → 局部替换。局部修复而不是整体重生成,既省 token,也保住了已经对的部分。
下面这些坑,每一个都能让流水线"看起来在跑,实际什么都没产出"。按发现顺序记录。
分析器要靠 compile_commands.json 重放编译。我按文档跑了 bear -- make,然后发现分析器只处理了 10 个文件。
查下来:bear 并不会解析 Makefile,它是在进程层拦截真正被 spawn 出来的编译器(LD_PRELOAD 一个 libexec.so,hook execve/posix_spawn 家族,外加一组 cc/gcc/clang/ld 的 wrapper)。在已经构建完成的树上再跑一次,Make 认为所有目标都是最新的,一个编译进程都不会启动——于是它把已有的数据库整体覆盖成 10 条。
而 linux/ 下有 4404 个 .cmd 文件、约 2900 个 .o,说明这棵树本来是完整构建过的。
正确做法是让内核自己从 .cmd 重建,不需要重新编译:
bear 只有在全新构建时才有意义;真要用就加 --append,别覆盖。
教训:一行自检命令就能提前发现——
数据库修好后,分析器开始疯狂输出:
根因不是源码,而是编译器不匹配:编译数据库里存的是构建内核时那个编译器的原始命令行。这棵树是用 gcc 构建的,于是每条命令都带着 -Wno-alloc-size-larger-than、-Wimplicit-fallthrough=5、-mpreferred-stack-boundary=3 这类 gcc 专属参数。
而 libclang 的 driver 把不认识的选项当硬错误。再叠加内核命令行里本来就有的 -Werror,连"未知的 warning 选项"都会被提升成错误——每个翻译单元在解析前就挂了,一条 AST 都出不来。
修法不是瞎试,而是把库里每条命令都丢给 clang 跑一遍、收集它拒绝的参数:
全库只有这 8 个。把它们(以及所有 -W*)在重放前丢掉,analyze 立刻从"全红"变成只剩 warning。
教训:编译器报错先问"这是谁编的",而不是"我的代码哪错了"。
修完上面那个坑,编译分析器本身又失败:
报错里混进了一个 riscv64-unknown-elf 的头文件路径,这不是巧合:PATH 第一位是个 riscv 交叉工具链,里面的 clang++ 是 Target: riscv64-unknown-unknown-elf 的 clang 19。它的默认 C++ 标准库来自 bare-metal 的 libstdc++,没有启用 gthreads——所以 std::mutex 根本不存在,std::future 只有一个前置声明。
一行就能验证:
而 Makefile 里把 clang++ 写死了(只有辅助对象用 $(CXX)),所以光传 CXX=/usr/bin/g++ 没用:
教训:which -a clang++ 比报错本身更有信息量。
生成规则时,同一个 handler 跑了两遍:
原因是 *.jsonl 是追加写入的,里面同时留着旧树(/home/test/code/...,目录早已不存在)和新树的记录。规整后 processed_handlers.json 里 177 个 handler 有 88 个带死路径,每个都得白跑一半。
更隐蔽的是 -n 1 的语义:它按 (handler, 路径) 计数,不是按 handler。所以"只跑一个"其实跑了两条。
清掉旧根记录、重新规整后:177 → 89 个 handler,每个恰好一条路径。
教训:中间产物永远要带"来源版本",否则它会和新数据混在一起,而且很难看出来。
第一个跑到的 handler 是 /proc 的通用 fops,结果 failed no spec:
两级函数指针,源码里根本没有具体 cmd(没有 proc_ioctl 就返回 -ENOTTY)。模型的表现其实完全正确:第一轮答 unknown 并指出 pde_ioctl,喂给它源码后仍然答 unknown,于是被 already_missing 去重、判定失败。
真正有 ioctl 的是注册到 /proc 的那些驱动自己的 proc_ops——属于驱动,不属于 /proc。
教训:"失败"分两种:一种该修,一种该接受。分不清就会去优化一个本来就没有答案的问题。
第一次跑完整的 fuzz 流程,卡在构建 Syzkaller:
dmesg 给了答案:
三个 Go 编译进程各吃 1.7 / 2.5 / 3.1 GB,同时被杀。原因是两层并发相乘:
改成"recipe 串行、Go 内部封顶 2"之后,同样的构建 1 分钟通过:
还有一半责任在编辑器:ps 显示 8 个 cpptools-srv2 各占 1.0–1.25 GB,合计约 9 GB。16 GB 的机器只剩 2–5 GB 给构建,怎么调参数都不够。
教训:OOM-killer 是静默的(构建工具只报 signal: killed)。在构建前打印可用内存,能省掉几小时的误判。
[招生]科锐逆向工程师培训(2026年11月13日实地,远程教学同时开班, 第57期)