逸翎清晗🌈

MachineCombiner 一个基于机器级 trace 度量，将多条指令合并为更高效指令序列的 LLVM 机器指令合并优化 Pass。对应的中端 Pass 就是 InstCombiner。但是该 Pass 的逻辑比较简单，只有六百多行。 基本概念如下： 目标：在不延长关键路径、不增加资源压力（或优化代码体积）的前提下，将可组合的指令序列（如 MUL+ADD）替换为单条复合指令（如 MADD），以提高生成代码的执行效率或减小代码体积。 依赖分析：利用 MachineTraceMetrics 提供的“深度（Depth）”、“延迟（Latency）”和“Slack”信息，评估新旧指令序列对关键路径的影响。 资源分析：基于调度模型（TSchedModel）和硬件资源模型，比较合并前后资源使用长度（Resource Length）。 启发式：优先尝试减少关键路径深度，再尝试减少资源长度；在代码大小优化模式下，只要新序列短即替换；在循环中若检测到吞吐模式也可替换。 最简单的例子就是一个 FMA 指令： ; 原始序列 MUL r1, r2, r3 ; 乘法 ADD r4, ...

【综述解析·III】Optimization Techniques for GPU Programming(推荐)(上) 本文是一篇 CSUR长文，80 页，≈450文献整理而成。作者来自阿姆斯特丹自由大学，QS209. 本文前四章营养较少，可以从第五章看起，核心是第六章，涉及的干货也很多，是我读过的 GPU 相关的最全的综述。 本文分两部分（正文+附录），这篇只放正文。 摘要： 在过去十年中，图形处理器（GPU）在高性能计算领域中发挥了重要作用，并持续推动物联网、自动驾驶和百亿亿次计算等新兴领域的发展。因此，深入理解如何高效地挖掘这些处理器的性能具有重要意义，而这并非易事。本文综述了过去14年中发表的450篇相关文献，系统梳理了其中提出的各类优化技术。我们从多个视角对这些优化策略进行了分析，结果表明各类优化手段之间存在高度关联性，这也凸显了诸如自动调优等技术的必要性。 一、引言 图形处理器（GPU）在过去数十年间彻底改变了高性能计算（HPC）的格局，并被认为是近年来人工智能（AI）领域取得诸多进展的重要推动因素。GPU 最初作为游戏图形处理的专用处理器而诞生，随后被适配为高性能计 ...

KCFI 这个 Pass 就一百多行，含义就是：在内核代码的间接调用前插入控制流完整性检查（Control-Flow Integrity, CFI）指令，以提高安全性。 实现 Kernel Control-Flow Integrity (KCFI) 的功能 —— 在执行间接函数调用（如通过函数指针调用）之前插入一个检查指令，验证被调用目标是否匹配预期的类型。 背景 控制流完整性是一种编译器和运行时技术，旨在防止攻击者通过劫持程序的控制流（比如通过函数指针、虚函数表、返回地址等）来执行恶意代码。 攻击者通常利用内存漏洞（如缓冲区溢出、Use-after-free 等）修改代码中用于间接跳转的数据（如函数指针），从而劫持控制流，达到执行任意代码的目的。 KCFI（Kernel Control-Flow Integrity） 是 LLVM 项目为 Linux 内核引入的一种轻量级、可部署的控制流完整性机制。它专注于防护 内核中的间接函数调用，如： void (*handler)(void) = some_func; handler(); // 间接调用 攻击者若能修改 handler 指针， ...

【AI 编译·II】Optimizing Deep Learning Inference Efficiency through Block Dependency Analysis 本文选自 ASPLOS’25，来自计算所谭光明研究员和孙凝晖院士。领域为 AI 编译→算子优化→算子融合→线程块级算子优化 摘要： 深度神经网络（DNN）中的算子间优化依赖于精确的数据依赖关系分析。传统的机器学习编译器（MLC）通常在元素级或算子级执行静态数据依赖分析，然而这种方式存在两大关键局限性：其一，复杂的依赖关系阻碍了高效的跨算子优化；其二，可并行计算部分未被识别，导致 GPU 资源未被充分利用。为解决上述问题，我们提出了 BlockDepend，一种全新的机器学习编译框架，通过 块级（block-level）依赖分析打破现有瓶颈。BlockDepend 通过分析编译流程中的低层阶段，提取关键的块级依赖信息，从而简化算子之间的复杂关系，发掘被隐藏的并行计算机会。这一机制使得编译器能够采用更具针对性的优化策略，提升内存访问效率，并增强 GPU 的利用率。实验结果表明，BlockDepend 在多个工 ...

【AI 编译·I】Mosaic: Exploiting Instruction-Level Parallelism on Deep Learning Accelerators with iTex Tessellation 本文选自 ASPLOS’25，计算所国重实验室郭崎组的论文。作者单位包括腾讯，寒武纪。元信息见最后。 概述 这篇论文提出了 Mosaic，一种面向深度学习加速器（DLA）的 自底向上、基于镶嵌（tessellation）的编译器框架。论文的动机在于当前主流深度学习编译器大多采用自顶向下的平铺（tiling）方法，只能生成同构指令映射，难以充分挖掘指令级并行性（ILP），尤其在 CUDA Core 与 Tensor Core 协同场景中表现受限。 Mosaic 的核心创新包括： 提出 iTex 抽象，形式化描述单条指令的计算语义； 构建派生与变换 iTex，从而实现任务空间与指令空间之间的灵活映射； 提出启发式镶嵌算法，结合 independent 与 reduction tessellation 实现异构指令映射； 在代码生成与调度阶段，通过 zig-zag 执 ...

【存算一体编译·I】CINM (Cinnamon)： A Compilation Infrastructure for Heterogeneous Compute In-Memory and Compute Near-Memory Paradigms 本文来源于 ASPLOS2024，德国德累斯顿大学发表的存算一体编译论文。（QS 173） 摘要：数据密集型应用的兴起暴露了传统以处理器为中心的冯·诺依曼架构在满足片外内存带宽需求方面的局限性。因此，近来计算机体系结构领域提出了计算-内存融合（compute-in-memory, CIM） 和近内存计算（compute-near-memory, CNM） 等非冯·诺依曼范式，在性能和能耗方面均实现了数量级的提升。尽管过去几年中取得了显著的技术突破，这些系统的可编程性依然是一大挑战——其编程模型过于低级，且高度依赖特定系统实现。鉴于未来此类架构预计将呈现高度异构的特征，开发新型编译器抽象和框架势在必行。为此，我们提出了 CINM（Cinnamon），这是首个端到端的编译流程，它通过分层抽象对不同的 CIM 与 CNM 设备进行统一建模， ...