面对软件和硬件在细节抽象上存在的巨大差异，为探索一条提高软件定义芯片易用性和计算效率的有效途径，本书提出一套通用的算子恢复技术，为高级语言程序和芯片硬件架起一座高效沟通的桥梁。
本书系统地介绍了软件定义芯片的概念、国内外研究与产业现状、基本原理、需要研究的关键问题和研究平台，深入阐述了编译领域的多种指令选择技术，又基于指令选择技术、图匹配技术、最优化原理方法和软件逆向思维提出面向软件定义芯片通用的算子恢复技术，将细粒度的通用操作集合恢复成粗粒度的芯片算子操作，为增强软件定义芯片的易用性和计算效率提供一套可行方案，并提供了相关的工程实现核心代码。

本书作者提出一套通用的算子恢复技术，在高级语言程序和芯片硬件之间架起一座桥梁，目的在于提高软件定义芯片的易用性和计算效率。本书对相关技术进行深入阐述，并附有工程代码，将对计算机科学与技术和电子科学与技术专业的科研人员、高年级本科生、低年级研究生，以及相关行业的工程师大有裨益。

随着现代社会向数字化、自动化、智能化的方向转型发展，人们对计算服务的需求与日俱增。近半个世纪以来，集成电路工艺技术的进步是提高计算结构能力的主要措施之一，随着摩尔定律和登纳德缩放比例定律放缓甚至走向终结，此方法正在逐渐失效。
众所周知，功耗墙问题的出现使得集成电路的功耗约束在许多应用中变得更加严格。集成电路工艺进步带来的性能收益越来越小，这使得硬件架构可实现的计算能力受到严重限制。因此，计算机架构设计师不得不将注意力从性能转移到能效上；计算电路的灵活性也成为不容忽视的设计考虑要素。
随着新兴应用不断涌现、用户需求持续增加、科技能力快速进步以及软件升级越来越快，不能适应软件变化的硬件实现形式将面临生命周期过短和一次性工程成本过高的难题。效率、灵活性和易用性已成为新硬件架构设计中三个最关键的评价指标。
对于主流计算架构，满足这些新需求极具挑战性。专用集成电路(ApplicationSpecific Integrated Circuit,ASIC)能效虽高，但不具备灵活性；而冯·诺依曼处理器，如通用处理器(General Purpose Processor,GPP)、图形处理单元(Graphics Processing Unit,GPU)、数字信号处理器(Digital Signal Processor,DSP)虽足够灵活，但能效太低。现场可编程逻辑门阵列(Field ProgrammableGate Array,FPGA)因具备定制实现大规模数字逻辑、快速完成产品定型等能力而被广为使用，在通信、网络、航天、国防等领域拥有牢固的重要地位。因其单比特编程粒度、静态配置等本征属性造成了能量效率低、容量受限、使用门槛高等问题，无法满足不断提高的应用需求。近年来，通过采用扩大硬件规模、异构计算、高级语言编程等方法，FPGA进行了持续的技术升级，但受其本征属性限制，上述问题始终未能从根本上得到解决。如果FPGA的基础架构不发生根本性的改变，其未来将充满重重困难。
软件定义芯片采用以粗粒度为主的混合编程粒度与动态配置相结合的方式，可以从根本上解决以上制约FPGA发展的技术难题，并同时满足能效和灵活性的需求。混合编程粒度能大幅减小资源冗余，提升芯片能效；动态配置通过时分复用能摆脱承载容量的限制，与高级语言配合可提高芯片的可编程性、降低使用门槛。
软件定义芯片已成为世界强国战略必争的科研高地。2018年，美国国防高级研究计划局(Defense Advanced Research Projects Agency,DARPA)为启动电子振兴计划斥资7100万美元，组织全美最强力量，开展了对软件定义芯片的联合攻关。欧盟推出的地平线2020也对该方向给予高度的重视和持续的研发支持。
编程语言正朝着更高层次、更为抽象的表达方式演进；硬件体系结构却向更加复杂的方向发展。随着应用程序和硬件之间的抽象差距越来越大，编译器在自动利用硬件资源以实现最佳性能方面变得越来越捉襟见肘。多数人习惯于串行化思维模式，高级语言通常描述的是串行执行过程，软件研发人员使用高级语言编程时效率更高。如何让不了解硬件设计的软件人员采用纯软件思维就能对软件定义芯片进行高效编程，以降低使用门槛、拓展使用范围、加快应用的迭代与部署速度，即提高软件定义芯片的易用性，不仅是一项艰巨的挑战，也是一个亟待解决的问题。
软件定义芯片的功能，最终要靠程序员编写的软件来实现。一套硬件能否吸引大量用户投入精力去开发软件的一个必要条件是硬件支持的软件需向前兼容，即用户之前编写的软件能比较方便地在新的芯片上正确运行。一个优秀的编译系统可以在不过多地影响程序员生产力的条件下，有效地挖掘软件定义芯片的硬件潜能，为用户提供更加方便且高效地使用芯片硬件资源的方法。
面对软件和硬件在细节抽象上存在的巨大差异，为探索一条提高软件定义芯片的易用性和计算效率的有效途径，本书提出一套通用的算子恢复技术，为高级语言程序和芯片硬件架起一座通用且能实现高效沟通的桥梁。可有效解决块际指令、多输出指令及循环控制等传统方法难以处理的问题。
本书首先系统地介绍了计算架构发展的历程、软件定义芯片的概念及需要重点研究的关键问题。第二章介绍基于LLVM开发的研究平台。第三章系统地介绍编译领域的指令选择技术，基于模式匹配、模式选择两大维度及树全覆盖、DAG全覆盖和图全覆盖三大策略对多种技术进行深入阐述，为通用算子恢复技术的提出赋予了基础理论的支撑。第四章详细介绍通用算子恢复技术，基于图匹配技术、最优化原理(Principle of Optimality,PO)方法和软件逆向(Software Reverse,SR)思维将细粒度的通用操作集恢复成粗粒度的芯片算子操作，为增强软件定义芯片的编程效率和计算效率提供一套可行方案。
第五章基于通用算子恢复技术及配套算法给出通用算子恢复系统的工程实现核心代码，并对代码进行详细的分析介绍。第六章对面向软件定义芯片通用的算子恢复技术及恢复系统进行总结，并展望了提高软件定义芯片易用性、计算效率和灵活性的发展趋势。
本书是基于笔者在清华大学移动计算研究中心从事的科学研究工作而撰写的，在写作过程中，朱建峰博士、王婷博士和博士生张泰然给予了诸多宝贵建议和帮助。在此对他们表示衷心的感谢!最后，特别感谢我的妻子关霞，没有她在背后默默的支持和鼓励，本书绝没有面世的可能。
限于笔者时间和水平均有限，书中定然存在一些不足之处，敬请读者不吝指正。
吴伟峰2024年3月于清华园

吴伟峰
博士，清华大学移动计算研究中心工程师。研究领域包括：编译器、编程语言研发、多语言程序自动转换、二进制翻译、反编译、高性能计算和数据库加密应用等。目前主要致力于软件定义芯片配套编译系统的研究及开发工作。

第1章 软件定义芯片 1
1.1 概述 1
1.1.1 计算架构发展历程 1
1.1.2 软件定义芯片简介 3
1.2 重点研究方向 6
1.2.1 硬件架构与高效性 7
1.2.2 编程模型与灵活性 8
1.2.3 编译框架与易用性9
参考文献.11
第2章 基于LLVM的研发平台14
2.1 LLVM介绍14
2.1.1 经典编译器设计概览 16
2.1.2 现有实践17
2.1.3 LLVM中间码18
2.1.4 LLVM三段式设计 19
2.1.5 模块化设计附带闪点 23
2.2 研发平台介绍24
2.2.1 CMake构建选项24
2.2.2 循环体 DFG图生成 25
2.3 限制27
参考文献 27
第3章 指令选择技术 28
3.1 概述29
3.1.1 指令选择介绍 29
3.1.2 机器指令特征 32
3.1.3 最优指令选择 34
3.1.4 指令选择的早期发展 35
3.1.5 相关知识及定义 36
3.1.6 指令选择的基础分类 40
3.1.7 指令选择的归质任务划分49
3.2 技术介绍 49
3.2.1 初级技术 49
3.2.2 模式匹配 52
3.2.3 模式选择 68
3.3 展望83
3.3.1 待研究主题83
3.3.2 挑战84
参考文献 85
第4章 通用算子恢复技术97
4.1 提高软件定义芯片易用性的相关技术 97
4.2 算子恢复技术的引入98
4.3 软件定义芯片通用算子恢复系统 99
4.3.1 软件定义芯片抽象算子100
4.3.2 通用算子恢复系统的输入 106
4.3.3 算子基本模板图匹配 117
4.3.4 算子聚合126
4.3.5 算子选择127
4.3.6 算子生成131
4.3.7 复杂度分析 132
4.3.8 总结 135
参考文献135
第5章 通用算子恢复系统实现136
5.1 DFG 图数据结构 136
5.1.1 结点操作码定义136
5.1.2 结点数据结构138
5.1.3 边数据结构 139
5.1.4 图数据结构 140
5.2 算子基本模板库工程示例 140
5.2.1 DOT语言 141
5.2.2 算子基本模板工程示例142
5.3 图匹配优先级序列工程示例 147
5.4 算子聚合模板库工程示例 148
5.4.1 AU算子聚合模板151
5.4.2 二级 LU算子聚合模板155
5.4.3 三级 LU算子聚合模板159
5.4.4 SU模式一算子聚合模板179
5.4.5 SU模式二算子聚合模板180
5.4.6 SU模式三算子聚合模板183
5.5 算子基本模板库图匹配工程示例 190
5.5.1 算子基本模板匹配总控函数 190
5.5.2 算子基本模板匹配函数191
5.5.3 结点匹配函数193
5.5.4 结点向上匹配函数 198
5.5.5 基本算子恢复函数 199
5.6 算子聚合工程示例 203
5.6.1 LU算子抽象转换函数 204
5.6.2 算子聚合模板匹配总控函数 205
5.6.3 算子聚合模板匹配函数207
5.6.4 LU抽象算子还原函数 215
5.7 算子选择工程示例 216
5.8 算子生成工程示例224
参考文献238
第6章 结语与展望 239
6.1 结语 239
6.2 展望239
6.2.1 软件定义芯片的虚拟化240
6.2.2 利用机器学习进行在线训练 241
参考文献243
索引245