(19)中华人民共和国国家知识产权局
(12)发明专利申请
(10)申请公布号 (43)申请公布日 (21)申请号 202110048177.9
(22)申请日 2021.01.14
心
地址 450000 河南省郑州市金水区俭学街7
号
申请人 天津市滨海新区信息技术创新中心
(72)发明人 邬江兴 刘勤让 汤先拓 沈剑良
吕平 刘冬培 董春雷 陈艇
宋克 高彦钊
(74)专利代理机构 郑州大通专利商标代理有限
公司 41111
代理人 周艳巧
(51)Int.Cl.
G06F 30/398(2020.01)
H01L 27/02(2006.01)
(54)发明名称软件定义晶上系统及数据交互方法和系统体系架构(57)摘要本发明属于半导体技术领域，特别涉及一种软件定义晶上系统及数据交互方法和系统体系架构，该系统包含：晶圆级互连基板，设置在晶圆级互连基板上的若干预制件，以及用于不同预制件之间互连的软件定义晶上互连网络，每个预制件根据领域应用功能需求集成有不同函数算粒；预制件遵循统一的接口标准和物理层协议规范，且相互之间通过晶圆级互连基板和软件定义晶上互连网络进行数据交换，以利用软件定义方式重组和/或重建不同函数算粒来适应不同的应用需求和任务映射需求。本发明打破现有集成电路的设计方法、计算范式、实现材料、集成方式等边界条件，实现面向领域应用的不同预制件的灵活互连与功能重建，以满足复杂多样的应用任务需 求。权利要求书1页 说明书6页 附图2页CN 112800715 A 2021.05.14
C N 112800715
A
1.一种软件定义晶上系统，其特征在于，包含：晶圆级互连基板，设置在晶圆级互连基板上的若干预制件，以及用于不同预制件之间互连的软件定义晶上互连网络，每个预制件根据领域应用功能需求集成有不同的函数算粒；预制件遵循统一的接口标准和物理层协议规范，且相互之间通过晶圆级互连基板和软件定义晶上互连网络进行数据交换，并利用软件定义方式重组和/或重建不同函数算粒来适应不同的应用需求和任务映射需求。
2.根据权利要求1所述的软件定义晶上系统，其特征在于，所述预制件采用软件定义专用预制件和/或已有商用预制件。
3.根据权利要求1或2所述的软件定义晶上系统，其特征在于，预制件分别采用不同工艺制程和/或不同功能结构和/或不同制造厂商的异构异质预制件。
4.根据权利要求1所述的软件定义晶上系统，其特征在于，所述晶圆级互连晶圆级互连基板通过重布线层RDL或光刻方式提供预制件之间的互联线路；各预制件通过热压焊与晶圆级互连晶圆级互连基板连
接。
5.根据权利要求1所述的软件定义晶上系统，其特征在于，所述函数算粒包括但不限于FFT处理算粒或矩阵求逆处理算粒或矩阵乘处理算粒或卷积处理算粒。
6.一种软件定义晶上系统数据交互方法，其特征在于，基于权利要求1所述的软件定义晶上系统实现，包含：
统计各预制件计算特征及状态信息并进行抽象形式化表示，为实时认知决策和资源分配提供资源信息；对目标应用任务进行任务分解，得到应用任务计算特征和业务属性，并通过抽象形式化表示，为实时认知决策和资源分配提供业务信息；
依据资源信息和业务信息重组预制件内函数化算粒模块及不同预制件连接关系，动态构建适用于任务应用的预制件互联结构，以满足任务应用。
7.根据权利要求6所述的软件定义晶上系统数据交互方法，其特征在于，依据资源信息和业务信息将预制件内不同的函数化算粒模块通过软件定义方式进行不同的算粒组合和功能重建来满足应用需求和任务映射需求。
8.一种软件定义晶上系统体系架构，其特征在于，基于权利要求1所述的软件定义晶上系统实现，包含
硬件资源层、资源感知层、认知决策层、业务感知层和应用层，其中，应用层提供各种应用业务支持，硬件资源层根据不同应用需求集成有若干预制件；资源感知层用于通过感知算法获取硬件资源层各个预制件的计算特征及状态信息，并将资源信息传递给认知决策层；业务感知层对目标应用任务进行任务分解得到应用任务的计算特征和业务属性，并将业务信息反馈给认知决策层；认知决策层依据资源信息和业务信息动态构建适用于应用任务需求的计算结构，并将该计算结构作为系统配置，硬件资源层依据系统配置重构预制件组合互联结构。
权 利 要 求 书1/1页CN 112800715 A
软件定义晶上系统及数据交互方法和系统体系架构
技术领域
[0001]本发明属于半导体技术领域，特别涉及一种软件定义晶上系统及数据交互方法和系统体系架构。
背景技术
[0002]随着摩尔定律和登纳德缩放定律逐渐失效，传统的基于器件、组件、模块、机架逐层堆叠系统的工程技术路线遭遇可持续发展瓶颈。目前，芯片工艺制程越来越接近量子效应区域，单位面积中容
纳的晶体管数量越来越多、良率控制越来越难、功耗问题越来越突出、制造和设计成本呈指数级攀升，单芯片性能提升业已逼近天花板。同时，继续沿用“堆砌”器件、组件、机架的传统工程技术路线来发展人工智能、边缘计算、大数据、云平台、5G等新一代信息系统时，在功耗、时延、性能、体积、可靠性、可维性等方面正遭遇前所未有的严峻挑战。为了维持后摩尔时代集成电路领域的可持续发展，基于预制件组装和晶圆级异构集成技术的晶上系统(System on Wafer，SoW)逐步成为集成电路领域的研究热点。[0003]由于不同种类的应用任务具有不同的计算特征，对计算‑存储‑通信资源要求也各不相同，且应用任务内部可能混合多种类型的并行性、不同的局限性、不同的通信和同步要求，同一种应用在不同体系结构上运算性能将差异很大，因此需要应用从功能和性能的角度去适配固化的系统结构，灵活性和可扩展性较差且具有较大的局限性，应用效能也将大打折扣，难以满足复杂多样的应用任务需求。
发明内容
[0004]为此，本发明提供一种软件定义晶上系统及数据交互方法和系统体系架构，打破现有集成电路的设计方法、计算范式、实现材料、集成方式等边界条件，可以将大型信息基础设施的工程技术路线由基于器件、组件、模块、机架逐层堆叠式系统演进为不同颗粒度“预制件”的拼接组装式实现，以实现面向领域应用的不同预制件的灵活互连与功能重建，以满足复杂多样的应用任务需求。
[0005]按照本发明所提供的设计方案，一种软件定义晶上系统，包含：晶圆级互连基板，设置在晶圆级互连基板上的若干预制件，以及用于不同预制件之间互连的软件定义晶上互连网络，每个预制件根据领域应用功能需求集成有不同的函数算粒；预制件遵循统一的接口标准和物理层协议规范，且相互之间通过晶圆级互连基板和软件定义晶上互连网络进行数据交换，并利用软件定义方式重组和/或重建不同函数算粒来适应不同的应用需求和任务映射需求。
[0006]作为本发明软件定义晶上系统，进一步的，所述预制件采用软件定义专用预制件和/或已有商用预制件。
[0007]作为本发明软件定义晶上系统，进一步地，预制件分别采用不同工艺制程和/或不同功能结构和/或不同制造厂商的异构异质预制件。
[0008]作为本发明软件定义晶上系统，进一步地，所述晶圆级互连基板通过重布线层RDL
或光刻方式提供预制件之间的互联线路；各预制件通过热压焊与晶圆级互连基板连接。[0009]作为本发明软件定义晶上系统，进一步地，预制件内部的函数算粒包括但不限于FFT处理算粒或矩阵求逆处理算粒或矩阵乘处理算粒或卷积处理算粒。
[0010]进一步地，作为本发明软件定义晶上系统数据交互方法，包含：
[0011]统计各预制件计算特征及状态信息并进行抽象形式化表示，为实时认知决策和资源分配提供资源信息；对目标应用任务进行任务分解，得到应用任务计算特征和业务属性，并通过抽象形式化表示，为实时认知决策和资源分配提供业务信息；
[0012]依据资源信息和业务信息重组预制件内函数化算粒模块及不同预制件连接关系，动态构建适用于任务应用的预制件互联结构，以满足任务应用。
[0013]作为本发明软件定义晶上系统数据交互方法，进一步地，依据资源信息和业务信息将预制件内不同的函数化算粒模块通过软件定义方式进行不同的算粒组合和功能重建来满足应用任务需求映射。
[0014]进一步地，本发明还提供一种软件定义晶上系统体系架构，包含硬件资源层、资源感知层、认知决策层、业务感知层和应用层，其中，应用层提供各种应用业务支持，硬件资源层根据不同应用需求集成有若干预制件；资源感知层用于通过感知算法获取硬件资源层各个预制件的计算特征及状态信息，并将资源信息传递给认知决策层；业务感知层对目标应用任务进行任务分解得到应用任务的计算特征和业务属性，并将业务信息反馈给认知决策层；认知决策层依据资源信息和业务信息动态构建适用于应用任务需求的计算结构，并将该计算结构作为系统配置，硬件资源层依据系统配置重构预制件之间的组合关系和互连结构。
[0015]本发明的有益效果：
[0016]本发明借鉴预制件组装和晶圆级异构集成等理念，实现不同功能、性能、工艺等混合粒度预制件的高效集成，可有效破解当前集成电路面临的发展困局，改变现有“芯片、模组、机匣、机架、系统”逐层堆叠的工程技术路线，刷新新一代信息系统的物理形态，使设计指标获得连乘性增益；针对不同计算任务的不同的计算需求，以软件灵活定义与主动感知重构相结合的方式，快速灵活地实现针对不同应用的计算结构重构，满足不同的计算需求，配置数据量小，重构速度快，具有较大的灵活性；针对计算构件资源的状态(可用、已用、保留、故障等)采用计算结构灵活重构，计算任务快速迁移的方式，有效避开故障器件或不可用构件，进而提高系统的可靠性，具有较好的应用前景。
附图说明：
[0017]图1为实施例中软件定义晶上系统结构示意；
[0018]图2为实施例中软件定义晶上系统数据交互方法示意；
[0019]图3为实施例中系统体系架构示意；
[0020]图4为实施例中预制件级函数化算粒组合与功能重建示意；
[0021]图5为实施例中面向领域应用的软件定义算粒组合与功能重建示意。
[0022]图1中，标号1代表晶圆级互连基板，标号2代表预制件，标号3代表电源管理、测试等功能模块，标号4代表软件定义互联网络(电/光)，标号5代表IO、模拟等功能模块。
具体实施方式：
[0023]为使本发明的目的、技术方案和优点更加清楚、明白，下面结合附图和技术方案对本发明作进一步详细的说明。
[0024]本发明实施例，参见图1所示，提供一种软件定义晶上系统，包含：晶圆级互连基板，设置在晶圆级互连基板上的若干预制件，以及用于不同预制件之间互连的软件定义晶上互连网络，每个预制件根据领域应用功能需求集成有不同的函数算粒；预制件遵循统一的接口标准和物理层协议规范，且相互之间通过晶圆级互连基板和软件定义晶上互连网络进行数据交换，并利用软件定义方式重组和/或重建不同函数算粒来适应不同的应用需求和任务映射需求。
[0025]目前，国内外针对SoW的研究尚处于初步阶段，其最早来自于美国DARPA在电子复兴(ERI)计划中启动的“通用异构集成和IP重用策略(CHIPS)”项目，其愿景是创建由独立模块化、可重用的IP块组成的全行业生态系统，可使用现有的和新兴的集成技术将这些IP块组装到系统中。2019年9月，人工智能芯片初创公司Cerebras Systems发布世界最大芯片“晶圆级引擎(WSE，Wafer Scale Engine)”，该系统基于台积电16nm工艺制造，拥有46225平方毫米面积、1.2万亿个晶体管、40万个AI核心、18GB S
RAM缓存、9PB/s内存带宽和100Pb/s 互连带宽，并联合美国能源部推出世界上最快的深度学习计算CS‑1系统，代表SoW领域的最新研究与应用成果。通用异构集成及知识产权复用策略(CHIPS)项目通过die‑to‑die内部互联技术将多个chiplet芯片与底层基础芯片封装在一起，构成多功能的异构System in Packages(SiPs)芯片，该技术主要来源于先进的封装技术，属于chiplet级拼装集成路线，但其仅代表着一种实现工艺上的创新，在系统体系结构方面没有涉及，属于刚性体系结构的范畴。晶圆级引擎WSE在整块晶圆上集成40万个AI核心，采用单工艺节点、大芯片集成的技术路线，其内部小单元均采用同一工艺，主要基于同构和复制的模式来实现AI核心的海量集成，属于同质同构集成领域，适用于特定的应用领域。此外，现有的SoW相关研究通常基于刚性固定的体系结构，系统内部具有固定的计算资源、存储资源、IO资源等、且各资源之间的连接关系和通信带宽亦相对固定。本案实施例中，借鉴预制件组装和晶圆级异构集成等理念，实现不同功能、性能、工艺等混合粒度预制件的高效集成，可有效破解当前集成电路面临的发展困局，改变现有“芯片、模组、机匣、机架、系统”逐层堆叠的工程技术路线，刷新新一代信息系统的物理形态，使设计指标获得连乘性增益。各种软件定义领域专用预制件或其他成熟商用预制件将基于统一的接口标准和物理层协议规范，利用晶圆级互连基板和软件定义晶上互连网络来实现异质、异构预制件之间的互连互通和晶圆级系统集成。[0026]作为本发明实施例中的软件定义晶上系统，进一步的，所述预制件采用软件定义专用预制件和/或已有商用预制件。进一步地，预制件分别采用不同工艺制程和/或不同功能结构和/或不同制造厂商的异构异质预制件。
[0027]预制件的设计可根据领域应用的功能需求进行函数化的模块集成与实现，预制件内部不同的函数化算粒在数据调度层的支持下将以软件定义的方式进行不同的算粒组合与功能重建，以适应不同的应用需求和任务映射需求。根据不同的应用需求，SDSoW异构系统内部可能集成成百上千个不同工艺制程、不同功能和结构(如计算、存储、互连、IO等)、不同设计和制造厂商的预制件。为支持异构异质预制件的灵活集成，晶圆上不同预制件之间的互连将遵循统一的接口标准和物理层协议规范。大量的软件定义领域专用预制件、各种
豫公网安备41160202000603
站长QQ:729038198
关于我们
投诉建议