首页 > 专利查询

存储器内计算动态随机存取存储器的制作方法

存储器内计算动态随机存取存储器
1.根据35u.s.c.
§
119的优先权的要求
2.本专利申请要求于2020年3月5日提交的题为“computer-in-memory dynamic random access memory”的非临时申请号16/810,475的优先权，该申请已转让给本技术的受让人，并在此通过引用明确并入本文。
技术领域
3.本技术涉及存储器内计算，并且更具体地，涉及一种动态随机存取存储器存储器内计算位单元。

背景技术：

4.数据的计算机处理通常使用冯诺依曼架构，其中数据从存储器中检索，以在算术和逻辑单元中进行处理。在诸如机器学习等计算密集型应用中，进出存储器的数据流成为处理速度的瓶颈。为了解决这个数据移动瓶颈，已经开发了存储器内计算架构，其中数据处理硬件跨位单元分布。

技术实现要素：

5.根据本公开的第一方面，提供了一种动态随机存取存储器(dram)乘法和累加电路(mac)，该dram mac包括：读取位线；第一晶体管；电容器，连接在第一晶体管的栅极和地之间；第二晶体管，连接在读取位线和第一晶体管之间；和数模转换器，被配置为将输入位转换为激活电压并且利用激活电压驱动第二晶体管的栅极。
6.根据本公开的第二方面，提供了一种动态随机存取存储器(dram)阵列，该dram阵列包括：多个dram位单元，被布置为多个列和多个行，每个dram位单元位于该列中的对应列和该行中的对应行的交叉处；多个读取位线，与多个列相对应；和数模转换器，被配置为将输入向量转换为与多个行相对应的多个激活电压，每个dram位单元被配置为存储权重位并且响应于对应行的激活电压和所存储的权重位对对应列的读取位线放电。
7.根据本公开的第三方面，提供了一种用于动态随机存取存储器(dram)位单元的存储器内计算方法，该存储器内计算方法包括：响应于跨电容器存储的第一权重位，导通第一晶体管；当第一晶体管导通时，响应于第一输入位在导通时间段内导通第二晶体管；以及在导通时间段的持续时间内，通过导通的第一晶体管并通过导通的第二晶体管将电荷从充电的读取位线传导到地。
8.根据本公开的第四方面，提供了一种动态随机存取存储器(dram)乘法和累加电路(mac)，该dram mac包括：读取位线；第一部件，用于响应于所存储的权重位的第一极性并响应于输入位对读取位线充电；和第二部件，用于响应于所存储的权重位的第二极性并响应于输入位对所述读取位线放电。
9.通过下列详细描述，可以更好地理解这些及其他有利的特征。
附图说明
10.图1a图示了根据本公开的一个方面的用于and逻辑函数计算的第一示例dram存储器内计算位单元。
11.图1b图示了根据本公开的一个方面的用于and逻辑函数计算的第二示例dram存储器内计算位单元。
12.图2图示了根据本公开的一个方面的用于乘以两位权重的dram存储器内计算位单元的示例滤波器。
13.图3图示了根据本公开的一个方面的用于三位权重的乘法的dram存储器内计算位单元的示例滤波器。
14.图4图示了根据本公开的一个方面的由行和列布置以形成多个滤波器的dram存储器内计算位单元的阵列。
15.图5图示了根据本公开的一个方面的用于将读取位线电压转换为数字值的示例模数转换器。
16.图6图示了根据本公开的一个方面的用于异或(xnor)逻辑函数计算的示例dram存储器内计算位单元。
17.图7是根据本公开的一个方面的用于示例dram存储器内计算位单元操作的流程图。
18.图8图示了根据本公开的一个方面的包括dram存储器内计算位单元阵列的一些示例电子系统。
19.本公开的实施例及其优点通过参考下面的详细描述得到最好的理解。应当理解，相似的附图标记用于标识一幅或多幅图中所示的相似元件。
具体实施方式
20.将传统的冯诺依曼架构用于机器学习应用程序很麻烦，因为进出存储器的数据流成为提高处理速度的瓶颈。因此，已经开发了存储器内计算位单元架构，其中数据处理硬件跨位单元分布。为了实现存储器内计算位单元，传统的选择是静态随机存取存储器(sram)架构或动态随机存取存储器(dram)架构。在这两种选择中，dram存储器内计算架构是有利的，因为它比同类sram替代方案更密集。
21.虽然数字dram存储器内计算架构提供了更好的密度，但是它的实施遇到了许多问题。例如，通常将数字dram存储器内计算架构用于机器学习应用程序。但是注意到，dram通常使用提供低泄漏但是相对慢并且具有相对高的电容的大通道长度设备。为了解决这些问题，本文提供了一种模拟dram存储器内计算架构。dram架构的较长通道长度实际上有利于模拟架构。此外，由本文公开的模拟架构执行的电流域计算不受dram实施的相对高的设备电容的阻碍。
22.模拟电流域计算由dram位单元执行，该dram位单元具有取决于dram位单元中存储的权重位是否具有极性(正号或负号)的架构。将首先讨论单极性dram位单元，然后讨论其中存储的权重位是带符号的存储权重位的dram位单元。示例三晶体管(3t)dram位单元100在图1a中示出，用于单极性存储的权重位。电容器c存储针对位单元100的权重位(w0)。在将权重位写入位单元100之前，写入位线(为简洁起见在本文中简称为位线)bl根据权重位的
二进制值而被充电。如果权重位是二进制一，则将位线bl充电至电源电压vdd(在高电平有效实施中)。相反，如果权重位是二进制零，则位线bl被放电到地(位线状态可以在低电平有效实施中反转)。为了将权重位写入位单元100，写入字线(wwl)被断言到电源电压vdd，以接通连接在位线bl和电容器c的正极板之间的n型金属氧化物半导体(nmos)存取晶体管m0。电容器c的负极板接地。根据权重位的二进制值，电容器c将被充电至电源电压vdd或被放电。
23.尽管位单元100被用于将输入位与权重位相乘以形成乘法和累加电路，但是注意到，在深度学习应用程序中，此类乘法是针对各种输入位和各种对应的权重位在通常表示为“滤波器”的卷积操作中执行。在深度学习技术中，输入位通常表示为“激活”，因为类似于生物神经元，这些神经元也被认为可以处理激活。因此，滤波器将包括多个位单元100，用于即将对应的激活(输入位)与所存储的权重位相乘。
24.为了形成激活，公开了一种数模转换器(dac)(图1a中未示出)，用于将输入位转换为激活电压。在位单元100中，激活电压(act)中的一者驱动nmos晶体管m2的栅极。晶体管m2的源极连接到具有接地的源极的nmos晶体管m1的漏极。电容器c的正极板也连接到晶体管m1的栅极。因此，所存储的权重位控制晶体管m1是接通还是断开。如本文所用，“连接(connected)”指的是直接电连接，尽管这种直接连接可以通过诸如电阻器、电容器或电感器的中间元件来实现。晶体管m2的漏极连接到读取位线(rbl)。在其中将所存储的权重位和输入位相乘并累加以调整读取位线的电压的评估阶段之前，读取位线被充电到评估电压(例如，被充电到电源电压vdd)。
25.假设权重位(w0)是二进制1值，使得晶体管m1导通。取决于激活电压的值，晶体管m2随后被接通以充当电流源，其将电荷从读取位线通过晶体管m2和m1传导到地。但是如果激活电压或权重位接地(二进制零)，那么没有电荷从读取位线传导到地面。
26.因此，dram位单元100用作and栅极，以计算输入位与权重位的二进制乘法。比较器(图1a中未示出)可以然后将读取位线的电压与阈值电压比较，以确定and操作的结果。如本文将进一步讨论，可以修改dram位单元100，以便可以使用异或(xnor)运算来执行输入位和所存储的权重位的乘法以说明所存储的权重位的极性。无论乘法是使用and还是nor操作执行，由此生成的电流域计算都是非常有利的，因为它与dram制造技术生成的较长通道长度和相对较大的设备电容兼容。
27.将理解的是，晶体管m1和m2的位置在替代实施例中可以颠倒，例如针对图1b中的dram位单元150所示。在位单元150中，晶体管m2的源极接地，并且晶体管m2的漏极连接到晶体管m1的源极，晶体管m1的源极又具有连接到读取位线的漏极。dram位单元150的其余部分如针对dram位单元100所讨论的那样布置。
28.可以重复所得到的乘法和累加电路，以形成用于将多位权重与输入向量位(或多个输入向量位)相乘的滤波器。图2中示出了dram存储器中计算位单元的示例滤波器200，用于2位权重计算。第一dram位单元205存储2位权重的最高有效位(w1)，而第二dram位单元210存储2位权重的最低有效位(w0)。如关于位单元100所讨论，位单元205和210中的每一个包括电容器c、晶体管m0、晶体管m1和晶体管m2。dac 215通过可变电流源220将输入向量(例如，两位输入向量)转换为电流。电流源220将电流驱动到二极管式连接的nmos晶体管m3的漏极和栅极。nmos晶体管m3的栅极通过脉冲宽度调制开关s1(例如，开关晶体管)连接到位单元205中的晶体管m2的栅极。类似地，nmos晶体管m3的栅极通过另一个脉冲宽度调制开关
s1(例如，另一个开关晶体管)连接到位单元210中的晶体管m2的栅极。但是注意到，每个晶体管m2的源极通过对应的晶体管m1耦合到地面。为了向二极管式连接的晶体管m3提供与每个晶体管m2所经历的相同的源极电压，二极管式连接的晶体管m3的源极通过nmos晶体管m4耦合到地面。晶体管m4的栅极连接到用于电源电压vdd的电源节点。因此，晶体管m4模仿每个位单元205或210中的晶体管m1的行为，其被编程为二进制1值，使得其晶体管m1被接通。在那些经编程的位单元中，二极管式连接的晶体管m3因此与经编程的位单元的晶体管m2形成电流镜，使得该晶体管m2传导来自电流源220的电流的镜像版本。在其中晶体管m1和m2的位置如上所述颠倒过来的实施例中，可以省略晶体管m4。
29.脉冲宽度调制器225根据针对位单元205和210的位权重控制开关s1的脉冲宽度调制。由于位单元205正在存储最高有效位w1，所以位单元205中的开关s1在一个脉冲宽度内被脉冲接通，该脉冲宽度是大于用于位单元210中的开关s1的接通时间两倍的脉冲宽度。在用于开关s1的脉冲宽度已经到期后(电流模式计算结束)，从读取位线释放的电荷q与输入向量位(或位)乘以所存储的权重位。一旦读取的位线电压被评估以确定电流模式计算的结果，每个位单元205和210中的复位开关s2被闭合，其连接在对应的晶体管m2的栅极和地之间以对栅极电压放电。然后，新的评估阶段可以用输入位的新值和/或所存储的权重位的新值进行。
30.将理解，如果所存储的权重的宽度大于两位，则将使用额外的位单元。例如，三位宽的权重滤波器300在图3中示出。位单元305存储三位宽权重的最高有效位(wmsb)。位单元310存储下一个最高有效位(wmsb-1)。最后，位单元315存储最低有效位(wmsb-2)。滤波器300中的每个位单元可以如关于位单元100所讨论的那样形成。dac 320如针对dac 215所讨论的那样起作用以利用激活电压驱动每个晶体管m2的栅极，使得每个晶体管传导由输入向量位(或位)的数模转换生成的镜像电流。下面的讨论将假设输入向量具有与所存储的权重相同的精度(位宽)，但将理解的是，与所存储的权重相比，它可以具有更高或更低的精度。
31.与dac 320相关的脉冲宽度调制为位单元305提供最大的导通时间或脉冲宽度，使得其晶体管m2传导激活电流i_act。脉冲宽度调制器(未示出)为位单元310提供位单元300的二分之一导通时间，使得位单元305中的晶体管m2传导电流i_act/2。类似地，脉冲宽度调制器(未示出)为位单元315提供位单元310的二分之一导通时间，使得位单元315中的晶体管m2传导电流i_act/4。将理解，导通时间的这种二进制加权可以扩展到n位宽的存储权重实施例，其中n是正整数。通常地，n位宽实施中的位单元的脉冲宽度(导通时间)是2
(wtbit)
的二进制函数，其中wtbit是位单元的位权重。
32.所得到的滤波器执行关于输入向量位与所存储的权重相乘的乘法累加(mac)函数。例如，在滤波器300中，mac值可以表示如下：
[0033][0034]
其中w[i]是第i个位单元中的所存储的权重位，in[i]是由第i个位单元的晶体管m2传导的电流的电流值。
[0035]
可以使用多个滤波器来形成位单元的存储器内计算dram阵列。例如，图4中示出了位单元的两位滤波器阵列400。位单元按列和行排列。每列位单位共享相同的读取位线和写入字线。每个位单元位于对应行和对应列的交叉处。在阵列400中，有六列，其中每列定义范
围从第一滤波器(filt1)到第六滤波器(filt6)的两位滤波器。每行位单元共享来自dac(未示出)的相同当前权重。每个滤波器在列方向上延伸跨越三个存储的两位二进制权重。例如，第一滤波器将第一个两位权重w1存储为位w2《1》和w2《0》，并且将第三个双位权重存储为位w3《1》和w3《2》。每个存储的位都与由电流表示的对应输入位相乘。例如，位w2《1》使用电流iact2相乘，而位w2《0》使用电流0.5*iact2相乘。最后，位w3《1》使用电流iact3相乘，而位w3《0》使用电流0.5*iact3相乘。其余滤波器以类似方式排列。为了清楚起见，未示出其余滤波器的权重。
[0036]
模数转换器(adc)在评估阶段之后转换保留在每个读取位线上的电压，以确定乘法累加函数的结果。图5中示出了用于位单位的阵列505的示例adc 500。阵列505诸如针对阵列400所讨论的那样排列。再次参考图4，针对滤波器的每个读取位线延伸跨若干不同的权重。这些不同权重的位于来自于对应dac的电流相乘。如图5中所示，因此对于给定滤波器的每个多位权重存在一个dac 515(为了图示清楚而未示出阵列505中的滤波器，但类似于针对阵列400讨论的滤波器)。每个滤波器(也可以表示为一列位单元)具有其自己的读取位线，但是，为了图示清楚，在图5中仅示出了具有电压vsum的单个读取位线。为了增加读取位线的电容以便在读取位线在评估阶段之前被预充电时存储足够的电荷，读取位线电容器c1可以连接在读取位线和地之间。然而，如果读取位线电容足够大，则在替代实施方式中可以省略电容器c1。在评估阶段之前，读取位线被预充电到电源电压vdd。在预充电之后，控制器510使每个dac 515能够开始提供如从输入向量位确定的适当电流。同时，控制器510启动计数器520，以响应于来自时钟源(未示出)的时钟信号的周期开始计数。根据电流和所存储的权重，来自读取位线的电荷将以对应的速率排出。比较器525将读取位线电压与阈值电压比较。当读取位线电压被放电到低于阈值电压时，比较器525触发计数器520停止计数。所得到的计数表示对应输入位和所存储的权重位相乘的数字值。计数器520因此用作时间-数字转换器，并且可以容易地缩放到期望的dram技术节点。各种滤波器可以都并行计算，使得每个滤波器都有一个计数器520和一个比较器525。
[0037]
如前所述，位单元100被配置为执行所存储的二进制权重位与输入位的逻辑and功能。如果二进制权重和输入位都是逻辑真值，则考虑到所存储的权重位的重要性，对于任何适用的脉冲宽度，位单元100都会对读取位线放电。但是在机器学习应用程序中，所存储的二进制权重具有极性可能很有用，即具有正号或负号。由于位单元100只能对读取位线放电，所以可以认为所存储的二进制权重位只有一个极性。但是图6中所示的位单元600允许所存储的二进制权重位w1具有正号或负号。位单元600类似于针对位单元100所讨论那样来布置，但是还包括pmos晶体管p1，其具有连接到用于电源电压vdd的电源节点的源极。晶体管p1的漏极连接到pmos晶体管p2的源极，pmos晶体管p2的漏极连接到晶体管m2的漏极和读取位线。第一偏置信号biasp驱动晶体管p2的栅极。类似地，第二偏置信号biasn驱动晶体管m2的栅极。所存储的权重位wt的极性控制第一偏置信号和第二偏置信号。在下面的讨论中，将假设所存储的权重位wt的正极性导通晶体管m2并断开晶体管p2，而所存储的权重位wt的负极性导通晶体管p2并断开晶体管m2。然而，在替代实施方式中，该极性控制可以颠倒。
[0038]
为了对所存储的权重位wt进行极性分配，电容器c两端的电压值为0v可以被视为等于-1，而同一电容器电压的正值可以被视为等于a+1。在所存储的权重位wt等于a+1时，晶体管m1被导通。再次参考图2，如关于激活信号所讨论的那样生成第二偏置信号biasn，使得
如果输入位为真，则晶体管m2将在适当的导通时间段内传导镜像电流，以相应地对读取位线放电。但是如果所存储的权重位wt等于a-1，晶体管m1和m2关闭。相反，由于晶体管p1的栅极连接到晶体管m1的栅极，晶体管p1被导通。如果输入位为真，则第二电流镜(未示出)可以然后在给定该极性的适当导通时间段内生成第一偏置信号biasp，以当所存储的二进制权重位等于a-1时导通晶体管p2来传导镜像电流以对读取位线充电。因此，可以示出位单元600的所得到的操作等效于所存储的权重位和输入位的逻辑xnor。由于位单元600可以对读取位线进行充电或放电，所以读取位线在评估阶段之前不预充电到电源电压vdd，而是预充电到中间电压，诸如vdd/2。
[0039]
在一个实施例中，晶体管p1和p2可以被认为形成用于响应于所存储的权重位的第一极性和响应于输入位对读取位线充电的第一部件。类似地，晶体管m1和m2可以被认为形成用于响应于所存储的权重位的第二极性并响应于输入位对读取位线放电的第二部件。
[0040]
现在将关于图7的流程图讨论dram存储器内计算位单元的操作方法。该方法包括响应于跨电容器存储的第一权重位而接通第一晶体管的动作700。位单元100或位单元600中的晶体管m1的导通是动作700的示例。该方法还包括动作705，当第一晶体管导通时，响应于第一输入位在导通时间段内导通第二晶体管。位单元100或位单元600中的晶体管m2的导通是动作705的示例。最后，该方法包括在导通时间段的持续时间内通过接通的第一晶体管并通过接通的第二晶体管将电荷从充电的读取位线传导到地面的动作710。在位单元100或位单元600中的适当导通时间段期间通过晶体管m1和m2对读取位线进行放电是动作710的示例。
[0041]
本文公开的存储器内计算位单元可以有利地结合在任何合适的移动设备或电子系统中。例如，如图8中所示，根据本公开的蜂窝电话800、膝上型计算机805和平板pc 810都可以包括诸如用于机器学习应用程序的存储器内计算dram位单元阵列。诸如音乐播放器、视频播放器、通信设备和个人计算机的其他示例性电子系统也可以配置有根据本公开构造的存储器内计算。类似地，如本文所公开的存储器内计算可以并入诸如基于云的应用程序中的服务器中，或诸如5g系统中的中的服务器中。
[0042]
将理解的是，在不背离本公开的范围的情况下，可以对本公开的设备的材料、装置、配置和使用方法进行许多修改、替换和变化。鉴于此，本公开的范围不应限于本文所示和描述的特定实施例的范围，因为它们仅作为其一些示例，而是应与所附权利要求及其功能等价物的内容完全相称。

技术特征：

1.一种动态随机存取存储器(dram)乘法和累加电路(mac)，包括：读取位线；第一晶体管；电容器，被连接在所述第一晶体管的栅极和地之间；第二晶体管，被连接在所述读取位线和所述第一晶体管之间；和数模转换器，被配置为将输入位转换为激活电压并且利用所述激活电压驱动所述第二晶体管的栅极。2.根据权利要求1所述的dram mac，还包括：写入位线；存取晶体管，被连接在所述写入位线和所述电容器之间；和写入位线，被连接到所述存取晶体管的栅极。3.根据权利要求1所述的dram mac，其中所述数模转换器包括：可变电流源，被配置为响应于所述输入位生成电流；和二极管式连接的晶体管，其中所述可变电流源还被配置为将所述电流驱动到所述二极管式连接的晶体管的端子中，以生成所述激活电压。4.根据权利要求3所述的dram mac，所述dram mac还包括：脉冲宽度调制器；和第一开关；其中所述二极管式连接的晶体管的栅极通过所述第一开关被连接到所述第二晶体管的栅极，并且其中所述脉冲宽度调制器还被配置为控制所述第一开关在评估阶段期间的导通时间。5.根据权利要求4所述的dram mac，其中数模转换器还包括被连接在所述二极管式连接的晶体管的源极和地之间的第三晶体管，其中所述第三晶体管的栅极被连接到用于电源电压的电源节点。6.根据权利要求1所述的dram mac，还包括：复位开关，被连接在所述读取位线和用于电源电压的电源节点之间。7.根据权利要求1所述的dram mac，还包括：模数转换器，被配置为将所述读取位线的电压转换为数字值。8.根据权利要求4所述的dram mac，其中所述模数转换器包括：比较器，被配置为将所述读取位线的电压与阈值电压进行比较；和被配置为从所述导通时间的开始来计数到由所述比较器检测到用于所述读取位线的所述电压已超过所述阈值电压。9.根据权利要求1所述的dram mac，还包括：读取位线电容器，被连接在所述读取位线和地之间。10.根据权利要求1所述的dram mac，其中所述dram mac被集成到移动设备中。11.根据权利要求10所述的dram mac，其中所述移动设备是蜂窝电话。12.一种动态随机存取存储器(dram)阵列，包括：多个dram位单元，被布置为多个列和多个行，每个dram位单元位于所述列中的对应列和所述行中的对应行的交叉处；多个读取位线，与所述多个列相对应；和
数模转换器，被配置为将输入向量转换为与所述多个行相对应的多个激活电压，每个dram位单元被配置为存储权重位并且响应于所述对应行的激活电压和所存储的权重位，对所述对应列的读取位线放电。13.根据权利要求12所述的dram阵列，还包括：模数转换器，被配置为将用于每个读取位线的电压转换为数字值。14.根据权利要求12所述的dram阵列，其中每个列被配置为形成用于深度学习应用的滤波器。15.根据权利要求12所述的dram阵列，其中每个dram位单元是三晶体管dram位单元。16.一种用于动态随机存取存储器(dram)位单元的存储器内计算方法，包括：响应于跨电容器存储的第一权重位，导通第一晶体管；当所述第一晶体管导通时，响应于第一输入位在导通时间段内导通第二晶体管；以及在所述导通时间段的持续时间内，通过所述导通的第一晶体管并且通过所述导通的第二晶体管将电荷从充电的读取位线传导到地。17.根据权利要求16所述的存储器内计算方法，其中所述方法在第一评估阶段期间执行，所述方法还包括：在第二评估阶段期间：响应于跨所述电容器存储的第二权重位，关断所述第一晶体管。18.根据权利要求16所述的存储器内计算方法，其中所述方法在第一评估阶段期间执行，所述方法还包括：在第二评估阶段期间：响应于跨所述电容器存储的第二权重位并且响应于第二输入位，导通所述dram位单元中的第三晶体管，以对所述读取位线充电。19.一种动态随机存取存储器(dram)乘法和累加电路(mac)，包括：读取位线；电容器，被配置为存储权重位；第一部件，用于响应于所存储的权重位的第一极性并且响应于输入位对所述读取位线充电；和第二部件，用于响应于所存储的权重位的第二极性并且响应于所述输入位对所述读取位线放电。20.根据权利要求19所述的dram mac，其中所述第一部件包括：第一晶体管；电容器，被连接在所述第一晶体管的栅极和地之间；第二晶体管，被连接在所述读取位线和所述第一晶体管之间。21.一种动态随机存取存储器(dram)乘法和累加电路(mac)，所述dram mac包括：读取位线；第一晶体管，具有被连接到所述读取位线的第一端子；电容器，被连接在所述第一晶体管的栅极和地之间；第二晶体管，被连接在所述第一晶体管的第二端子和地之间；和数模转换器，被配置为将输入位转换为激活电压并且利用所述激活电压驱动所述第二
晶体管的栅极。22.根据权利要求21所述的dram mac，还包括：写入位线；存取晶体管，被连接在所述写入位线和所述电容器之间；和写入位线，被连接到所述存取晶体管的栅极。

技术总结

提供了一种存储器内计算动态随机存取存储器位单元，其包括具有由跨电容器存储的权重位控制的开/关状态的第一晶体管。第一晶体管与连接在第一晶体管和读取位线之间的电流源晶体管串联。当第一晶体管处于导通状态时，激活电压控制电流源晶体管是否导通电流。活电压控制电流源晶体管是否导通电流。活电压控制电流源晶体管是否导通电流。