基于人工智能的语音转换方法、装置、计算机设备及介质与流程



1.本发明涉及人工智能技术领域,尤其涉及一种基于人工智能的语音转换方法、装置、计算机设备及介质。


背景技术:



2.语音转换技术是将语音特征对应的说话人由初始说话人转换为目标说话人,且保留语音内容的技术,随着语音转换技术的发展,目前,语音转换技术可以应用于语音数据增强、语音恢复、语音合成等多方面,语音转换技术通常包括语音分析、特征转换和语音生成,语音分析通常采用信号处理方法获取,而由于神经网络模型具备较强的建模能力,特征转换和语音生成通常采用神经网络模型处理。
3.但是在初始说话人的语音与目标说话人的语音不匹配时,无法采用目标说话人的语音作为标签训练神经网络模型,导致用于特征转换的神经网络模型缺乏有效的监督,特征转换的准确率较低,进而导致语音转换的准确率较低,另外,用于语音生成的神经网络模型参数量较大,导致语音生成的延迟较高,目前降低语音生成的延迟的方法是减少神经网络模型的层数,但同时也会导致神经网络模型的建模能力下降,降低语音生成的准确率,进而导致语音转换的准确率较低。因此,如何提高低延迟语音转换的准确率成为亟待解决的问题。


技术实现要素:



4.有鉴于此,本发明实施例提供了一种基于人工智能的语音转换方法、装置、计算机设备及介质,以解决低延迟语音转换的准确率较低的问题。
5.第一方面,本发明实施例提供一种基于人工智能的语音转换方法,所述语音转换方法包括:
6.获取待转换语音序列对应的初始梅尔谱,将所述初始梅尔谱输入训练好的自编码器进行重构,确定重构后的结果为更新梅尔谱,对所述更新梅尔谱进行特征提取,确定特征提取结果为条件特征;
7.将所述更新梅尔谱转换为功率谱密度函数,对所述功率谱密度函数进行快速逆傅里叶变换,对变换结果进行求解,确定求解结果为线性系数序列,所述线性系数序列包括至少两个线性系数,一线性系数与所述待转换语音序列中一帧的元素对应;
8.针对任一线性系数,将所述线性系数与所述待转换语音序列中对应帧的元素相乘,确定所有相乘结果的和为预测值;
9.按时序确定所述待转换语音序列中最后一帧的元素为输入元素,将所述条件特征、所述预测值和所述输入元素进行联结,将联结结果输入训练好的声码器,得到预测激励值,根据源滤波器模型,将所述预测值和所述预测激励值相加,得到目标语音。
10.第二方面,本发明实施例提供一种基于人工智能的语音转换装置,所述语音转换装置包括:
11.特征重构模块,用于获取待转换语音序列对应的初始梅尔谱,将所述初始梅尔谱输入训练好的自编码器进行重构,确定重构后的结果为更新梅尔谱,对所述更新梅尔谱进行特征提取,确定特征提取结果为条件特征;
12.系数求解模块,用于将所述更新梅尔谱转换为功率谱密度函数,对所述功率谱密度函数进行快速逆傅里叶变换,对变换结果进行求解,确定求解结果为线性系数序列,所述线性系数序列包括至少两个线性系数,一线性系数与所述待转换语音序列中一帧的元素对应;
13.线性预测模块,用于针对任一线性系数,将所述线性系数与所述待转换语音序列中对应帧的元素相乘,确定所有相乘结果的和为预测值;
14.语音生成模块,用于按时序确定所述待转换语音序列中最后一帧的元素为输入元素,将所述条件特征、所述预测值和所述输入元素进行联结,将联结结果输入训练好的声码器,得到预测激励值,根据源滤波器模型,将所述预测值和所述预测激励值相加,得到目标语音。
15.第三方面,本发明实施例提供一种计算机设备,所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面所述的语音转换方法。
16.第四方面,本发明实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面所述的语音转换方法。
17.本发明实施例与现有技术相比存在的有益效果是:
18.获取待转换语音序列对应的初始梅尔谱,将初始梅尔谱输入训练好的自编码器进行重构,确定重构后的结果为更新梅尔谱,对更新梅尔谱进行特征提取,确定特征提取结果为条件特征,将更新梅尔谱转换为功率谱密度函数,对功率谱密度函数进行快速逆傅里叶变换,对变换结果进行求解,确定求解结果为线性系数序列,线性系数序列包括至少两个线性系数,一线性系数与待转换语音序列中一帧的元素对应,针对任一线性系数,将线性系数与待转换语音序列中对应帧的元素相乘,确定所有相乘结果的和为预测值,按时序确定待转换语音序列中最后一帧的元素为输入元素,将条件特征、预测值和输入元素进行联结,将联结结果输入训练好的声码器,得到预测激励值,根据源滤波器模型,将预测值和预测激励值相加,得到目标语音。采用自编码器对初始梅尔谱进行特征重构,以使重构梅尔谱能够更接近对应目标语音的梅尔谱,提高了特征转换的精度,且采用信号处理方式对语音生成过程中的预测值进行计算,极大减少了模型参数量,相较于相同延迟的神经网络预测的方式,能够保持更为准确的语音转换,从而提高了低延迟语音转换的准确率。
附图说明
19.为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
20.图1是本发明实施例一提供的一种基于人工智能的语音转换方法的一应用环境示
意图;
21.图2是本发明实施例一提供的一种基于人工智能的语音转换方法的流程示意图;
22.图3是本发明实施例二提供的一种基于人工智能的语音转换装置的结构示意图;
23.图4是本发明实施例三提供的一种计算机设备的结构示意图。
具体实施方式
24.以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本发明实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
25.应当理解,当在本发明说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
26.还应当理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
27.如在本发明说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
[0028]
另外,在本发明说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
[0029]
在本发明说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本发明的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
[0030]
本发明实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(artificial intelligence,ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
[0031]
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
[0032]
应理解,以下实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
[0033]
为了说明本发明的技术方案,下面通过具体实施例来进行说明。
[0034]
本发明实施例一提供的一种基于人工智能的语音转换方法,可应用在如图1的应用环境中,其中,客户端与服务端进行通信。其中,客户端包括但不限于掌上电脑、桌上型计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,umpc)、上网本、云端终端设备、个人数字助理(personal digital assistant,pda)等计算机设备。服务端可以用独立的服务器或者是多个服务器组成的服务器集来实现。
[0035]
参见图2,是本发明实施例一提供的一种基于人工智能的语音转换方法的流程示意图,上述语音转换方法可以应用于图1中的客户端,客户端对应的计算机设备连接服务端,以获取服务端接收到的待转换语音序列和待转换语音序列的初始梅尔谱,客户端对应的计算机设备部署有训练好的自编码器和训练好的声码器,训练好的自编码器可以用于重构初始梅尔谱,训练好的声码器可以用于生成目标语音。如图2所示,该基于人工智能的语音转换方法可以包括以下步骤:
[0036]
步骤s201,获取待转换语音序列对应的初始梅尔谱,将初始梅尔谱输入训练好的自编码器进行重构,确定重构后的结果为更新梅尔谱,对更新梅尔谱进行特征提取,确定特征提取结果为条件特征。
[0037]
其中,待转换语音序列可以是指待转换语音的波形序列,波形可以是指连续振幅变化信息,波形序列可以是指按照预设采样频率对波形采样得到的序列,波形序列中包含若干个元素,元素即为采样点,一采样点对应一采样时间,元素值可以表征幅值,也即声音的振动幅度。
[0038]
初始梅尔谱可以是指待转换语音序列对应的梅尔谱,自编码器可以是指变分自编码器,更新梅尔谱可以是指对应目标语音的梅尔谱,条件特征可以是指声码器的嵌入特征。
[0039]
具体地,在本实施例中,波形的采样频率可以为44.1khz,即每秒采样44100个采样点,也即波形序列中元素的个数。
[0040]
将待转换语音序列进行傅里叶变换,得到对应待转换语音序列的频谱,采用预设的映射函数将频谱映射为初始梅尔谱,映射函数具体为:
[0041][0042]
其中,f表示输入频率,mel(f)表示输入频率对应的梅尔频率,初始梅尔谱可以用于表征待转换语音序列说话人的声音特征,由于语音转换需要将声音特征转换为目标人的声音特征,因此需要对初始梅尔谱进行重构,得到更符合目标人声音特征的更新梅尔谱。
[0043]
特征提取可以采用预设的特征提取模型实现,特征提取模型可以是指卷积神经网络,具体地,特征提取模型包括k层卷积层,k为大于1的整数,前k-1层卷积层用于进行一维卷积和批归一化操作,一维卷积的卷积核尺寸在本实施例中设置为1*3,堆叠k-1层的目的在于扩大卷积操作的感受野,例如,当k为3时,感受野为5,第k层卷积层的卷积核尺寸为1*1,用于整合特征,实施者可根据实际情况将第k层卷积层替换为全连接层。
[0044]
可选的是,训练好的自编码器包括训练好的第一编码器和训练好的第一解码器;
[0045]
将初始梅尔谱输入训练好的自编码器进行重构,确定重构后的结果为更新梅尔谱包括:
[0046]
将初始梅尔谱输入训练好的第一编码器进行特征提取,得到语音特征;
[0047]
将语音特征与获取的编码特征进行特征融合,将特征融合结果输入训练好的第一
解码器进行特征重构,得到更新梅尔谱。
[0048]
其中,训练好的第一编码器可以用于提取初始梅尔谱的潜在特征,训练好的第一解码器可以用于对潜在特征进行重构,得到更新梅尔谱,更新梅尔谱可以是指对应目标语音说话人声音特征的梅尔谱,编码特征可以是指更新梅尔谱对应的目标说话人的编码特征。
[0049]
具体地,将初始梅尔谱入训练好的第一编码器进行特征提取,得到潜在特征的高斯分布参数,采用重采样方式对高斯分布进行采样得到语音特征。
[0050]
获取更新梅尔谱对应的目标说话人的标识,对该标识进行编码,在本实施例中,采用独热编码方式进行编码,得到编码特征;
[0051]
将语音特征与编码特征进行特征融合,特征融合的方式可以是指联结、累加等方式,得到融合特征后,输入训练好的第一解码器进行特征重构,得到更新梅尔谱,由于融合特征中包含编码特征,可以指导解码器重构得到对应目标说话人的更新梅尔谱。
[0052]
本实施例中,将目标说话人的特征与语音特征融合,从而使自编码器输出更新梅尔谱,起到了特征转换的作用,
[0053]
可选的是,自编码器包括第一编码器和第一解码器,以样本梅尔谱作为自编码器训练时的训练样本,以参考梅尔谱作为样本梅尔谱的重构目标,以重构损失作为自编码器训练时的损失函数,样本梅尔谱对应于样本说话人编码特征,参考梅尔谱对应于参考说话人编码特征;
[0054]
自编码器的训练过程包括:
[0055]
将样本梅尔谱输入第一编码器中,得到第一样本特征;
[0056]
将第一样本特征和样本说话人编码特征进行特征融合后,输入第一解码器,得到第一重构梅尔谱;
[0057]
根据第一重构梅尔谱与样本梅尔谱,计算重构损失,以重构损失为依据,采用梯度下降法更新第一编码器和第一解码器的参数,直至重构损失收敛,得到初步训练好的第一编码器和初步训练好的第一解码器。
[0058]
其中,样本梅尔谱可以是指样本语音序列对应的梅尔谱,参考梅尔谱可以是指样本梅尔谱特征转换的目标,样本说话人编码特征可以是指样本说话人的编码特征,参考说话人编码特征可以是指参考说话人的编码特征。
[0059]
具体地,得到第一重构梅尔谱的训练过程目的在于使自编码器具备基础的重构功能,也即能够提取重构所需的样本特征。
[0060]
本实施例对自编码器进行初步训练,得到初步训练好的自编码器,能够提取出样本梅尔谱的有效特征用于重构,同时避免后续训练过程中出现难以收敛的情况,提高了后续自编码器再次训练的效率和准确率。
[0061]
可选的是,在得到初步训练好的第一编码器和初步训练好的第一解码器之后,还包括:
[0062]
将样本梅尔谱输入初步训练好的第一编码器中,得到第二样本特征;
[0063]
将第二样本特征和参考说话人编码特征进行特征融合后,输入初步训练好的第一解码器,得到第二重构梅尔谱;
[0064]
将第二重构梅尔谱输入初步训练好的第一编码器中,得到第三样本特征;
[0065]
将第三样本特征和样本说话人编码特征进行特征融合后,输入初步训练好的第一解码器,得到第三重构梅尔谱;
[0066]
根据样本梅尔谱与第三重构梅尔谱,计算重构损失,以重构损失为依据,采用梯度下降法更新初步训练好的第一编码器和初步训练好的第一解码器的参数,直至重构损失收敛,得到训练好的第一编码器和训练好的第一解码器。
[0067]
其中,第二样本特征可以是指样本梅尔谱的有效特征,第二重构梅尔谱可以是指符合参考说话人语音特征的重构梅尔谱,第三样本特征可以是指第二重构梅尔谱的有效特征,第三重构梅尔谱可以是指符合样本说话人语音特征的重构梅尔谱。
[0068]
由于通常情况下,难以得到参考说话人和样本说话人说同一句话的语音,因此样本梅尔谱对应的语音并没有与其对应的参考说话人语音,即属于非平行特征转换场景,因此,在本技术采用循环的方式对自编码器进行训练。
[0069]
将第二样本特征与参考说话人编码特征进行特征融合后重构得到第二重构梅尔谱,第二重构梅尔谱应当符合参考说话人的语音特征,但此时并没有对应的标签来监督第二重构梅尔谱的生成。
[0070]
将第二重构梅尔谱对应的第三样本特征,再与样本说话人编码特征进行特征融合后重构得到第三重构梅尔谱,而第三重构梅尔谱应当符合样本说话人的语音特征,此时可以用样本梅尔谱来监督第三重构梅尔谱的生成,从而实现间接监督的作用。
[0071]
本实施例采用循环重构的方式对自编码器进行再次训练,从而使自编码器能够学习到根据不同的编码特征重构得到对应不同说话人的重构梅尔谱,提高了特征转换的准确率。
[0072]
上述获取待转换语音序列对应的初始梅尔谱,将初始梅尔谱输入训练好的自编码器进行重构,确定重构后的结果为更新梅尔谱,对更新梅尔谱进行特征提取,确定特征提取结果为条件特征的步骤,通过自编码器得到符合目标语音说话人的更新梅尔谱,提高了目标语音转换的准确率。
[0073]
步骤s202,将更新梅尔谱转换为功率谱密度函数,对功率谱密度函数进行快速逆傅里叶变换,对变换结果进行求解,确定求解结果为线性系数序列。
[0074]
其中,功率谱密度函数可以用于表征单位频带内信号功率随频率的变换情况,即信号功率在频域的分布状况,功率谱密度函数进行快速逆傅里叶变换的变换结果为自相关函数,根据自相关函数,采用levinson-durbin法可以求解得到线性系数序列,线性系数序列包括至少两个线性系数,一线性系数与待转换语音序列中一帧的元素对应。
[0075]
具体地,语音的线性预测是指一个语音的采样值可以通过若干语音历史采样值的线性组合来逼近,能够决定唯一的线性系数序列,线性系数序列包括l个线性系数,即根据l个历史采样值可以得到当前采样值,在本实施例中l设置为25,一线性系数与待转换语音序列中一帧的元素对应,此处的帧是指采样帧,即一线性系数与待转换语音序列中一个采样点对应。
[0076]
上述将更新梅尔谱转换为功率谱密度函数,对功率谱密度函数进行快速逆傅里叶变换,对变换结果进行求解,确定求解结果为线性系数序列的步骤,通过信号处理的方式计算线性系数序列,使得后续预测值的计算无需通过神经网络获取,精简了模型参数,提高了语音转换的效率。
[0077]
步骤s203,针对任一线性系数,将线性系数与待转换语音序列中对应帧的元素相乘,确定所有相乘结果的和为预测值。
[0078]
其中,对应帧的元素可以是指对应采样帧的元素值,预测值可以是指源滤波器模型中的滤波器参数p。
[0079]
具体地,预测值p的计算公式为:
[0080][0081]
其中,p
t
可以是指第t个采样帧的预测值,a
l
可以是指第l个线性系数,s
t-l
可以是指第t-l个采样帧的元素。
[0082]
上述针对任一线性系数,将线性系数与待转换语音序列中对应帧的元素相乘,确定所有相乘结果的和为预测值的步骤,采用线性预测方式得到预测值,计算快速,无需模型拟合,提高了语音转换的效率。
[0083]
步骤s204,按时序确定待转换语音序列中最后一帧的元素为输入元素,将条件特征、预测值和输入元素进行联结,将联结结果输入训练好的声码器,得到预测激励值,根据源滤波器模型,将预测值和预测激励值相加,得到目标语音。
[0084]
其中,输入元素可以是指用于参与声码器进行激励值预测的元素,联结可以是指特征按照维度拼接。
[0085]
具体地,源滤波器模型可以表示为s
t
=p
t
+e
t
,其中,p
t
可以是指第t个采样帧的预测值,e
t
可以是指第t个采样帧的预测激励值,s
t
可以是指第t个采样帧的元素值,也即目标语音中的元素值。
[0086]
在得到目标语音中的元素值后,将该元素值按照时序更新至待转换语音序列末尾,重新进行预测值的计算,得到更新后的预测值p
t+1
,以及采用s
t
作为输入元素,再次执行将条件特征、预测值和输入元素进行联结的步骤,得到e
t+1
,即第t+1个采样帧的预测激励值,通过s
t+1
=p
t+1
+e
t+1
,得到t+1个采样帧的元素值,返回执行将该元素值按照时序更新至待转换语音序列末尾的步骤,直至得到预设数量的元素值,将所有得到的元素值组合为目标语音。预设数量可以是指44100,与对波形在一秒内的采样点个数对应。
[0087]
可选的是,训练好的声码器包括训练好的门控循环层和训练好的全连接层;
[0088]
将联结结果输入训练好的声码器,得到预测激励值,根据源滤波器模型,将预测值和预测激励值相加,得到目标语音包括:
[0089]
将联结结果输入训练好的门控循环层,得到转换特征;
[0090]
将转换特征输入训练好的全连接层进行特征映射,得到预测激励值。
[0091]
其中,门控循环层属于循环神经网络的一种,转换特征可以是指用于表征联结结果的特征。
[0092]
具体地,门控循环层可以用于在循环预测过程中保留部分历史预测信息,从而提高预测的准确性。
[0093]
本实施例采用门控循环层实现激励值的预测,在目标语音的生成过程中,需要进行逐采样点的进行元素生成,从而可以保留生成过程的有效特征信息,进而避免出现预测结果跳变,提高了激励值预测的准确性。
[0094]
可选的是,训练好的全连接层包括训练好的第一全连接层和训练好的第二全连接层;
[0095]
将转换特征输入训练好的全连接层进行特征映射,得到预测激励值包括:
[0096]
将转换特征输入训练好的第一全连接层,得到第一高斯分布,对第一高斯分布进行采样,得到第一采样点;
[0097]
将第一采样点和预测值的和确定为第一更新元素,将第一更新元素更新至待转换语音序列中,得到更新语音序列。
[0098]
其中,第一全连接层可以用于预测当前采样帧的激励值分布,此时先验为激励值分布满足高斯分布,即第一全连接层的输出为激励值分布的均值和方差,采样可以是指按照高斯分布进行概率采样,第一采样点即为当前采样帧的预测激励值。
[0099]
具体地,按照高斯分布进行概率采样时,高斯分布的横轴为激励值,纵轴为概率值,在采样之前需要对概率进行归一化,即对采样到各个激励值的概率之和为1,按照归一化高斯分布进行概率采样,得到第一采样值。
[0100]
本实施例采用预测高斯分布并采样的方式确定预测激励值,相较于常规采用全连接层直接输出预测激励值的方式,降低了全连接层参数的拟合难度,避免出现过拟合情况导致预测激励值的准确率较低,从而提高了语音转换的准确率。
[0101]
可选的是,在得到更新后的待转换语音序列之后,还包括:
[0102]
根据线性系数序列与更新语音序列,计算得到更新后的预测值;
[0103]
将转换特征输入训练好的第二全连接层,得到第二高斯分布,对第二高斯分布进行采样,得到第二采样点;
[0104]
将第二采样点和更新后的预测值的和确定为第二更新元素,将第二更新元素更新至更新语音序列中,确定更新结果为更新语音序列;
[0105]
在检测到更新语音序列满足预设条件时,将更新语音序列与待转换语音序列进行元素比对,将仅属于更新语音序列的元素确定为目标语音的元素。
[0106]
其中,第二全连接层可以用于预测下一采样帧的激励值分布,第二采样点即为下一采样帧的预测激励值,预设条件可以用于确定更新语音序列中新增元素数量是否满足预设个数。
[0107]
具体地,由于相邻两个采样帧的条件特征、预测值和输入元素可近似视作相同,则直接通过第二全连接层与第一全连接层并行预测,得到第二高斯分布,并采样得到第二采样点。
[0108]
在将第一采样点更新至更新语音序列以及根据第一采样点计算得到更新后的预测值之后,再将第二采样点更新至更新语音序列,即第一采样点和第二采样点的获取过程是同步的,且互相不存在影响,但更新过程是异步的,从而在相同处理时长内可以得到更高的生成效率。
[0109]
预设条件可以是指长度约束,即当更新语音序列的长度是待转换语音序列长度的一倍时,将更新语音序列与待转换语音序列进行元素比对,将仅属于更新语音序列的元素确定为目标语音的元素,即根据所有新生成的元素构成目标语音。
[0110]
在检测到更新语音序列不满足预设条件时,更新预测值和输入元素,并再次通过声码器进行预测,得到预测激励值,直至更新语音序列满足预设条件。
[0111]
本实施例采用并行高斯采样方式进行激励值的预测,在保证语音转换质量的同时,提高了语音转换的效率,即提高了低延迟语音转换的准确率。
[0112]
上述按时序确定待转换语音序列中最后一帧的元素为输入元素,将条件特征、预测值和输入元素进行联结,将联结结果输入训练好的声码器,得到预测激励值,根据源滤波器模型,将预测值和预测激励值相加,得到目标语音的步骤,声码器仅进行激励值的预测,计算复杂度低,同时避免直接预测元素值而出现难以拟合的情况,提高了语音转换的准确率。
[0113]
本实施例采用自编码器对初始梅尔谱进行特征重构,以使重构梅尔谱能够更接近对应目标语音的梅尔谱,提高了特征转换的精度,且采用信号处理方式对语音生成过程中的预测值进行计算,极大减少了模型参数量,相较于相同延迟的神经网络预测的方式,能够保持更为准确的语音转换,从而提高了低延迟语音转换的准确率。
[0114]
对应于上文实施例的基于人工智能的语音转换方法,图3示出了本发明实施例二提供的基于人工智能的语音转换装置的结构框图,上述语音转换装置应用于客户端,客户端对应的计算机设备连接服务端,以获取服务端接收到的待转换语音序列和待转换语音序列的初始梅尔谱,客户端对应的计算机设备部署有训练好的自编码器和训练好的声码器,训练好的自编码器可以用于重构初始梅尔谱,训练好的声码器可以用于生成目标语音。为了便于说明,仅示出了与本发明实施例相关的部分。
[0115]
参见图3,该语音转换装置包括:
[0116]
特征重构模块31,用于获取待转换语音序列对应的初始梅尔谱,将初始梅尔谱输入训练好的自编码器进行重构,确定重构后的结果为更新梅尔谱,对更新梅尔谱进行特征提取,确定特征提取结果为条件特征;
[0117]
系数求解模块32,用于将更新梅尔谱转换为功率谱密度函数,对功率谱密度函数进行快速逆傅里叶变换,对变换结果进行求解,确定求解结果为线性系数序列,线性系数序列包括至少两个线性系数,一线性系数与待转换语音序列中一帧的元素对应;
[0118]
线性预测模块33,用于针对任一线性系数,将线性系数与待转换语音序列中对应帧的元素相乘,确定所有相乘结果的和为预测值;
[0119]
语音生成模块34,用于按时序确定待转换语音序列中最后一帧的元素为输入元素,将条件特征、预测值和输入元素进行联结,将联结结果输入训练好的声码器,得到预测激励值,根据源滤波器模型,将预测值和预测激励值相加,得到目标语音。
[0120]
可选的是,训练好的自编码器包括训练好的第一编码器和训练好的第一解码器;
[0121]
上述特征重构模块31包括:
[0122]
特征提取单元,用于将初始梅尔谱输入训练好的第一编码器进行特征提取,得到语音特征;
[0123]
特征更新单元,用于将语音特征与获取的编码特征进行特征融合,将特征融合结果输入训练好的第一解码器进行特征重构,得到更新梅尔谱。
[0124]
可选的是,自编码器包括第一编码器和第一解码器,以样本梅尔谱作为自编码器训练时的训练样本,以参考梅尔谱作为样本梅尔谱的重构目标,以重构损失作为自编码器训练时的损失函数,样本梅尔谱对应于样本说话人编码特征,参考梅尔谱对应于参考说话人编码特征;
[0125]
上述语音转换装置还包括:
[0126]
第一样本编码模块,用于将样本梅尔谱输入第一编码器中,得到第一样本特征;
[0127]
第一样本重构模块,用于将第一样本特征和样本说话人编码特征进行特征融合后,输入第一解码器,得到第一重构梅尔谱;
[0128]
第一训练模块,用于根据第一重构梅尔谱与样本梅尔谱,计算重构损失,以重构损失为依据,采用梯度下降法更新第一编码器和第一解码器的参数,直至重构损失收敛,得到初步训练好的第一编码器和初步训练好的第一解码器。
[0129]
可选的是,上述语音转换装置还包括:
[0130]
第二样本编码模块,用于将样本梅尔谱输入初步训练好的第一编码器中,得到第二样本特征;
[0131]
第二样本重构模块,将第二样本特征和参考说话人编码特征进行特征融合后,输入初步训练好的第一解码器,得到第二重构梅尔谱;
[0132]
第三样本编码模块,将第二重构梅尔谱输入初步训练好的第一编码器中,得到第三样本特征;
[0133]
第三样本重构模块,将第三样本特征和样本说话人编码特征进行特征融合后,输入初步训练好的第一解码器,得到第三重构梅尔谱;
[0134]
第二训练模块,根据样本梅尔谱与第三重构梅尔谱,计算重构损失,以重构损失为依据,采用梯度下降法更新初步训练好的第一编码器和初步训练好的第一解码器的参数,直至重构损失收敛,得到训练好的第一编码器和训练好的第一解码器。
[0135]
可选的是,训练好的声码器包括训练好的门控循环层和训练好的全连接层;
[0136]
上述语音生成模块34包括:
[0137]
门控循环单元,用于将联结结果输入训练好的门控循环层,得到转换特征;
[0138]
特征映射单元,用于将转换特征输入训练好的全连接层进行特征映射,得到预测激励值。
[0139]
可选的是,训练好的全连接层包括训练好的第一全连接层和训练好的第二全连接层;
[0140]
上述语音生成模块34包括:
[0141]
第一采样单元,用于将转换特征输入训练好的第一全连接层,得到第一高斯分布,对第一高斯分布进行采样,得到第一采样点;
[0142]
第一更新单元,用于将第一采样点和预测值的和确定为第一更新元素,将第一更新元素更新至待转换语音序列中,得到更新语音序列。
[0143]
上述语音生成模块34还包括:
[0144]
第二采样单元,用于将转换特征输入训练好的第二全连接层,得到第二高斯分布,对第二高斯分布进行采样,得到第二采样点;
[0145]
第二更新单元,用于将第二采样点和更新后的预测值的和确定为第二更新元素,将第二更新元素更新至更新语音序列中,确定更新结果为更新语音序列;
[0146]
目标语音确定单元,用于在检测到更新语音序列满足预设条件时,将更新语音序列与待转换语音序列进行元素比对,将仅属于更新语音序列的元素确定为目标语音的元素。
[0147]
需要说明的是,上述模块、单元之间的信息交互、执行过程等内容,由于与本发明方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
[0148]
图4为本发明实施例三提供的一种计算机设备的结构示意图。如图4所示,该实施例的计算机设备包括:至少一个处理器(图4中仅示出一个)、存储器以及存储在存储器中并可在至少一个处理器上运行的计算机程序,处理器执行计算机程序时实现上述任意各个语音转换方法实施例中的步骤。
[0149]
该计算机设备可包括,但不仅限于,处理器、存储器。本领域技术人员可以理解,图4仅仅是计算机设备的举例,并不构成对计算机设备的限定,计算机设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如还可以包括网络接口、显示屏和输入装置等。
[0150]
所称处理器可以是cpu,该处理器还可以是其他通用处理器、数字信号处理器(digital signal processor,dsp)、专用集成电路(application specific integrated circuit,asic)、现成可编程门阵列(field-programmable gate array,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
[0151]
存储器包括可读存储介质、内存储器等,其中,内存储器可以是计算机设备的内存,内存储器为可读存储介质中的操作系统和计算机可读指令的运行提供环境。可读存储介质可以是计算机设备的硬盘,在另一些实施例中也可以是计算机设备的外部存储设备,例如,计算机设备上配备的插接式硬盘、智能存储卡(smart media card,smc)、安全数字(secure digital,sd)卡、闪存卡(flash card)等。进一步地,存储器还可以既包括计算机设备的内部存储单元也包括外部存储设备。存储器用于存储操作系统、应用程序、引导装载程序(bootloader)、数据以及其他程序等,该其他程序如计算机程序的程序代码等。存储器还可以用于暂时地存储已经输出或者将要输出的数据。
[0152]
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。上述装置中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述方法实施例的步骤。其中,计算机程序包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质至少可以包括:能够携带计算机程序代码的任何实体或装置、记录介质、计算机存储器、只读存储器(read-only memory,rom)、随机存取存储器
(random access memory,ram)、电载波信号、电信信号以及软件分发介质。例如u盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
[0153]
本发明实现上述实施例方法中的全部或部分流程,也可以通过一种计算机程序产品来完成,当计算机程序产品在计算机设备上运行时,使得计算机设备执行时实现可实现上述方法实施例中的步骤。
[0154]
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
[0155]
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
[0156]
在本发明所提供的实施例中,应该理解到,所揭露的装置/计算机设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/计算机设备实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
[0157]
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
[0158]
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。

技术特征:


1.一种基于人工智能的语音转换方法,其特征在于,所述语音转换方法包括:获取待转换语音序列对应的初始梅尔谱,将所述初始梅尔谱输入训练好的自编码器进行重构,确定重构后的结果为更新梅尔谱,对所述更新梅尔谱进行特征提取,确定特征提取结果为条件特征;将所述更新梅尔谱转换为功率谱密度函数,对所述功率谱密度函数进行快速逆傅里叶变换,对变换结果进行求解,确定求解结果为线性系数序列,所述线性系数序列包括至少两个线性系数,一线性系数与所述待转换语音序列中一帧的元素对应;针对任一线性系数,将所述线性系数与所述待转换语音序列中对应帧的元素相乘,确定所有相乘结果的和为预测值;按时序确定所述待转换语音序列中最后一帧的元素为输入元素,将所述条件特征、所述预测值和所述输入元素进行联结,将联结结果输入训练好的声码器,得到预测激励值,根据源滤波器模型,将所述预测值和所述预测激励值相加,得到目标语音。2.根据权利要求1所述的语音转换方法,其特征在于,所述训练好的自编码器包括训练好的第一编码器和训练好的第一解码器;所述将所述初始梅尔谱输入训练好的自编码器进行重构,确定重构后的结果为更新梅尔谱包括:将所述初始梅尔谱输入所述训练好的第一编码器进行特征提取,得到语音特征;将所述语音特征与获取的编码特征进行特征融合,将特征融合结果输入所述训练好的第一解码器进行特征重构,得到所述更新梅尔谱。3.根据权利要求1所述的语音转换方法,其特征在于,所述自编码器包括第一编码器和第一解码器,以样本梅尔谱作为所述自编码器训练时的训练样本,以参考梅尔谱作为所述样本梅尔谱的重构目标,以重构损失作为所述自编码器训练时的损失函数,所述样本梅尔谱对应于样本说话人编码特征,所述参考梅尔谱对应于参考说话人编码特征;所述自编码器的训练过程包括:将所述样本梅尔谱输入所述第一编码器中,得到第一样本特征;将所述第一样本特征和所述样本说话人编码特征进行特征融合后,输入所述第一解码器,得到第一重构梅尔谱;根据所述第一重构梅尔谱与所述样本梅尔谱,计算所述重构损失,以所述重构损失为依据,采用梯度下降法更新所述第一编码器和所述第一解码器的参数,直至所述重构损失收敛,得到初步训练好的第一编码器和初步训练好的第一解码器。4.根据权利要求3所述的语音转换方法,其特征在于,在所述得到初步训练好的第一编码器和初步训练好的第一解码器之后,还包括:将所述样本梅尔谱输入所述初步训练好的第一编码器中,得到第二样本特征;将所述第二样本特征和所述参考说话人编码特征进行特征融合后,输入所述初步训练好的第一解码器,得到第二重构梅尔谱;将所述第二重构梅尔谱输入所述初步训练好的第一编码器中,得到第三样本特征;将所述第三样本特征和所述样本说话人编码特征进行特征融合后,输入所述初步训练好的第一解码器,得到第三重构梅尔谱;根据所述样本梅尔谱与所述第三重构梅尔谱,计算所述重构损失,以所述重构损失为依据,采用梯度下降法更新所述初步训练好的第一编码器和所述初步训练好的第一解码器
的参数,直至所述重构损失收敛,得到所述训练好的第一编码器和所述训练好的第一解码器。5.根据权利要求1至4任一项所述的语音转换方法,其特征在于,所述训练好的声码器包括训练好的门控循环层和训练好的全连接层;所述将联结结果输入训练好的声码器,得到预测激励值,根据源滤波器模型,将所述预测值和所述预测激励值相加,得到目标语音包括:将所述联结结果输入所述训练好的门控循环层,得到转换特征;将所述转换特征输入所述训练好的全连接层进行特征映射,得到所述预测激励值。6.根据权利要求5所述的语音转换方法,其特征在于,所述训练好的全连接层包括训练好的第一全连接层和训练好的第二全连接层;所述将所述转换特征输入所述训练好的全连接层进行特征映射,得到所述预测激励值包括:将所述转换特征输入所述训练好的第一全连接层,得到第一高斯分布,对所述第一高斯分布进行采样,得到第一采样点;将所述第一采样点和所述预测值的和确定为第一更新元素,将所述第一更新元素更新至所述待转换语音序列中,得到更新语音序列。7.根据权利要求6所述的语音转换方法,其特征在于,在所述得到更新后的待转换语音序列之后,还包括:根据所述线性系数序列与所述更新语音序列,计算得到更新后的预测值;将所述转换特征输入所述训练好的第二全连接层,得到第二高斯分布,对所述第二高斯分布进行采样,得到第二采样点;将所述第二采样点和所述更新后的预测值的和确定为第二更新元素,将所述第二更新元素更新至所述更新语音序列中,确定更新结果为所述更新语音序列;在检测到所述更新语音序列满足所述预设条件时,将所述更新语音序列与所述待转换语音序列进行元素比对,将仅属于所述更新语音序列的元素确定为所述目标语音的元素。8.一种基于人工智能的语音转换装置,其特征在于,所述语音转换装置包括:特征重构模块,用于获取待转换语音序列对应的初始梅尔谱,将所述初始梅尔谱输入训练好的自编码器进行重构,确定重构后的结果为更新梅尔谱,对所述更新梅尔谱进行特征提取,确定特征提取结果为条件特征;系数求解模块,用于将所述更新梅尔谱转换为功率谱密度函数,对所述功率谱密度函数进行快速逆傅里叶变换,对变换结果进行求解,确定求解结果为线性系数序列,所述线性系数序列包括至少两个线性系数,一线性系数与所述待转换语音序列中一帧的元素对应;线性预测模块,用于针对任一线性系数,将所述线性系数与所述待转换语音序列中对应帧的元素相乘,确定所有相乘结果的和为预测值;语音生成模块,用于按时序确定所述待转换语音序列中最后一帧的元素为输入元素,将所述条件特征、所述预测值和所述输入元素进行联结,将联结结果输入训练好的声码器,得到预测激励值,根据源滤波器模型,将所述预测值和所述预测激励值相加,得到目标语音。9.一种计算机设备,其特征在于,所述计算机设备包括处理器、存储器以及存储在所述
存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的语音转换方法。10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的语音转换方法。

技术总结


本发明涉及人工智能技术领域,尤其涉及一种基于人工智能的语音转换方法、装置、计算机设备及介质。该方法将初始梅尔谱输入自编码器重构为更新梅尔谱,将更新梅尔谱的特征作为条件特征,对更新梅尔谱进行信号处理得到线性系数序列,将线性系数序列与待转换语音序列逐帧相乘后再相加,得到预测值,将条件特征、预测值和待转换语音序列中的元素进行联结后输入训练好的声码器,得到目标语音。采用自编码器重构初始梅尔谱,使重构梅尔谱能够更接近目标语音的梅尔谱,提高了特征转换的精度,且采用信号处理方式对预测值进行计算,极大减少了模型参数量,相较于相同延迟的神经网络预测方式,能够保持语音转换的高准确性,提高了低延迟语音转换的准确率。音转换的准确率。音转换的准确率。


技术研发人员:

郭洋 王健宗

受保护的技术使用者:

平安科技(深圳)有限公司

技术研发日:

2022.09.06

技术公布日:

2022/12/8

本文发布于:2024-09-22 15:37:24,感谢您对本站的认可!

本文链接:https://www.17tex.com/tex/2/37949.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:语音   所述   特征   梅尔
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议