语音合成模型的训练方法、语音合成方法及装置与流程

1.本公开涉及人工智能技术领域中的语音合成技术，尤其涉及一种语音合成模型的训练方法、语音合成方法及装置。

背景技术：

2.随着移动互联网和人工智能技术的快速发展，语音播报、听小说、听新闻、智能交互等一系列语音合成的场景越来越多，语音合成技术具体地说，是一种将任意文字信息转化为标准、流畅语音的技术。随着应用的拓展，不断有新增的需求，例如需要支持不同语种，情绪可调节的合成要求，以获得个性化的体验。

技术实现要素：

3.本公开提供了一种能够体现情绪剧烈程度的语音合成模型的训练方法、语音合成方法及装置。
4.根据本公开的第一方面，提供了一种语音合成模型的训练方法，包括：
5.将源音频对应的内容输入至语音合成模型的内容编码网络中，得到内容特征向量；
6.将所述源音频输入至所述语音合成模型的情绪抽取网络中，得到初始情绪特征向量，根据所述初始情绪特征向量和所述内容特征向量确定所述源音频的基础情绪特征向量；
7.将所述源音频和目标音频输入至所述语音合成模型的情绪排序网络中，得到排序系数向量，根据所述排序系数向量和所述基础情绪特征向量确定情绪强烈程度特征向量，所述目标音频和所述源音频的说话人和内容相同且情绪不同；
8.将所述源音频分别输入至语音风格迁移模型的说话人编码网络和语种编码网络，得到说话人特征向量和语种特征向量；
9.将所述内容特征向量、所述情绪强烈程度特征向量、所述说话人特征向量和所述语种特征向量输入至所述语音风格迁移模型的声谱解码合成网络，得到重建音频；
10.根据所述重建音频和所述目标音频，更新所述语音合成模型的参数。
11.根据本公开的第二方面，提供了一种语音合成方法，包括：
12.获取文本内容、情绪标识、说话人标识以及语种标识；
13.将所述文本内容输入至语音合成模型的内容编码网络中，得到内容特征向量；
14.根据所述情绪标识获取情绪强烈程度特征向量，根据所述说话人标识获取说话人特征向量，根据所述语种标识获取语种特征向量，其中，所述情绪强烈程度特征向量、所述说话人特征向量和所述语种特征向量是预先将所述说话人标识对应的说话人的源音频和目标音频输入至所述语音合成模型得到的；
15.将所述内容特征向量、所述情绪强烈程度特征向量、所述说话人特征向量和所述语种特征向量输入至所述语音风格迁移模型的声谱解码合成网络，得到合成的音频；
16.其中，所述语音合成模型是采用第一方面所述的方法进行训练得到的。
17.根据本公开的第三方面，提供了一种语音合成模型的训练装置，包括：
18.第一特征提取模块，用于将源音频对应的内容输入至语音合成模型的内容编码网络中，得到内容特征向量；
19.第二特征提取模块，用于将所述源音频输入至所述语音合成模型的情绪抽取网络中，得到初始情绪特征向量，根据所述初始情绪特征向量和所述内容特征向量确定所述源音频的基础情绪特征向量；
20.第三特征提取模块，用于将所述源音频和目标音频输入至所述语音合成模型的情绪排序网络中，得到排序系数向量，根据所述排序系数向量和所述基础情绪特征向量确定情绪强烈程度特征向量，所述目标音频和所述源音频的说话人和内容相同且情绪不同；
21.第四特征提取模块，用于将所述源音频分别输入至语音风格迁移模型的说话人编码网络和语种编码网络，得到说话人特征向量和语种特征向量；
22.声谱解码合成模块，用于将所述内容特征向量、所述情绪强烈程度特征向量、所述说话人特征向量和所述语种特征向量输入至所述语音风格迁移模型的声谱解码合成网络，得到重建音频；
23.更新模块，用于根据所述重建音频和所述目标音频，更新所述语音合成模型的参数。
24.根据本公开的第四方面，提供了一种语音合成装置，包括：
25.第一获取模块，用于获取文本内容、情绪标识、说话人标识以及语种标识；
26.第一特征提取模块，用于将所述文本内容输入至语音合成模型的内容编码网络中，得到内容特征向量；
27.第二获取模块，用于根据所述情绪标识获取情绪强烈程度特征向量，根据所述说话人标识获取说话人特征向量，根据所述语种标识获取语种特征向量，其中，所述情绪强烈程度特征向量、所述说话人特征向量和所述语种特征向量是预先将所述说话人标识对应的说话人的源音频和目标音频输入至所述语音合成模型得到的；
28.声谱解码合成模块，用于将所述内容特征向量、所述情绪强烈程度特征向量、所述说话人特征向量和所述语种特征向量输入至所述语音风格迁移模型的声谱解码合成网络，得到合成的音频；
29.其中，所述语音合成模型是采用第一方面所述的方法进行训练得到的。
30.根据本公开的第五方面，提供了一种电子设备，包括：
31.至少一个处理器；以及
32.与所述至少一个处理器通信连接的存储器；其中，
33.所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述第一方面所述的方法。
34.根据本公开的第六方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行上述第一方面所述的方法。
35.根据本公开的第七方面，提供了一种计算机程序产品，所述程序产品包括：计算机程序，所述计算机程序存储在可读存储介质中，电子设备的至少一个处理器可以从所述可读存储介质读取所述计算机程序，所述至少一个处理器执行所述计算机程序使得电子设备
执行第一方面所述的方法。
36.根据本公开的技术方案，实现了能够体现情绪强烈程度的语音合成。
37.应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
38.附图用于更好地理解本方案，不构成对本公开的限定。其中：
39.图1是根据本公开实施例提供的语音合成模型的训练方法的流程示意图；
40.图2是根据本公开实施例提供的语音合成模型的示意图；
41.图3是根据本公开实施例提供的语音合成方法的流程示意图；
42.图4是根据本公开实施例提供的语音合成模型的训练装置的结构示意图；
43.图5是根据本公开实施例提供的语音合成装置的结构示意图；
44.图6是用来实现本公开实施例的方法的电子设备的示意性框图。
具体实施方式
45.以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
46.一般情况下，不同语种情绪可控的语音合成方案，包括内容特征、语种特征、情绪特征、说话人特征共四种特征的提取，对这四种特征进行拼接组合，再经过解码器，声码器，得到最终合成的音频。目前，情绪特征仅能针对特定的几种情绪，例如生气、开心、悲伤等情绪，但不能体现情绪的剧烈程度，例如生气的程度、开心的程度、悲伤的程度均不能体现，情绪效果单一，往往无法满足实际使用的需求。
47.为此，本公开实施例中提出，在训练语音合成模型的过程中，除了提取内容特征、说话人特征、语种特征之外，还对音频进行情绪抽取，将音频的情绪特征解耦，并通过不同情绪强烈程度的音频的对比，得到能够体现情绪强烈程度的情绪特征，再结合前述内容特征、说话人特征、语种特征，合成相应的音频，从而实现了在语音合成中体现情绪强烈程度。
48.本公开提供一种语音合成模型的训练方法、语音合成方法及装置，应用于人工智能技术领域的语音合成领域，具体可以应用于语音播报、听小说、听新闻、智能交互等语音合成场景中，以实现在语音合成中体现情绪强烈程度，增加情绪效果，满足不同使用需求。
49.下面，将通过具体的实施例对本公开提供的语音合成模型的训练方法以及语音合成方法进行详细地说明。可以理解的是，下面这几个具体的实施例可以相互结合，对于相同或相似的概念或过程可能在某些实施例不再赘述。
50.图1是根据本公开实施例提供的一种语音合成模型的训练方法的流程示意图。该方法的执行主体为语音合成模型的训练装置，该装置可以通过软件和/或硬件的方式实现。如图1所示，该方法包括：
51.s101、将源音频对应的内容输入至语音合成模型的内容编码网络中，得到内容特征向量。
52.其中，内容编码网络可以是采用开源数据集进行了预训练的具备一定的识别能力的基础网络。
53.源音频对应的内容包括源音频对应的词语和音素，例如我喜欢这个熊对应的词语和音素是wo3|我，xi3huan1|喜欢，zhe4ge1|这个，xiong2|熊，内容编码网络输出的是内容特征向量，即文本特征向量，通过内容编码网络相当于将文本内容映射到高维空间，将音素代表的发音信息，词语的内容以及上下文关联的语义信息表征出来，这样粗细粒度的结合更有利于与情绪和音特征的对齐，例如在哪个词语上应该停顿，在哪个发音上应该重读等。
54.s102、将源音频输入至语音合成模型的情绪抽取网络中，得到初始情绪特征向量，根据初始情绪特征向量和文本特征向量确定源音频的基础情绪特征向量。
55.情绪抽取网络输入是源音频的声谱特征，例如梅尔(mel)谱特征或其他特征(感知线性预测系数plp,滤波器组系数fbank)，示例的，每帧声谱特征时长50ms，帧移12.5ms。情绪抽取网络可以采用开源的数据集提前进行预训练。
56.情绪抽取网络输出的初始情绪特征向量表征了源音频中的情绪信息，为了提升情绪的纯度，去除音频中内容的影响，基于初始情绪特征向量和内容特征向量提取源音频的基础情绪特征向量，也就是净化后的情绪特征向量。
57.s103、将源音频和目标音频输入至语音合成模型的情绪排序网络中，得到排序系数向量，根据排序系数向量和基础情绪特征向量确定情绪强烈程度特征向量。
58.情绪排序网络的输入是一对音频《源音频，目标音频》以及目标排序概率p，其中，目标音频和源音频的说话人和内容相同，但情绪不同。目标排序概率p为{0,0.5,1}，0.5表示目标音频没有经过增强，0表示目标音频比源音频的情绪弱，1表示目标音频比源音频的情绪强，本步骤通过选择情绪程度不同的音频对来实现。
59.情绪排序网络可以输出目标音频的情绪比源音频的情绪强的预测概率r。通过比较排序，可以挖掘出更准确的深度相对属性(deep relative attributes)，即情绪的剧烈程度，情绪排序网络可以采用开源的数据集提前进行预训练，然后再参与整个语音合成模型的迭代进行微调。本步骤中使用的是情绪排序网络中的最后一层特征向量作为排序系数向量，排序系数向量可以表征目标音频相对于源音频的情绪强烈程度，基于排序系数向量和基础情绪特征向量确定情绪强烈程度特征向量，从而使得情绪强烈程度特征向量可以在源音频的情绪基础上，体现目标音频的情绪强烈程度。
60.s104、将源音频分别输入至语音风格迁移模型的说话人编码网络和语种编码网络，得到说话人特征向量和语种特征向量。
61.说话人编码网络是对说话人(speaker identity)的特性进行建模，提取说话人的特征，说话人编码网络的输入为源音频的声谱特征，说话人编码网络可以是采用开源数据集预训练的具备一定的识别能力的基础网络。
62.说话人编码网络主要是对说话人的特点进行建模，说话人的说话特点由有意识和无意识的活动组成，一般变化性很强，从声谱角度出发包括3方面，一方面是内在的稳定的粗粒度的特性，这部分是由说话人的生理结构特点决定的，不同的说话人不一样，从主观听觉上感受不同，表现在声谱的低频区域，例如平均的音高，反映声道冲激响应的频谱包络(spectral envelope)，共振峰(formant)的相对幅度与位置等，另外一方面是不稳定的短
时声学特性，发音的快慢急剧抖动(sharp and rapid)情况、频率、响度(intensity)、频谱的精细化结构等，这些能够反映说话人心理或精神方面的变化，在交谈时可以通过改变这些来表达不同的情绪与意图。上述两方面特征说话人编码网络进行提取，说话人编码网络中通过多层卷积网络，提取到不同级别的特征，进而加以综合，从而保证了说话人特征的准确性。
63.语种编码网络在结构上可以复用说话人编码网络，也可以采用其他常规网络搭建，语种编码网络可以是采用开源的数据集提前预训练的，不参与语音合成模型整体的迭代更新。
64.s105、将内容特征向量、情绪强烈程度特征向量、说话人特征向量和语种特征向量输入至语音风格迁移模型的声谱解码合成网络，得到重建音频。
65.s106、根据重建音频和目标音频，更新语音合成模型的参数。
66.声谱解码合成网络的输入是内容特征向量、情绪强烈程度特征向量、说话人特征向量和语种特征向量4个特征向量的拼接，输出的是重建音频，通过重建音频向着目标音频逼近，计算两者之间的损失，反向更新语音合成模型中的各个网络。
67.本公开实施例的方法，通过文本编码网络得到内容特征，然后从音频中将内容信息去掉抽取出基础情绪特征，通过与目标情绪的比较学习得到强弱系数，在系数的影响下调节基础情绪特征，得到情绪强烈程度特征，再结合内容特征、说话人特征、语种特征这样的全局特征，解码出相应的重建音频，重建音频能够体现出目标音频的情绪强烈程度。
68.为使读者更深刻地理解本公开的实现原理，现结合以下图2所示的模型结构对图1所示实施例进行进一步细化。
69.可选的，内容编码网络由{conv1d*3+lstm+multi-head-attention(mha)+linear}构成。将源音频的内容输入至内容编码网络得到内容特征向量c。
70.可选的，情绪抽取网络由{tdnn*4+resnet*2+linear}构成，将源音频的音频特征输入情绪抽取网络，得到源音频的初始情绪特征向量e0。可选的，对初始情绪特征向量e0与内容特征向量c进行异或(xor)操作，得到基础情绪特征向量e1，从而剔除了文本内容对情绪的影响。
71.可选的，情绪排序网络可以由{linear*3+normalization+linear}构成。将《源音频，目标音频》以及目标排序概率输入情绪排序网络，得到最后一层的特征向量，即排序系数向量beta。可选的，对排序系数向量beta和基础情绪特征向量e1进行乘积，得到情绪强烈程度特征向量e2。
72.示例的，说话人编码网络由{convbank*4+conv1d*6+average-pooling+linear*4}构成，其中convbank层用于扩大感受野，抓取长时信息，最后用池化层，将信息特征进行聚合，最终输出说话人特征向量。将源音频的特征向量输入说话人编码网络，得到说话人特征特征向量s。
73.示例的，语种编码网络由{{conv1d+layernorm(层规整)}*4+blstm*2+average-pooling+linear*2}构成，将源音频的特征向量输入语种编码网络，得到语种特征向量l。
74.可选的，声谱解码合成网络由{attention+decoder{conv1d*4+blstm*3+linear}+vocoder}构成，将内容特征向量c、情绪强烈程度特征向量e2、说话人特征特征向量s和语种特征向量l进行拼接后输入声谱解码合成网络，得到重建音频。
75.可选的，根据重建音频和目标音频之间的损失，更新内容编码网络、情绪抽取网络、情绪排序网络和说话人编码网络的参数。
76.示例的，重建音频和目标音频的损失函数可以采用均方误差(mean square error，mse)损失，如下：
[0077][0078]
其中，l1表示重建音频和目标音频的损失，w为目标音频，为重建音频。
[0079]
可选的，为了提升说话人在不同语种下音频合成的稳定性，保证切换语种时不影响到音频的音，本公开实施例中可以添加一个预训练的说话人识别模型以对语音合成模型中的说话人编码网络进行监督。可选的，预训练的说话人识别模型由(cnn*2+blstm*2+attention+fc或tdnn*4+fc)构成。
[0080]
可选的，将重建音频输入预训练的说话人识别模型中，得到重建说话人特征向量，根据重建说话人特征向量和说话人特征向量之间的损失，更新说话人编码网络，从而提高模型准确性。
[0081]
可选的，为了提升情绪调节的准确度，本公开实施例中可以添加一个预训练的情绪识别模型以对情绪抽取网络和情绪排序网络进行监督。可选的，预训练的情绪识别模型可以与说话人识别模型的结构相同。可选的，将重建音频输入预训练的情绪识别模型中，得到重建情绪特征向量，根据重建情绪特征向量和情绪强烈程度特征向量之间的损失，更新情绪抽取网络和情绪排序网络，从而提高模型准确性。
[0082]
图3是根据本公开实施例提供的一种语音合成方法的流程示意图。该方法的执行主体为语音合成装置，该装置可以通过软件和/或硬件的方式实现。如图3所示，该方法包括：
[0083]
s301、获取文本内容、情绪标识、说话人标识以及语种标识。
[0084]
s302、将文本内容输入至语音合成模型的内容编码网络中，得到内容特征向量。
[0085]
s303、根据情绪标识获取情绪强烈程度特征向量，根据说话人标识获取说话人特征向量，根据语种标识获取语种特征向量。
[0086]
其中，情绪强烈程度特征向量、说话人特征向量和语种特征向量是预先将说话人标识对应的说话人的源音频和目标音频输入至语音合成模型得到的。
[0087]
s304、将内容特征向量、情绪强烈程度特征向量、说话人特征向量和语种特征向量输入至语音风格迁移模型的声谱解码合成网络，得到合成的音频。
[0088]
其中，语音合成模型是采用前述实施例的方法进行训练得到的。
[0089]
本公开实施例中，语音合成模型中各网络的作用与前述实施例中类似，此处不再赘述，可以参照前述实施例中的方法，在应用之前，可以预先将一些说话人各自对应的不同情绪的源音频、目标音频输入至语音合成模型的各网络，得到相应的情绪强烈程度特征向量、说话人特征向量和语种特征向量，并将各向量与通过相应的标识进行区分存储，即得到情绪标识与情绪强烈程度特征向量之间的对应关系，说话人标识与说话人特征向量之间的对应关系，语种标识与语种特征向量之间的对应关系。其中，情绪标识可以对应不同情绪强烈程度。
[0090]
在应用时，通过用户输入的或者根据使用场景自动生成的情绪标识、说话人标识
以及语种标识，查相应的情绪强烈程度特征向量、说话人特征向量和语种特征向量，此外，将待合成语音的文本内容输入至语音合成模型的内容编码网络中，得到内容特征向量，将内容特征向量、情绪强烈程度特征向量、说话人特征向量和语种特征向量输入至语音风格迁移模型的声谱解码合成网络，得到能够体现情绪强烈程度的合成音频。
[0091]
图4是根据本公开实施例提供的一种语音合成模型的训练装置的结构示意图。如图4所示，语音合成模型的训练装置400包括：
[0092]
第一特征提取模块401，用于将源音频对应的内容输入至语音合成模型的内容编码网络中，得到内容特征向量；
[0093]
第二特征提取模块402，用于将源音频输入至语音合成模型的情绪抽取网络中，得到初始情绪特征向量，根据初始情绪特征向量和内容特征向量确定源音频的基础情绪特征向量；
[0094]
第三特征提取模块403，用于将源音频和目标音频输入至语音合成模型的情绪排序网络中，得到排序系数向量，根据排序系数向量和基础情绪特征向量确定情绪强烈程度特征向量，目标音频和源音频的说话人和内容相同且情绪不同；
[0095]
第四特征提取模块404，用于将源音频分别输入至语音风格迁移模型的说话人编码网络和语种编码网络，得到说话人特征向量和语种特征向量；
[0096]
声谱解码合成模块405，用于将内容特征向量、情绪强烈程度特征向量、说话人特征向量和语种特征向量输入至语音风格迁移模型的声谱解码合成网络，得到重建音频；
[0097]
更新模块406，用于根据重建音频和目标音频，更新语音合成模型的参数。
[0098]
在一种实施方式中，更新模块406包括：
[0099]
第一更新单元，用于根据重建音频和目标音频之间的损失，更新内容编码网络、情绪抽取网络、情绪排序网络和说话人编码网络的参数。
[0100]
在一种实施方式中，语音合成模型的训练装置400还包括：
[0101]
第二更新单元，用于将重建音频输入预训练的说话人识别模型中，得到重建说话人特征向量，根据重建说话人特征向量和说话人特征向量之间的损失，更新说话人编码网络。
[0102]
在一种实施方式中，语音合成模型的训练装置400还包括：
[0103]
第三更新单元，用于将重建音频输入预训练的情绪识别模型中，得到重建情绪特征向量，根据重建情绪特征向量和情绪强烈程度特征向量之间的损失，更新情绪抽取网络和情绪排序网络。
[0104]
在一种实施方式中，第二特征提取模块402，包括：
[0105]
第一特征提取单元，用于对初始情绪特征向量与内容特征向量进行异或操作，得到基础情绪特征向量。
[0106]
在一种实施方式中，第三特征提取模块403，包括：
[0107]
第二特征提取单元，用于对排序系数向量和基础情绪特征向量进行乘积，得到情绪强烈程度特征向量。
[0108]
本公开实施例的装置可用于执行上述方法实施例中的语音合成模型的训练方法，其实现原理和技术效果类似，此处不再赘述。
[0109]
图5是根据本公开实施例提供的一种语音合成装置的结构示意图。
[0110]
如图5所示，语音合成装置500包括：
[0111]
第一获取模块501，用于获取文本内容、情绪标识、说话人标识以及语种标识；
[0112]
第一特征提取模块502，用于将文本内容输入至语音合成模型的内容编码网络中，得到内容特征向量；
[0113]
第二获取模块503，用于根据情绪标识获取情绪强烈程度特征向量，根据说话人标识获取说话人特征向量，根据语种标识获取语种特征向量，其中，情绪强烈程度特征向量、说话人特征向量和语种特征向量是预先将说话人标识对应的说话人的源音频和目标音频输入至语音合成模型得到的；
[0114]
声谱解码合成模块504，用于将内容特征向量、情绪强烈程度特征向量、说话人特征向量和语种特征向量输入至语音风格迁移模型的声谱解码合成网络，得到合成的音频。
[0115]
其中，语音合成模型是采用前述实施例的方法进行训练得到的。
[0116]
本公开实施例的装置可用于执行上述方法实施例中的语音合成方法，其实现原理和技术效果类似，此处不再赘述。
[0117]
根据本公开的实施例，本公开还提供了一种电子设备和存储有计算机指令的非瞬时计算机可读存储介质。
[0118]
根据本公开的实施例，本公开还提供了一种计算机程序产品，程序产品包括：计算机程序，计算机程序存储在可读存储介质中，电子设备的至少一个处理器可以从可读存储介质读取计算机程序，至少一个处理器执行计算机程序使得电子设备执行上述任一实施例提供的方案。
[0119]
图6是用来实现本公开实施例的方法的电子设备的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
[0120]
如图6所示，电子设备600包括计算单元601，其可以根据存储在只读存储器(rom)602中的计算机程序或者从存储单元608加载到随机访问存储器(ram)603中的计算机程序，来执行各种适当的动作和处理。在ram 603中，还可存储设备600操作所需的各种程序和数据。计算单元601、rom 602以及ram 603通过总线604彼此相连。输入/输出(i/o)接口605也连接至总线604。
[0121]
设备600中的多个部件连接至i/o接口605，包括：输入单元606，例如键盘、鼠标等；输出单元607，例如各种类型的显示器、扬声器等；存储单元608，例如磁盘、光盘等；以及通信单元609，例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
[0122]
计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(cpu)、图形处理单元(gpu)、各种专用的人工智能(ai)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(dsp)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理，例如语音合成模型的训练方法或语音合成方法。例如，在一些实施例中，语音合成模型的训
练方法或语音合成方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元608。在一些实施例中，计算机程序的部分或者全部可以经由rom 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到ram 603并由计算单元601执行时，可以执行上文描述的语音合成模型的训练方法或语音合成方法的一个或多个步骤。备选地，在其他实施例中，计算单元601可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行语音合成模型的训练方法或语音合成方法。
[0123]
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(fpga)、专用集成电路(asic)、专用标准产品(assp)、芯片上系统的系统(soc)、负载可编程逻辑设备(cpld)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
[0124]
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
[0125]
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦除可编程只读存储器(eprom或快闪存储器)、光纤、便捷式紧凑盘只读存储器(cd-rom)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
[0126]
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，crt(阴极射线管)或者lcd(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
[0127]
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网
(lan)、广域网(wan)和互联网。
[0128]
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与vps服务("virtual private server"，或简称"vps")中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。
[0129]
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
[0130]
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

技术特征：

1.一种语音合成模型的训练方法，包括：将源音频对应的内容输入至语音合成模型的内容编码网络中，得到内容特征向量；将所述源音频输入至所述语音合成模型的情绪抽取网络中，得到初始情绪特征向量，根据所述初始情绪特征向量和所述内容特征向量确定所述源音频的基础情绪特征向量；将所述源音频和目标音频输入至所述语音合成模型的情绪排序网络中，得到排序系数向量，根据所述排序系数向量和所述基础情绪特征向量确定情绪强烈程度特征向量，所述目标音频和所述源音频的说话人和内容相同且情绪不同；将所述源音频分别输入至语音风格迁移模型的说话人编码网络和语种编码网络，得到说话人特征向量和语种特征向量；将所述内容特征向量、所述情绪强烈程度特征向量、所述说话人特征向量和所述语种特征向量输入至所述语音风格迁移模型的声谱解码合成网络，得到重建音频；根据所述重建音频和所述目标音频，更新所述语音合成模型的参数。2.根据权利要求1所述的方法，其中，所述根据所述重建音频和所述目标音频，更新所述语音合成模型的参数，包括：根据所述重建音频和所述目标音频之间的损失，更新所述内容编码网络、所述情绪抽取网络、所述情绪排序网络和所述说话人编码网络的参数。3.根据权利要求2所述的方法，还包括：将所述重建音频输入预训练的说话人识别模型中，得到重建说话人特征向量，根据所述重建说话人特征向量和所述说话人特征向量之间的损失，更新所述说话人编码网络。4.根据权利要求2所述的方法，还包括：将所述重建音频输入预训练的情绪识别模型中，得到重建情绪特征向量，根据所述重建情绪特征向量和所述情绪强烈程度特征向量之间的损失，更新所述情绪抽取网络和所述情绪排序网络。5.根据权利要求1-4任一项所述的方法，其中，所述根据所述初始情绪特征向量和所述内容特征向量确定所述源音频的基础情绪特征向量，包括：对所述初始情绪特征向量与所述内容特征向量进行异或操作，得到所述基础情绪特征向量。6.根据权利要求1-5任一项所述的方法，其中，所述根据所述排序系数向量和所述基础情绪特征向量确定情绪强烈程度特征向量，包括：对所述排序系数向量和所述基础情绪特征向量进行乘积，得到所述情绪强烈程度特征向量。7.一种语音合成方法，包括：获取文本内容、情绪标识、说话人标识以及语种标识；将所述文本内容输入至语音合成模型的内容编码网络中，得到内容特征向量；根据所述情绪标识获取情绪强烈程度特征向量，根据所述说话人标识获取说话人特征向量，根据所述语种标识获取语种特征向量，其中，所述情绪强烈程度特征向量、所述说话人特征向量和所述语种特征向量是预先将所述说话人标识对应的说话人的源音频和目标音频输入至所述语音合成模型得到的；将所述内容特征向量、所述情绪强烈程度特征向量、所述说话人特征向量和所述语种
特征向量输入至所述语音风格迁移模型的声谱解码合成网络，得到合成的音频；其中，所述语音合成模型是采用权利要求1-6任一项所述的方法进行训练得到的。8.一种语音合成模型的训练装置，包括：第一特征提取模块，用于将源音频对应的内容输入至语音合成模型的内容编码网络中，得到内容特征向量；第二特征提取模块，用于将所述源音频输入至所述语音合成模型的情绪抽取网络中，得到初始情绪特征向量，根据所述初始情绪特征向量和所述内容特征向量确定所述源音频的基础情绪特征向量；第三特征提取模块，用于将所述源音频和目标音频输入至所述语音合成模型的情绪排序网络中，得到排序系数向量，根据所述排序系数向量和所述基础情绪特征向量确定情绪强烈程度特征向量，所述目标音频和所述源音频的说话人和内容相同且情绪不同；第四特征提取模块，用于将所述源音频分别输入至语音风格迁移模型的说话人编码网络和语种编码网络，得到说话人特征向量和语种特征向量；声谱解码合成模块，用于将所述内容特征向量、所述情绪强烈程度特征向量、所述说话人特征向量和所述语种特征向量输入至所述语音风格迁移模型的声谱解码合成网络，得到重建音频；更新模块，用于根据所述重建音频和所述目标音频，更新所述语音合成模型的参数。9.根据权利要求8所述的装置，其中，所述更新模块包括：第一更新单元，用于根据所述重建音频和所述目标音频之间的损失，更新所述内容编码网络、所述情绪抽取网络、所述情绪排序网络和所述说话人编码网络的参数。10.根据权利要求9所述的装置，还包括：第二更新单元，用于将所述重建音频输入预训练的说话人识别模型中，得到重建说话人特征向量，根据所述重建说话人特征向量和所述说话人特征向量之间的损失，更新所述说话人编码网络。11.根据权利要求9所述的装置，还包括：第三更新单元，用于将所述重建音频输入预训练的情绪识别模型中，得到重建情绪特征向量，根据所述重建情绪特征向量和所述情绪强烈程度特征向量之间的损失，更新所述情绪抽取网络和所述情绪排序网络。12.根据权利要求8-11任一项所述的装置，其中，所述第二特征提取模块，包括：第一特征提取单元，用于对所述初始情绪特征向量与所述内容特征向量进行异或操作，得到所述基础情绪特征向量。13.根据权利要求8-12任一项所述的装置，其中，所述第三特征提取模块，包括：第二特征提取单元，用于对所述排序系数向量和所述基础情绪特征向量进行乘积，得到所述情绪强烈程度特征向量。14.一种语音合成装置，包括：第一获取模块，用于获取文本内容、情绪标识、说话人标识以及语种标识；第一特征提取模块，用于将所述文本内容输入至语音合成模型的内容编码网络中，得到内容特征向量；第二获取模块，用于根据所述情绪标识获取情绪强烈程度特征向量，根据所述说话人
标识获取说话人特征向量，根据所述语种标识获取语种特征向量，其中，所述情绪强烈程度特征向量、所述说话人特征向量和所述语种特征向量是预先将所述说话人标识对应的说话人的源音频和目标音频输入至所述语音合成模型得到的；声谱解码合成模块，用于将所述内容特征向量、所述情绪强烈程度特征向量、所述说话人特征向量和所述语种特征向量输入至所述语音风格迁移模型的声谱解码合成网络，得到合成的音频；其中，所述语音合成模型是采用权利要求1-6任一项所述的方法进行训练得到的。15.一种电子设备，包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行权利要求1-7中任一项所述的方法。16.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。17.一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现权利要求1-7中任一项所述的方法。

技术总结

本公开提供了一种语音合成模型的训练方法、语音合成方法及装置，涉及人工智能技术领域，尤其涉及语音合成领域。该方法包括：将源音频的内容输入至内容编码网络中得到内容特征向量；将源音频输入至情绪抽取网络中得到初始情绪特征向量，根据初始情绪特征向量和内容特征向量确定基础情绪特征向量；将源音频和目标音频输入至情绪排序网络中得到排序系数向量，根据排序系数向量和基础情绪特征向量确定情绪强烈程度特征向量；将源音频输入至说话人编码网络和语种编码网络得到说话人特征向量和语种特征向量；将上述特征向量输入至声谱解码合成网络得到重建音频；根据重建音频和目标音频更新模型参数。该方法实现了在语音合成中体现情绪强烈程度。现情绪强烈程度。现情绪强烈程度。