语音转换方法、语音转换装置、电子设备及存储介质与流程



1.本技术涉及人工智能技术领域,尤其涉及一种语音转换方法、语音转换装置、电子设备及存储介质。


背景技术:



2.语音转换,通常是指在不改变话语内容信息的情况下,将说话人更换成另一个说话人。常见的语音转换方法在进行语音转换时,往往无法较好地表征出实际的话语内容以及说话人的风格特征,从而导致语音转换的效果不佳,因此,如何提高语音转换效果,成为了亟待解决的技术问题。


技术实现要素:



3.本技术实施例的主要目的在于提出一种语音转换方法、语音转换装置、电子设备及存储介质,旨在提高语音转换效果。
4.为实现上述目的,本技术实施例的第一方面提出了一种语音转换方法,所述方法包括:
5.获取目标说话人的原始语音数据
6.对所述原始语音数据进行分割处理,得到第一语音数据和第二语音数据;
7.通过预设的语音转换模型的矢量量化编码网络对所述第一语音数据进行编码处理,得到第一文本向量和第一语音特征向量;其中,所述第一语音特征向量用于表征所述目标说话人的语音特点;
8.通过所述矢量量化编码网络对所述第二语音数据进行编码处理,得到第二文本向量和第二语音特征向量;其中,所述第二语音特征向量用于表征所述目标说话人的语音特点;
9.对所述第一文本向量、所述第一语音特征向量、所述第二文本向量和所述第二语音特征向量进行拼接处理,得到目标语音向量;
10.通过所述语音转换模型的解码网络对所述目标语音向量进行解码处理,得到目标语音数据。
11.在一些实施例,所述矢量量化编码网络包括第一编码器、第一矢量量化编码器,所述通过预设的语音转换模型的矢量量化编码网络对所述第一语音数据进行编码处理,得到第一文本向量和第一语音特征向量的步骤,包括:
12.通过所述第一编码器对所述第一语音数据进行编码处理,得到第一编码向量;
13.通过所述第一矢量量化编码器对所述第一编码向量进行编码处理,得到所述第一文本向量;
14.对所述第一编码向量和所述第一文本向量进行求差处理,得到所述第一语音特征向量。
15.在一些实施例,所述矢量量化编码网络包括第二编码器、第二矢量量化编码器,所
述通过所述矢量量化编码网络对所述第二语音数据进行编码处理,得到第二文本向量和第二语音特征向量的步骤,包括:
16.通过所述第二编码器对所述第二语音数据进行编码处理,得到第二编码向量;
17.通过所述第二矢量量化编码器对所述第二编码向量进行编码处理,得到所述第二文本向量;
18.对所述第二编码向量和所述第二文本向量进行求差处理,得到所述第二语音特征向量。
19.在一些实施例,所述对所述第一文本向量、所述第一语音特征向量、所述第二文本向量和所述第二语音特征向量进行拼接处理,得到目标语音向量的步骤,包括:
20.对所述第一文本向量和所述第二文本向量进行拼接处理,得到目标文本向量;
21.对所述第一语音特征向量和所述第二语音特征向量进行均值计算,得到目标语音特征向量;
22.对所述目标文本向量和所述目标语音特征向量进行拼接处理,得到所述目标语音向量。
23.在一些实施例,所述通过所述语音转换模型的解码网络对所述目标语音向量进行解码处理,得到目标语音数据的步骤,包括:
24.通过所述解码网络的解码器对所述目标语音向量进行解码处理,得到目标语音隐状态向量;
25.对所述目标语音隐状态向量进行下采样处理,得到所述目标语音数据。
26.在一些实施例,所述对所述原始语音数据进行分割处理,得到第一语音数据和第二语音数据的步骤,包括:
27.对所述原始语音数据进行声谱计算,得到初始频谱图;
28.对所述初始频谱图进行滤波处理,得到初始语音数据;
29.根据预设的语音长度对所述初始语音数据进行分割处理,得到所述第一语音数据和所述第二语音数据。
30.在一些实施例,所述通过预设的语音转换模型的矢量量化编码网络对所述第一语音数据进行编码处理,得到第一文本向量和第一语音特征向量的步骤之前,所述方法还包括预先训练所述语音转换模型,具体包括:
31.获取样本语音数据,其中,所述样本语音数据包括第一样本语音数据和第二样本语音数据;
32.将所述样本语音数据输入至所述语音转换模型中,所述语音转换模型包括矢量量化编码网络以及解码网络;
33.通过所述矢量量化编码网络对所述第一样本语音数据进行编码处理,得到第一样本文本向量和第一样本语音特征向量,并通过所述矢量量化编码网络对所述第二样本语音数据进行编码处理,得到第二样本文本向量和第二样本语音特征向量;
34.对所述第一样本文本向量、第一样本语音特征向量、所述第二样本文本向量和第二样本语音特征向量进行拼接处理,得到样本语音向量;
35.通过所述解码网络的损失函数对所述样本语音向量进行重构损失计算,得到重构损失值;
36.通过预设的相似度算法对所述第一样本语音特征向量和所述第二样本语音特征向量进行相似度计算,得到语音特征相似值;
37.根据所述语音特征相似值和所述重构损失值对所述语音转换模型进行参数调整,以优化所述语音转换模型。
38.为实现上述目的,本技术实施例的第二方面提出了一种语音转换装置,所述装置包括:
39.数据获取模块,用于获取目标说话人的原始语音数据;
40.分割模块,用于对所述原始语音数据进行分割处理,得到第一语音数据和第二语音数据;
41.第一编码模块,用于通过预设的语音转换模型的矢量量化编码网络对所述第一语音数据进行编码处理,得到第一文本向量和第一语音特征向量;其中,所述第一语音特征向量用于表征所述目标说话人的语音特点;
42.第二编码模块,用于通过所述矢量量化编码网络对所述第二语音数据进行编码处理,得到第二文本向量和第二语音特征向量;其中,所述第二语音特征向量用于表征所述目标说话人的语音特点;
43.拼接模块,用于对所述第一文本向量、所述第一语音特征向量、所述第二文本向量和所述第二语音特征向量进行拼接处理,得到目标语音向量;
44.解码模块,用于通过所述语音转换模型的解码网络对所述目标语音向量进行解码处理,得到目标语音数据。
45.为实现上述目的,本技术实施例的第三方面提出了一种电子设备,所述电子设备包括存储器、处理器、存储在所述存储器上并可在所述处理器上运行的程序以及用于实现所述处理器和所述存储器之间的连接通信的数据总线,所述程序被所述处理器执行时实现上述第一方面所述的方法。
46.为实现上述目的,本技术实施例的第四方面提出了一种存储介质,所述存储介质为计算机可读存储介质,用于计算机可读存储,所述存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现上述第一方面所述的方法。
47.本技术提出的语音转换方法、语音转换装置、电子设备及存储介质,其通过获取目标说话人的原始语音数据;对原始语音数据进行分割处理,得到第一语音数据和第二语音数据数,能够在有效地增加语音数据总量的同时,能够使得分割得到的语音数据符合同一语境,能够较好地语音数据之间的关联性。进一步地,通过预设的语音转换模型的矢量量化编码网络分别对第一语音数据、第二语音数据进行编码处理,得到第一文本向量、第一语音特征向量、第二文本向量和第二语音特征向量;其中,第一语音特征向量和第二语音特征向量用于表征目标说话人的语音特点,这一方式能够加强对文本特征和语音特征的特征解耦,提高生成的文本信息和语音特征信息的准确性。最后,对第一文本向量、第一语音特征向量、第二文本向量和第二语音特征向量进行拼接处理,得到目标语音向量,并通过语音转换模型的解码网络对目标语音向量进行解码处理,从而得到符合需求的目标语音数据,将目标语音数据作为语音转换的内容。本技术实施例的语音转换模型能够更为合理地对原始语音数据的文本特征和语音特征进行特征解耦,从而提高语音转换效果,使得本技术实施例的语音转换方法能够满足动画短视频配音的需求,也能够较好地应用于各种个性化语音
合成任务中,适用性较好。
附图说明
48.图1是本技术实施例提供的语音转换方法的流程图;
49.图2是图1中的步骤s102的流程图;
50.图3是本技术实施例提供的语音转换方法的另一流程图;
51.图4是图1中的步骤s103的流程图;
52.图5是图1中的步骤s104的流程图;
53.图6是图1中的步骤s105的流程图;
54.图7是图1中的步骤s106的流程图;
55.图8是本技术实施例提供的语音转换装置的结构示意图;
56.图9是本技术实施例提供的电子设备的硬件结构示意图。
具体实施方式
57.为了使本技术的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本技术进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本技术,并不用于限定本技术。
58.需要说明的是,虽然在装置示意图中进行了功能模块划分,在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于装置中的模块划分,或流程图中的顺序执行所示出或描述的步骤。说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。
59.除非另有定义,本文所使用的所有的技术和科学术语与属于本技术的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本技术实施例的目的,不是旨在限制本技术。
60.首先,对本技术中涉及的若干名词进行解析:
61.人工智能(artificial intelligence,ai):是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学;人工智能是计算机科学的一个分支,人工智能企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能可以对人的意识、思维的信息过程的模拟。人工智能还是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
62.自然语言处理(natural language processing,nlp):nlp用计算机来处理、理解以及运用人类语言(如中文、英文等),nlp属于人工智能的一个分支,是计算机科学与语言学的交叉学科,又常被称为计算语言学。自然语言处理包括语法分析、语义分析、篇章理解等。自然语言处理常用于机器翻译、手写体和印刷体字符识别、语音识别及文语转换、信息意图识别、信息抽取与过滤、文本分类与聚类、舆情分析和观点挖掘等技术领域,它涉及与语言处理相关的数据挖掘、机器学习、知识获取、知识工程、人工智能研究和与语言计算相关的语言学研究等。
63.信息抽取(information extraction):从自然语言文本中抽取指定类型的实体、关系、事件等事实信息,并形成结构化数据输出的文本处理技术。信息抽取是从文本数据中抽取特定信息的一种技术。文本数据是由一些具体的单位构成的,例如句子、段落、篇章,文本信息正是由一些小的具体的单位构成的,例如字、词、词组、句子、段落或是这些具体的单位的组合。抽取文本数据中的名词短语、人名、地名等都是文本信息抽取,当然,文本信息抽取技术所抽取的信息可以是各种类型的信息。
64.编码(encoder):将输入序列转化成一个固定长度的向量。
65.解码(decoder):就是将之前生成的固定向量再转化成输出序列;其中,输入序列可以是文字、语音、图像、视频;输出序列可以是文字、图像。
66.傅里叶变换:表示能将满足一定条件的某个函数表示成三角函数(正弦和/或余弦函数)或者它们的积分的线性组合。在不同的研究领域,傅立叶变换具有多种不同的变体形式,如连续傅立叶变换和离散傅立叶变换。
67.梅尔倒频谱(mel-frequency cipstal coefficients,mfcc):由音乐信号当中的片段得到一组足以代表此音乐信号的倒频谱,梅尔倒频谱系数即是从这个倒频谱中推得的倒频谱(也就是频谱的频谱)。与一般的倒频谱不同,梅尔倒频谱最大的特在于梅尔倒频谱上的频带是均匀分布于梅尔刻度上的,也就是说,相较于一般所看到、线性的倒频谱表示方法,这样的频带会和人类非线性的听觉系统(audio system)更为接近。例如:在音讯压缩的技术中,常常使用梅尔倒频谱来处理。
68.矢量量化(vector quantization,vq):是一种通过类似于聚类的方式将原有的连续型数据聚类成离散数据,从而使得需要存储的数据量降低,进而达到数据压缩的目的。
69.语音转换(voice conversion,vc),通常是指在不改变话语内容信息的情况下,将说话人更换成另一个说话人。常见的语音转换方法在进行语音转换时,往往无法较好地表征出实际的话语内容以及说话人的风格特征,从而导致语音转换的效果不佳,因此,如何提高语音转换效果,成为了亟待解决的技术问题。
70.基于此,本技术实施例提供了一种语音转换方法、语音转换装置、电子设备及存储介质,旨在提高语音转换效果。
71.本技术实施例提供的语音转换方法、语音转换装置、电子设备及存储介质,具体通过如下实施例进行说明,首先描述本技术实施例中的语音转换方法。
72.本技术实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(artificial intelligence,ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
73.人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
74.本技术实施例提供的语音转换方法,涉及人工智能技术领域。本技术实施例提供的语音转换方法可应用于终端中,也可应用于服务器端中,还可以是运行于终端或服务器端中的软件。在一些实施例中,终端可以是智能手机、平板电脑、笔记本电脑、台式计算机
等;服务器端可以配置成独立的物理服务器,也可以配置成多个物理服务器构成的服务器集或者分布式系统,还可以配置成提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、cdn以及大数据和人工智能平台等基础云计算服务的云服务器;软件可以是实现语音转换方法的应用等,但并不局限于以上形式。
75.本技术可用于众多通用或专用的计算机系统环境或配置中。例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可编程的消费电子设备、网络pc、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本技术可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本技术,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
76.图1是本技术实施例提供的语音转换方法的一个可选的流程图,图1中的方法可以包括但不限于包括步骤s101至步骤s106。
77.步骤s101,获取目标说话人的原始语音数据;
78.步骤s102,对原始语音数据进行分割处理,得到第一语音数据和第二语音数据;
79.步骤s103,通过预设的语音转换模型的矢量量化编码网络对第一语音数据进行编码处理,得到第一文本向量和第一语音特征向量;其中,第一语音特征向量用于表征目标说话人的语音特点;
80.步骤s104,通过矢量量化编码网络对第二语音数据进行编码处理,得到第二文本向量和第二语音特征向量;其中,第二语音特征向量用于表征目标说话人的语音特点;
81.步骤s105,对第一文本向量、第一语音特征向量、第二文本向量和第二语音特征向量进行拼接处理,得到目标语音向量;
82.步骤s106,通过语音转换模型的解码网络对目标语音向量进行解码处理,得到目标语音数据。
83.本技术实施例所示意的步骤s101至步骤s106,通过获取目标说话人的原始语音数据;对原始语音数据进行分割处理,得到第一语音数据和第二语音数据数,能够在有效地增加语音数据总量的同时,能够使得分割得到的语音数据符合同一语境,能够较好地语音数据之间的关联性。进一步地,通过预设的语音转换模型的矢量量化编码网络分别对第一语音数据、第二语音数据进行编码处理,得到第一文本向量、第一语音特征向量、第二文本向量和第二语音特征向量;其中,第一语音特征向量和第二语音特征向量用于表征目标说话人的语音特点,这一方式能够加强对文本特征和语音特征的特征解耦,提高生成的文本信息和语音特征信息的准确性。最后,对第一文本向量、第一语音特征向量、第二文本向量和第二语音特征向量进行拼接处理,得到目标语音向量,并通过语音转换模型的解码网络对目标语音向量进行解码处理,从而得到符合需求的目标语音数据,将目标语音数据作为语音转换的内容。本技术实施例的语音转换模型能够更为合理地对原始语音数据的文本特征和语音特征进行特征解耦,从而提高语音转换效果,使得本技术实施例的语音转换方法能够满足动画短视频配音的需求,也能够较好地应用于各种个性化语音合成任务中,适用性较好。
84.在一些实施例的步骤s101中,可以通过编写网络爬虫,设置好数据源之后进行有目标性地爬取数据,得到目标说话人的原始语音数据。也可以通过其他方式获取目标说话人的原始语音数据,不限于此。其中,数据源可以是各种类型的网络平台、社交媒体也可以是某些特定的音频数据库等,原始语音数据可以是目标说话人的音乐素材、演讲汇报、聊天对话等。也可以通过其他方式获取目标语音数据,不限于此。
85.需要说明的是,在本技术的各个具体实施方式中,当涉及到需要根据用户信息、用户行为数据,用户历史数据以及用户位置信息等与用户身份或特性相关的数据进行相关处理时,都会先获得用户的许可或者同意,而且,对这些数据的收集、使用和处理等,都会遵守相关国家和地区的相关法律法规和标准。此外,当本技术实施例需要获取用户的敏感个人信息时,会通过弹窗或者跳转到确认页面等方式获得用户的单独许可或者单独同意,在明确获得用户的单独许可或者单独同意之后,再获取用于使本技术实施例能够正常运行的必要的用户相关数据。
86.请参阅图2,在一些实施例中,步骤s102可以包括但不限于包括步骤s201至步骤s203:
87.步骤s201,对原始语音数据进行声谱计算,得到初始频谱图;
88.步骤s202,对初始频谱图进行滤波处理,得到初始语音数据;
89.步骤s203,根据预设的语音长度对初始语音数据进行分割处理,得到第一语音数据和第二语音数据。
90.在一些实施例的步骤s201中,通过短时傅里叶变换对原始语音数据x进行声谱计算,得到初始频谱图。具体地,对原始语音数据进行信号分帧加窗处理,得到多帧语音片段,对每一帧的语音片段进行短时傅里叶变换,将语音片段的时域特征转换为频域特征,最后,在时间维度上将每一帧的频域特征进行堆叠处理,得到初始频谱图。
91.在一些实施例的步骤s202中,通过预设的梅尔倒谱滤波器组对初始频谱图进行滤波处理,先对初始频谱图进行对数运算,得到初始对数谱,再对初始对数谱进行傅里叶反变换处理,得到初始语音数据,其中,初始语音数据为梅尔倒谱图,该初始语音数据可以表示为矩阵形式。
92.在一些实施例的步骤s203中,预设的语音长度可以是根据矩阵的长度维度进行确定,根据初始语音数据对应的矩阵的长度维度,对初始语音数据进行均分切割,取矩阵的长度维度的前半段作为第一语音数据x1,取矩阵的长度维度的后半段作为第二语音数据x2。
93.通过上述步骤s201至步骤s203,能够将目标说话人的一段语音数据进行分割,得到两个语音数据,能够在有效地增加语音数据总量的同时,能够使得分割得到的语音数据符合同一语境,能够较好地语音数据之间的关联性,从而提高语音转换效果。
94.请参阅图3,在一些实施例的步骤s103之前,语音转换方法还包括预先训练语音转换模型,具体可以包括但不限于包括步骤s301至步骤s307:
95.步骤s301,获取样本语音数据,其中,样本语音数据包括第一样本语音数据和第二样本语音数据;
96.步骤s302,将样本语音数据输入至语音转换模型中,语音转换模型包括矢量量化编码网络以及解码网络;
97.步骤s303,通过矢量量化编码网络对第一样本语音数据进行编码处理,得到第一
样本文本向量和第一样本语音特征向量,并通过矢量量化编码网络对第二样本语音数据进行编码处理,得到第二样本文本向量和第二样本语音特征向量;
98.步骤s304,对第一样本文本向量、第一样本语音特征向量、第二样本文本向量和第二样本语音特征向量进行拼接处理,得到样本语音向量;
99.步骤s305,通过解码网络的损失函数对样本语音向量进行重构损失计算,得到重构损失值;
100.步骤s306,通过预设的相似度算法对第一样本语音特征向量和第二样本语音特征向量进行相似度计算,得到语音特征相似值;
101.步骤s307,根据语音特征相似值和重构损失值对语音转换模型进行参数调整,以优化语音转换模型。
102.在一些实施例的步骤s301中,可以通过编写网络爬虫,设置好数据源之后进行有目标性地爬取数据,得到样本语音数据。也可以通过其他方式获取样本语音数据,不限于此。其中,数据源可以是各种类型的网络平台、社交媒体也可以是某些特定的音频数据库等,样本语音数据可以是来自不同说话人的音乐素材、演讲汇报、聊天对话等。其中,样本语音数据包括第一样本语音数据和第二样本语音数据,第一样本语音数据和第二样本语音数据是对同一语境中的样本语音数据进行分割得来的。
103.在一些实施例的步骤s302中,将样本语音数据输入至语音转换模型中,语音转换模型包括矢量量化编码网络以及解码网络,其中,矢量量化编码网络包括第一编码器、第一矢量量化编码器、第二编码器、第二矢量量化编码器,第一编码器和第二编码器可以是bert编码器,第一矢量量化编码器、第一矢量量化编码器为矢量编码器,第一编码器和第二编码器主要用于将输入数据从语义空间映射至向量空间;第一矢量量化编码器和第二矢量量化编码器主要用于通过类似于聚类的方式将输入的连续型数据聚类成离散数据,从而使得需要存储的数据量降低,进而达到数据压缩的目的。此外,第一矢量量化编码器和第二矢量量化编码器还用于通过矢量量化的方式来保存最重要的信息以及分离语音中所包含的音素信息和说话人的语音特点信息等。解码网络包括解码器,主要用于对输入的语音数据进行重构处理,使得输入的语音数据的语音内容更为接近原始的语音数据的语音内容。
104.在一些实施例的步骤s303中,假设输入的样本语音数据为y,样本语音数据为y包括第一样本语音数据为y1,第二样本语音数据为y2,则通过矢量量化编码网络对第一样本语音数据y1进行编码处理,得到第一样本文本向量c1和第一样本语音特征向量s1,并通过矢量量化编码网络对第二样本语音数据y2进行编码处理,得到第二样本文本向量c2和第二样本语音特征向量s2。其中,第一样本文本向量c1和第二样本文本向量c2可以表征样本语音的文本内容,第一样本语音特征向量s1和第二样本语音特征向量s2可以表征样本语音的说话人的语音特点。
105.在一些实施例的步骤s304中,在对第一样本文本向量c1、第一样本语音特征向量s1、第二样本文本向量c2和第二样本语音特征向量s2进行拼接处理,得到样本语音向量z时,首先对第一样本语音特征向量s1和第二样本语音特征向量s2求平均值,得到样本语音特征向量s=(s1+s2)/2,再将第一样本文本向量c1和第二样本文本向量c2以及样本语音特征向量s进行向量相加,得到样本语音向量z,z=c1+c2+s。
106.在一些实施例的步骤s305中,通过解码网络的损失函数对样本语音向量进行重构
损失计算,得到重构损失值l
recon
,其中,l
recon
=‖y-y‖1。
107.在一些实施例的步骤s306中,预设的相似度算法可以为余弦相似度算法,通过余弦相似度算法计算第一样本语音特征向量s1和第二样本语音特征向量s2的相似度,得到语音特征相似值k。
108.在一些实施例的步骤s307中,根据语音特征相似值和重构损失值对语音转换模型进行参数调整时,调整语音转换模型的模型参数,使得语音特征相似度k最大化,趋近于1,并且使得重构损失值尽可能的小,趋近于预设的损失阈值,从而实现对语音转换模型的训练。
109.上述步骤s301至步骤s307通过重构损失和相似值计算两方面的约束使得模型的训练更为合理,能够有效地提高模型的训练效果,改善语音转换模型的模型性能,从而提高语音转换效果。
110.请参阅图4,在一些实施例中,矢量量化编码网络包括第一编码器、第一矢量量化编码器,步骤s103可以包括但不限于包括步骤s401至步骤s403:
111.步骤s401,通过第一编码器对第一语音数据进行编码处理,得到第一编码向量;
112.步骤s402,通过第一矢量量化编码器对第一编码向量进行编码处理,得到第一文本向量;
113.步骤s403,对第一编码向量和第一文本向量进行求差处理,得到第一语音特征向量。
114.在一些实施例的步骤s401中,通过第一编码器对第一语音数据x1进行编码处理,实现第一语音数据从语义空间映射至向量空间,得到第一编码向量m1,其中,第一编码向量m1为连续向量。
115.在一些实施例的步骤s402中,通过第一矢量量化编码器对第一编码向量m1进行编码处理,将第一编码向量m1聚类成离散数据,从而使得需要存储的数据量降低,进而达到数据压缩的目的。此外,第一矢量量化编码器还通过矢量量化的方式来对第一编码向量m1中所包含的音素信息和说话人的语音特点信息进行分离处理,得到第一文本向量c1,其中,第一文本向量c1为离散向量,第一文本向量c1的信息表示可以从预设的码本中查询得到。第一文本向量c1能够用于表征第一语音数据x1的内容,该内容为第一语音数据x1中的主要信息,是可以转录为文本的部分。需要说明的是,在英语和许多其他语言中,内容的基本单元是音素,每个音素都有一个特定的共振峰模式。
116.在一些实施例的步骤s403中,由于第一语音数据的连续向量和离散向量的期望的差值能够用于反映目标说话人的音信息,因此可以对第一编码向量m1和第一文本向量c1进行求差处理,得到第一语音特征向量s1,其中,s1=m1-c1,第一语音特征向量能够用于表征目标说话人的语音特点,该语音特点在一些实施例可以是音信息、音调信息等等,音信息是目标说话人的语音特性,与说话人的身份有关,音被视为一种声音的特征,由共振峰频率反映,是声道中的共振频率分量。在频谱图中,共振峰显示为突出频率频谱包络的分量。
117.上述步骤s401至步骤s403通过矢量量化编码网络能够较为方便地对第一语音数据的文本特征和语音特征进行特征解耦,从而提高语音转换效果。
118.请参阅图5,在一些实施例中,矢量量化编码网络包括第二编码器、第二矢量量化
编码器,步骤s104可以包括但不限于包括步骤s501至步骤s503:
119.步骤s501,通过第二编码器对第二语音数据进行编码处理,得到第二编码向量;
120.步骤s502,通过第二矢量量化编码器对第二编码向量进行编码处理,得到第二文本向量;
121.步骤s503,对第二编码向量和第二文本向量进行求差处理,得到第二语音特征向量。
122.在一些实施例的步骤s501中,通过第二编码器对第二语音数据x2进行编码处理,实现第二语音数据从语义空间映射至向量空间,得到第二编码向量m2。其中,第二编码向量m2为连续向量。
123.在一些实施例的步骤s502中,通过第二矢量量化编码器对第二编码向量m2进行编码处理,将第二编码向量m2聚类成离散数据,从而使得需要存储的数据量降低,进而达到数据压缩的目的。此外,第二矢量量化编码器还通过矢量量化的方式来对第二编码向量m2中所包含的音素信息和说话人的语音特点信息进行分离处理,得到第二文本向量c2,其中,第二文本向量c2为离散向量,第二文本向量c2的信息表示可以从预设的码本中查询得到。第二文本向量能够用于表征第二语音数据x2的内容,该内容为第二语音数据x2中的主要信息,是可以转录为文本的部分。
124.在一些实施例的步骤s503中,由于第二语音数据的连续向量和离散向量的期望的差值能够用于反映目标说话人的音信息,因此可以对第二编码向量m2和第二文本向量c2进行求差处理,得到第二语音特征向量s2,其中,s1=m2-c2,第二语音特征向量能够用于表征目标说话人的语音特点,该语音特点主要为音信息。
125.上述步骤s501至步骤s503通过矢量量化编码网络能够较为方便地对第二语音数据的文本特征和语音特征进行特征解耦,从而提高语音转换效果。
126.请参阅图6,在一些实施例,步骤s105包括但不限于包括步骤s601至步骤s603:
127.步骤s601,对第一文本向量和第二文本向量进行拼接处理,得到目标文本向量;
128.步骤s602,对第一语音特征向量和第二语音特征向量进行均值计算,得到目标语音特征向量;
129.步骤s603,对目标文本向量和目标语音特征向量进行拼接处理,得到目标语音向量。
130.在一些实施例的步骤s601中,对第一文本向量和第二文本向量进行拼接处理时,可以是对第一文本向量c1和第二文本向量c2进行向量相加,得到目标文本向量c3,其中,目标文本向量c3可以表示为c3=c1+c2。
131.在一些实施例的步骤s602中,对第一语音特征向量和第二语音特征向量进行均值计算时,可以先对第一语音特征向量s1和第二语音特征向量s2进行向量相加,再求取向量之和的平均值,得到目标语音特征向量s3,其中,目标语音特征向量s3可以表示为s3=(s1+s2)/2。
132.在一些实施例的步骤s603中,对目标文本向量和目标语音特征向量进行拼接处理时,可以是对目标文本向量c3和目标语音特征向量s3进行向量相加,得到目标语音向量n1,其中,目标语音向量n1可以表示为n1=c3+s3。
133.请参阅图7,在一些实施例中,步骤s106可以包括但不限于包括步骤s701至步骤
s702:
134.步骤s701,通过解码网络的解码器对目标语音向量进行解码处理,得到目标语音隐状态向量;
135.步骤s702,对目标语音隐状态向量进行下采样处理,得到目标语音数据。
136.在一些实施例的步骤s701中,解码网络包括解码器和下采样单元,解码器的卷积层的步长可以为1,且解码器的输入特征和输出特征尺寸相同。通过解码网络的解码器对目标语音向量进行解码处理,获取目标语音向量的语义内容信息,得到目标语音隐状态向量。
137.在一些实施例的步骤s702中,通过下采样单元对目标语音隐状态向量进行下采样处理,得到目标语音数据,其中,目标语音数据的语音内容与原始语音数据的内容一致,但语音特征可以存着一定的差异。
138.本技术实施例的语音转换方法,其通过获取目标说话人的原始语音数据;对原始语音数据进行分割处理,得到第一语音数据和第二语音数据数,能够在有效地增加语音数据总量的同时,能够使得分割得到的语音数据符合同一语境,能够较好地语音数据之间的关联性。进一步地,通过预设的语音转换模型的矢量量化编码网络分别对第一语音数据、第二语音数据进行编码处理,得到第一文本向量、第一语音特征向量、第二文本向量和第二语音特征向量;其中,第一语音特征向量和第二语音特征向量用于表征目标说话人的语音特点,这一方式能够加强对文本特征和语音特征的特征解耦,提高生成的文本信息和语音特征信息的准确性。最后,对第一文本向量、第一语音特征向量、第二文本向量和第二语音特征向量进行拼接处理,得到目标语音向量,并通过语音转换模型的解码网络对目标语音向量进行解码处理,从而得到符合需求的目标语音数据,将目标语音数据作为语音转换的内容。进一步地,由于本技术实施例的语音转换模型能够更为合理地对原始语音数据的文本特征和语音特征进行特征解耦,能够有效地提高语音转换效果,使得本技术实施例的语音转换方法能够满足动画短视频配音的需求,例如,自媒体的自制创意视频的配音、动漫爱好者自制动画的配音、影视剧作品的配音等;同时也使得本技术实施例的语音转换方法能够较好地应用于各种个性化语音合成任务中,有利于推动人工智能领域中的语音技术的不断革新发展,具有广阔的市场前景。
139.请参阅图8,本技术实施例还提供一种语音转换装置,可以实现上述语音转换方法,该装置包括:
140.数据获取模块801,用于获取目标说话人的原始语音数据;
141.分割模块802,用于对原始语音数据进行分割处理,得到第一语音数据和第二语音数据;
142.第一编码模块803,用于通过预设的语音转换模型的矢量量化编码网络对第一语音数据进行编码处理,得到第一文本向量和第一语音特征向量;其中,第一语音特征向量用于表征目标说话人的语音特点;
143.第二编码模块804,用于通过矢量量化编码网络对第二语音数据进行编码处理,得到第二文本向量和第二语音特征向量;其中,第二语音特征向量用于表征目标说话人的语音特点;
144.拼接模块805,用于对第一文本向量、第一语音特征向量、第二文本向量和第二语音特征向量进行拼接处理,得到目标语音向量;
145.解码模块806,用于通过语音转换模型的解码网络对目标语音向量进行解码处理,得到目标语音数据。
146.在一些实施例中,分割模块802包括:
147.声谱计算单元,用于对原始语音数据进行声谱计算,得到初始频谱图;
148.滤波单元,用于对初始频谱图进行滤波处理,得到初始语音数据;
149.分割单元,用于根据预设的语音长度对初始语音数据进行分割处理,得到第一语音数据和第二语音数据。
150.在一些实施例中,语音转换装置包括训练模块,训练模块具体包括:
151.获取单元,用于获取样本语音数据,其中,样本语音数据包括第一样本语音数据和第二样本语音数据;
152.输入单元,用于将样本语音数据输入至语音转换模型中,语音转换模型包括矢量量化编码网络以及解码网络;
153.处理单元,用于通过矢量量化编码网络对第一样本语音数据进行编码处理,得到第一样本文本向量和第一样本语音特征向量,并通过矢量量化编码网络对第二样本语音数据进行编码处理,得到第二样本文本向量和第二样本语音特征向量;
154.拼接单元,用于对第一样本文本向量、第一样本语音特征向量、第二样本文本向量和第二样本语音特征向量进行拼接处理,得到样本语音向量;
155.损失计算单元,用于通过解码网络的损失函数对样本语音向量进行重构损失计算,得到重构损失值;
156.相似计算单元,用于通过预设的相似度算法对第一样本语音特征向量和第二样本语音特征向量进行相似度计算,得到语音特征相似值;
157.优化单元,用于根据语音特征相似值和重构损失值对语音转换模型进行参数调整,以优化语音转换模型。
158.在一些实施例中,矢量量化编码网络包括第一编码器、第一矢量量化编码器,第一编码模块803包括:
159.第一编码单元,用于通过第一编码器对第一语音数据进行编码处理,得到第一编码向量;
160.第二编码单元,用于通过第一矢量量化编码器对第一编码向量进行编码处理,得到第一文本向量;
161.第一求差单元,用于对第一编码向量和第一文本向量进行求差处理,得到第一语音特征向量。
162.在一些实施例中,矢量量化编码网络包括第二编码器、第二矢量量化编码器,第二编码模块804包括:
163.第三编码单元,用于通过第二编码器对第二语音数据进行编码处理,得到第二编码向量;
164.第四编码单元,用于通过第二矢量量化编码器对第二编码向量进行编码处理,得到第二文本向量;
165.第二求差单元,用于对第二编码向量和第二文本向量进行求差处理,得到第二语音特征向量。
166.在一些实施例中,拼接模块805包括:
167.第一拼接单元,用于对第一文本向量和第二文本向量进行拼接处理,得到目标文本向量;
168.均值计算单元,用于对第一语音特征向量和第二语音特征向量进行均值计算,得到目标语音特征向量;
169.第二拼接单元,用于对目标文本向量和目标语音特征向量进行拼接处理,得到目标语音向量。
170.在一些实施例中,解码模块806包括:
171.解码单元,用于通过解码网络的解码器对目标语音向量进行解码处理,得到目标语音隐状态向量;
172.下采样单元,用于对目标语音隐状态向量进行下采样处理,得到目标语音数据。
173.该语音转换装置的具体实施方式与上述语音转换方法的具体实施例基本相同,在此不再赘述。
174.本技术实施例还提供了一种电子设备,电子设备包括:存储器、处理器、存储在存储器上并可在处理器上运行的程序以及用于实现处理器和存储器之间的连接通信的数据总线,程序被处理器执行时实现上述语音转换方法。该电子设备可以为包括平板电脑、车载电脑等任意智能终端。
175.请参阅图9,图9示意了另一实施例的电子设备的硬件结构,电子设备包括:
176.处理器901,可以采用通用的cpu(centralprocessingunit,中央处理器)、微处理器、应用专用集成电路(applicationspecificintegratedcircuit,asic)、或者一个或多个集成电路等方式实现,用于执行相关程序,以实现本技术实施例所提供的技术方案;
177.存储器902,可以采用只读存储器(readonlymemory,rom)、静态存储设备、动态存储设备或者随机存取存储器(randomaccessmemory,ram)等形式实现。存储器902可以存储操作系统和其他应用程序,在通过软件或者固件来实现本说明书实施例所提供的技术方案时,相关的程序代码保存在存储器902中,并由处理器901来调用执行本技术实施例的语音转换方法;
178.输入/输出接口903,用于实现信息输入及输出;
179.通信接口904,用于实现本设备与其他设备的通信交互,可以通过有线方式(例如usb、网线等)实现通信,也可以通过无线方式(例如移动网络、wifi、蓝牙等)实现通信;
180.总线905,在设备的各个组件(例如处理器901、存储器902、输入/输出接口903和通信接口904)之间传输信息;
181.其中处理器901、存储器902、输入/输出接口903和通信接口904通过总线905实现彼此之间在设备内部的通信连接。
182.本技术实施例还提供了一种存储介质,存储介质为计算机可读存储介质,用于计算机可读存储,存储介质存储有一个或者多个程序,一个或者多个程序可被一个或者多个处理器执行,以实现上述语音转换方法。
183.存储器作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序以及非暂态性计算机可执行程序。此外,存储器可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施
方式中,存储器可选包括相对于处理器远程设置的存储器,这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
184.本技术实施例提供的语音转换方法、语音转换装置、电子设备及存储介质,其通过获取目标说话人的原始语音数据;对原始语音数据进行分割处理,得到第一语音数据和第二语音数据数,能够在有效地增加语音数据总量的同时,能够使得分割得到的语音数据符合同一语境,能够较好地语音数据之间的关联性。进一步地,通过预设的语音转换模型的矢量量化编码网络分别对第一语音数据、第二语音数据进行编码处理,得到第一文本向量、第一语音特征向量、第二文本向量和第二语音特征向量;其中,第一语音特征向量和第二语音特征向量用于表征目标说话人的语音特点,这一方式能够加强对文本特征和语音特征的特征解耦,提高生成的文本信息和语音特征信息的准确性。最后,对第一文本向量、第一语音特征向量、第二文本向量和第二语音特征向量进行拼接处理,得到目标语音向量,并通过语音转换模型的解码网络对目标语音向量进行解码处理,从而得到符合需求的目标语音数据,将目标语音数据作为语音转换的内容。进一步地,由于本技术实施例的语音转换模型能够更为合理地对原始语音数据的文本特征和语音特征进行特征解耦,能够有效地提高语音转换效果,使得本技术实施例的语音转换方法能够满足动画短视频配音的需求,例如,自媒体的自制创意视频的配音、动漫爱好者自制动画的配音、影视剧作品的配音等;同时也使得本技术实施例的语音转换方法能够较好地应用于各种个性化语音合成任务中,有利于推动人工智能领域中的语音技术的不断革新发展,具有广阔的市场前景。
185.本技术实施例描述的实施例是为了更加清楚的说明本技术实施例的技术方案,并不构成对于本技术实施例提供的技术方案的限定,本领域技术人员可知,随着技术的演变和新应用场景的出现,本技术实施例提供的技术方案对于类似的技术问题,同样适用。
186.本领域技术人员可以理解的是,图1-7中示出的技术方案并不构成对本技术实施例的限定,可以包括比图示更多或更少的步骤,或者组合某些步骤,或者不同的步骤。
187.以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
188.本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统、设备中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。
189.本技术的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本技术的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
190.应当理解,在本技术中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“a和/或b”可以表示:只存在a,只存在b以及同时存在a和b三种情况,其中a,b可以是单数或者复数。字
符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”,其中a,b,c可以是单个,也可以是多个。
191.在本技术所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,上述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
192.上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
193.另外,在本技术各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
194.集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本技术的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括多指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本技术各个实施例的方法的全部或部分步骤。而前述的存储介质包括:u盘、移动硬盘、只读存储器(read-only memory,简称rom)、随机存取存储器(random access memory,简称ram)、磁碟或者光盘等各种可以存储程序的介质。
195.以上参照附图说明了本技术实施例的优选实施例,并非因此局限本技术实施例的权利范围。本领域技术人员不脱离本技术实施例的范围和实质内所作的任何修改、等同替换和改进,均应在本技术实施例的权利范围之内。

技术特征:


1.一种语音转换方法,其特征在于,所述方法包括:获取目标说话人的原始语音数据;对所述原始语音数据进行分割处理,得到第一语音数据和第二语音数据;通过预设的语音转换模型的矢量量化编码网络对所述第一语音数据进行编码处理,得到第一文本向量和第一语音特征向量;其中,所述第一语音特征向量用于表征所述目标说话人的语音特点;通过所述矢量量化编码网络对所述第二语音数据进行编码处理,得到第二文本向量和第二语音特征向量;其中,所述第二语音特征向量用于表征所述目标说话人的语音特点;对所述第一文本向量、所述第一语音特征向量、所述第二文本向量和所述第二语音特征向量进行拼接处理,得到目标语音向量;通过所述语音转换模型的解码网络对所述目标语音向量进行解码处理,得到目标语音数据。2.根据权利要求1所述的语音转换方法,其特征在于,所述矢量量化编码网络包括第一编码器、第一矢量量化编码器,所述通过预设的语音转换模型的矢量量化编码网络对所述第一语音数据进行编码处理,得到第一文本向量和第一语音特征向量的步骤,包括:通过所述第一编码器对所述第一语音数据进行编码处理,得到第一编码向量;通过所述第一矢量量化编码器对所述第一编码向量进行编码处理,得到所述第一文本向量;对所述第一编码向量和所述第一文本向量进行求差处理,得到所述第一语音特征向量。3.根据权利要求1所述的语音转换方法,其特征在于,所述矢量量化编码网络包括第二编码器、第二矢量量化编码器,所述通过所述矢量量化编码网络对所述第二语音数据进行编码处理,得到第二文本向量和第二语音特征向量的步骤,包括:通过所述第二编码器对所述第二语音数据进行编码处理,得到第二编码向量;通过所述第二矢量量化编码器对所述第二编码向量进行编码处理,得到所述第二文本向量;对所述第二编码向量和所述第二文本向量进行求差处理,得到所述第二语音特征向量。4.根据权利要求1所述的语音转换方法,其特征在于,所述对所述第一文本向量、所述第一语音特征向量、所述第二文本向量和所述第二语音特征向量进行拼接处理,得到目标语音向量的步骤,包括:对所述第一文本向量和所述第二文本向量进行拼接处理,得到目标文本向量;对所述第一语音特征向量和所述第二语音特征向量进行均值计算,得到目标语音特征向量;对所述目标文本向量和所述目标语音特征向量进行拼接处理,得到所述目标语音向量。5.根据权利要求1所述的语音转换方法,其特征在于,所述通过所述语音转换模型的解码网络对所述目标语音向量进行解码处理,得到目标语音数据的步骤,包括:通过所述解码网络的解码器对所述目标语音向量进行解码处理,得到目标语音隐状态
向量;对所述目标语音隐状态向量进行下采样处理,得到所述目标语音数据。6.根据权利要求1所述的语音转换方法,其特征在于,所述对所述原始语音数据进行分割处理,得到第一语音数据和第二语音数据的步骤,包括:对所述原始语音数据进行声谱计算,得到初始频谱图;对所述初始频谱图进行滤波处理,得到初始语音数据;根据预设的语音长度对所述初始语音数据进行分割处理,得到所述第一语音数据和所述第二语音数据。7.根据权利要求1至6任一项所述的语音转换方法,其特征在于,所述通过预设的语音转换模型的矢量量化编码网络对所述第一语音数据进行编码处理,得到第一文本向量和第一语音特征向量的步骤之前,所述方法还包括预先训练所述语音转换模型,具体包括:获取样本语音数据,其中,所述样本语音数据包括第一样本语音数据和第二样本语音数据;将所述样本语音数据输入至所述语音转换模型中,所述语音转换模型包括矢量量化编码网络以及解码网络;通过所述矢量量化编码网络对所述第一样本语音数据进行编码处理,得到第一样本文本向量和第一样本语音特征向量,并通过所述矢量量化编码网络对所述第二样本语音数据进行编码处理,得到第二样本文本向量和第二样本语音特征向量;对所述第一样本文本向量、第一样本语音特征向量、所述第二样本文本向量和第二样本语音特征向量进行拼接处理,得到样本语音向量;通过所述解码网络的损失函数对所述样本语音向量进行重构损失计算,得到重构损失值;通过预设的相似度算法对所述第一样本语音特征向量和所述第二样本语音特征向量进行相似度计算,得到语音特征相似值;根据所述语音特征相似值和所述重构损失值对所述语音转换模型进行参数调整,以优化所述语音转换模型。8.一种语音转换装置,其特征在于,所述装置包括:数据获取模块,用于获取目标说话人的原始语音数据;分割模块,用于对所述原始语音数据进行分割处理,得到第一语音数据和第二语音数据;第一编码模块,用于通过预设的语音转换模型的矢量量化编码网络对所述第一语音数据进行编码处理,得到第一文本向量和第一语音特征向量;其中,所述第一语音特征向量用于表征所述目标说话人的语音特点;第二编码模块,用于通过所述矢量量化编码网络对所述第二语音数据进行编码处理,得到第二文本向量和第二语音特征向量;其中,所述第二语音特征向量用于表征所述目标说话人的语音特点;拼接模块,用于对所述第一文本向量、所述第一语音特征向量、所述第二文本向量和所述第二语音特征向量进行拼接处理,得到目标语音向量;解码模块,用于通过所述语音转换模型的解码网络对所述目标语音向量进行解码处
理,得到目标语音数据。9.一种电子设备,其特征在于,所述电子设备包括存储器、处理器、存储在所述存储器上并可在所述处理器上运行的程序以及用于实现所述处理器和所述存储器之间的连接通信的数据总线,所述程序被所述处理器执行时实现如权利要求1至7任一项所述的语音转换方法的步骤。10.一种存储介质,所述存储介质为计算机可读存储介质,用于计算机可读存储,其特征在于,所述存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现权利要求1至7中任一项所述的语音转换方法的步骤。

技术总结


本申请提供了一种语音转换方法、语音转换装置、电子设备及存储介质,属于人工智能技术领域。该方法包括:获取目标说话人的原始语音数据;对原始语音数据进行分割处理,得到第一语音数据和第二语音数据;通过语音转换模型的矢量量化编码网络对第一语音数据、第二语音数据进行编码处理,得到第一文本向量、第一语音特征向量、第二文本向量和第二语音特征向量;第一语音特征向量和第二语音特征向量用于表征目标说话人的语音特点;对第一文本向量、第一语音特征向量、第二文本向量和第二语音特征向量进行拼接处理,得到目标语音向量;通过语音转换模型的解码网络对目标语音向量进行解码处理,得到目标语音数据。本申请能够提高语音转换效果。音转换效果。音转换效果。


技术研发人员:

张旭龙 王健宗 程宁

受保护的技术使用者:

平安科技(深圳)有限公司

技术研发日:

2022.07.13

技术公布日:

2022/10/18

本文发布于:2024-09-21 13:45:06,感谢您对本站的认可!

本文链接:https://www.17tex.com/tex/3/24742.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:语音   向量   所述   数据
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议