(19)中华人民共和国国家知识产权局
(12)发明专利申请
(10)申请公布号 (43)申请公布日 (21)申请号 201910141203.5
(22)申请日 2019.02.26
(71)申请人 上海凯岸信息科技有限公司
地址 201808 上海市嘉定区嘉罗公路1661
弄12号101室-16
(72)发明人 孙晓明
(74)专利代理机构 上海海贝律师事务所 31301
代理人 范海燕
(51)Int.Cl.
G06F 16/35(2019.01)
G06K 9/62(2006.01)
G06N 3/04(2006.01)
G06N 3/08(2006.01)
(54)发明名称
(57)摘要
本发明公开了一种基于embedding方法的意
图识别算法，基于特定领域内的数据，将用户的
户的输入文本与用户意图可以在同一空间内进
分类问题转换为意图排序问题；对论文中的损失
定性和鲁棒性；本发明提供的基于embedding方
法的意图识别算法，在通用数据集上预训练的词
向量需要占用上GB的内存空间，而本申请方案提
供的模型由于只是嵌入了所关心的词和意图，因
此仅需100MB左右的内存空间，占用的内存空间
更少。权利要求书1页 说明书2页 附图1页CN 109933663 A 2019.06.25
C N 109933663
A
1.一种基于embedding方法的意图识别算法，其特征在于：基于特定领域内的数据，将用户的输入文本与意图映射到相同的向量空间，使得用户的输入文本与用户意图可以在同一空间内进行相似度对比，将分类问题转化了排序问题；通过将语句和意图映射到相同的向量空间将意图分类问题转换为意图排序问题；对论文中的损失函数进行修改，使得新的损失函数具有更好的稳定性和鲁棒性。
2.如权利要求1所述的基于embedding方法的意图识别算法，其特征在于：首先，将语料库中的所有语句都通过神经网络映射到一个新的向量空间中，网络输入层的维度为语料中所有语句分词后词语的数量，隐藏层和输出层的维度为可调节的超参数；然后，将所有意图也都映射到与上步相同的向量空间，输入层的维度与意图的数量相同，输出层的维度与之前网络的输出层相同。
3.如权利要求2所述的基于embedding方法的意图识别算法，其特征在于：为了训练模型，需要在新的向量空间中对语句与意图进行比较，
具体的是最小化如下损失函数：
其中E +是正例集合，E -是负例集合，是从负例集合中采用负采样方法选出的负样本，该损失函数对负例样本采用了取最大运算操作，只考虑输入语句和所有负样本相似度的最大值，而原损失函数是考虑输入语句和所有负样本相似度的平均值。
权 利 要 求 书1/1页2CN 109933663 A
豫公网安备41160202000603
站长QQ:729038198
关于我们
投诉建议