一种城运事件管理方法与流程

1.本发明涉及智慧城市管理技术领域，特别指一种城运事件管理方法。

背景技术：

2.城运事件即政务服务平台接收的诉求事件，分为网格事件和非网格事件，非网格事件进一步分为咨询件和非咨询件；网格化管理指将城市按照一定标准划分成单元网格，为每个单元网格分配网格员并进行管理，网格事件指在这些单元网格内的事件；咨询件需要流转到对应的部门进行处理，而非咨询件一般指问题，直接流转到对应的属地(街道)进行处理。
3.在城运事件管理的过程中，需要基于城运事件的类型进行对应的派发，这个过程需要人工进行判别分类，且存在大量重复的城运事件，例如多个人对同一事件进行投诉，这个过程需要耗费大量的人力和时间。为了提升城运事件管理的效率，产生了对城运事件进行自动派发的需求。
4.为了实现城运事件的自动派发，首先需要对各城运事件进行分类，现有的分类方法主要存在以下两种：
5.其一：传统文本分类算法，该算法将文本分类问题拆分成文本预处理、特征工程和分类器三个部分，常用的特征工程包括统计特征(如词频统计、词性统计)和文本向量表示等，处理好文本特征后利用机器学习模型进行训练得到一个分类模型(分类器)，常用的模型有逻辑回归和树模型。但是，该算法在文本的语义表示上存在较大的局限性，导致分类效果不佳。
6.其二：深度学习算法，主要包括textcnn、fasttext、bert分类模型，其中textcnn将文本分词后经过embedding层得到向量表示，再利用不同大小的卷积核来提取文本特征，最后经过一个分类层得到分类结果；fasttext加入了n-grams的思想，其在分词中加入了词语的组合，考虑到了词序的信息；bert是一个在大量语料上预训练的语言模型，在分类任务中只需要将bert作为特征提取器，下接分类层即可构建一个分类模型，在训练过程中对该模型进行微调就能达到很好的效果。但是，textcnn、fasttext的模型参数少，虽然分类速度快，但是语义表示方面比bert差；bert的模型参数多，分类速度慢，是在通用语料上进行训练的，在垂直领域中文本的语义表示较弱。
7.因此，如何提供一种城运事件管理方法，实现提升城运事件分类的精度，进而提升城运事件管理的效率，成为一个亟待解决的技术问题。

技术实现要素：

8.本发明要解决的技术问题，在于提供一种城运事件管理方法，实现提升城运事件分类的精度，进而提升城运事件管理的效率。
9.本发明是这样实现的：一种城运事件管理方法，包括如下步骤：
10.步骤s10、获取大量的城运事件，对各所述城运事件进行预处理和标注，得到城运
事件集；
11.步骤s20、创建一网格事件分类模型、一咨询件分类模型以及一部门标签分类模型；
12.步骤s30、利用所述城运事件集分别对网格事件分类模型、咨询件分类模型以及部门标签分类模型进行训练；
13.步骤s40、对训练后的所述网格事件分类模型、咨询件分类模型以及部门标签分类模型进行优化；
14.步骤s50、获取待管理的新城运事件，对各所述新城运事件进行重复校验；
15.步骤s60、利用所述网格事件分类模型对各新城运事件进行网格事件的分类；
16.步骤s70、利用所述咨询件分类模型对各新城运事件进行咨询件的分类；
17.步骤s80、利用所述部门标签分类模型对各新城运事件进行部门标签的分类，对分类后的各所述城运事件进行自动派发和管理。
18.进一步地，所述步骤s10具体包括：
19.步骤s11、获取大量的城运事件，所述城运事件的事件类型为网格事件或者非网格事件，所述非网格事件为咨询件或者非咨询件；所述城运事件至少包括事件标题、事件内容、事件地点、诉求类型、投诉人、事件所述区划、网格、地址以及经纬度；
20.步骤s12、对各所述城运事件的事件标题、事件内容以及事件地点按预设的顺序进行拼接，并在拼接过程剔除重复的文本，进而得到拼接文本；
21.步骤s13、对所述拼接文本进行分词操作得到分词结果，从所述分词结果中删除预设的停用分词，并对所述分词结果删除重复项，再拼接组成事件文本；
22.步骤s14、对所述事件文本进行事件类型以及部门标签的标注，基于标注后的各所述事件文本组成城运事件集。
23.进一步地，所述步骤s20中，所述网格事件分类模型由bert预训练模型、dropout层、平均池化层以及全连接层依次连接组成，激活函数采用softmax，损失函数采用focalloss；
24.所述咨询件分类模型由bert预训练模型、dropout层、平均池化层以及全连接层依次连接组成，激活函数采用sigmoid，损失函数采用focalloss；
25.所述部门标签分类模型由bert预训练模型、dropout层、自注意力层以及全连接层依次连接组成，激活函数采用sigmoid，损失函数采用focalloss。
26.进一步地，所述步骤s30具体包括：
27.步骤s31、设定一f1阈值、一microf1阈值以及一macrof1阈值；
28.步骤s32、将所述城运事件集平均分成k份，选取其中的(k-1)份作为训练集，另外一份作为验证集；
29.步骤s33、利用所述训练集先对bert预训练模型进行预训练，再利用simbert模型对所述训练集的相似文本进行扩充，并对标注的标签进行平滑修正，最后分别对所述网格事件分类模型、咨询件分类模型以及部门标签分类模型进行对抗训练和混合精度训练；
30.步骤s34、利用所述验证集分别对网格事件分类模型、咨询件分类模型以及部门标签分类模型进行验证，判断所述网格事件分类模型的macrof1是否大于所述macrof1阈值，判断所述咨询件分类模型的f1值至是否大于所述f1阈值，判断所述部门标签分类模型的
microf1是否大于所述microf1阈值，若是，则完成训练，并进入步骤s40；若否，则扩充所述训练集并继续训练；
31.所述f1值为精确率和召回率的调和值；所述microf1表示直接使用总体样本的准确率和召回率来计算f1值；所述macrof1表示计算每个类别的准确率和召回率得出每个类别的f1值并取平均值；所述精确率表示正确预测的正样本数量与预测为正例的样本总数的比值；所述召回率表示正确预测的正样本数量与实际正样本总数的比值。
32.进一步地，所述步骤s40具体包括：
33.步骤s41、判断所述训练集中各类别的样本量是否少于总样本量的预设比例，若是，则将对应类别样本的类别阈值降低为原来的0.8倍，并进入步骤s42；若否，则进入步骤s42；
34.步骤s42、预设若干个对应不同权重的关键词，基于所述关键词匹配所述训练集中的各样本，进而调整各样本的权重进行训练。
35.进一步地，所述步骤s50具体为：
36.获取待管理的新城运事件，对各所述新城运事件进行预处理后，计算各所述新城运事件的文本向量，基于所述文本向量遍历计算与各历史城运事件的内积相似度，基于所述内积相似度对各新城运事件进行重复校验，删除重复项并记录日志。
37.进一步地，所述步骤s60具体为：
38.利用所述网格事件分类模型将各新城运事件划分为网格事件和非网格事件，若为网格事件，则将对应的所述新城运事件自动派发给网格平台进行处理；若为非网格事件，则进入步骤s70。
39.进一步地，所述步骤s70具体包括：
40.步骤s71、利用所述咨询件分类模型将各新城运事件划分为咨询件和非咨询件，若为咨询件，则进入步骤s72；若为非咨询件，则自动派发给对应的街道进行处理；
41.步骤s72、判断接收所述新城运事件的中心是否能回复，若是，则直接处理回复，若否，则进入步骤s80。
42.进一步地，所述步骤s80具体为：
43.利用所述部门标签分类模型对各新城运事件进行部门标签的分类，进而将各所述新城运事件基于部门标签自动派发给对应的部门进行处理。
44.本发明的优点在于：
45.通过预处理和标注得到的城运事件集对创建的网格事件分类模型、咨询件分类模型以及部门标签分类模型进行训练，并对训练后的网格事件分类模型、咨询件分类模型以及部门标签分类模型进行优化；由于网格事件分类模型、咨询件分类模型以及部门标签分类模型均集成了bert预训练模型进行预训练，以提高模型训练收敛的速度；损失函数采用focalloss，即在基本的交叉熵损失前加上权重，将模型容易区分的样本损失减小，将难以区分的样本损失增大，使模型更专注于难分类的样本；并结合训练集相似文本扩充、标签平滑、对抗训练和混合精度训练，极大的提升了网格事件分类模型、咨询件分类模型以及部门标签分类模型对语义的表示能力，进而极大的提升了模型的泛化能力，并通过类别阈值调整以及关键词匹配调整权重，进一步提升模型的泛化能力，最终极大的提升了城运事件分类的精度，减少人工的介入，进而极大的提升了城运事件管理的效率。
附图说明
46.下面参照附图结合实施例对本发明作进一步的说明。
47.图1是本发明一种城运事件管理方法的流程图。
48.图2是本发明一种城运事件管理方法的流程示意图。
具体实施方式
49.本技术实施例中的技术方案，总体思路如下：通过bert预训练模型进行预训练以提高模型训练收敛的速度；采用focalloss损失函数，将模型容易区分的样本损失减小，将难以区分的样本损失增大，使模型更专注于难分类的样本；并结合训练集相似文本扩充、标签平滑、对抗训练和混合精度训练，以提升模型对语义的表示能力，进而提升模型的泛化能力，并通过类别阈值调整以及关键词匹配调整权重，进一步提升模型的泛化能力，进而提升城运事件分类的精度。
50.请参照图1至图2所示，本发明一种城运事件管理方法的较佳实施例，包括如下步骤：
51.步骤s10、获取大量的城运事件，对各所述城运事件进行预处理和标注，得到城运事件集；
52.步骤s20、基于神经网络创建一网格事件分类模型、一咨询件分类模型以及一部门标签分类模型；
53.步骤s30、利用所述城运事件集分别对网格事件分类模型、咨询件分类模型以及部门标签分类模型进行训练；
54.步骤s40、对训练后的所述网格事件分类模型、咨询件分类模型以及部门标签分类模型进行优化；
55.步骤s50、获取待管理的新城运事件，对各所述新城运事件进行重复校验，即判断是否为重复件；
56.步骤s60、利用所述网格事件分类模型对各新城运事件进行网格事件的分类；
57.步骤s70、利用所述咨询件分类模型对各新城运事件进行咨询件的分类；
58.步骤s80、利用所述部门标签分类模型对各新城运事件进行部门标签的分类，对分类后的各所述城运事件进行自动派发和管理。
59.所述步骤s10具体包括：
60.步骤s11、获取大量的城运事件，所述城运事件的事件类型为网格事件或者非网格事件，所述非网格事件为咨询件或者非咨询件；所述城运事件至少包括事件标题、事件内容、事件地点、诉求类型、投诉人、事件所述区划、网格、地址以及经纬度；
61.步骤s12、对各所述城运事件的事件标题、事件内容以及事件地点按预设的顺序进行拼接，并在拼接过程剔除重复的文本，进而得到拼接文本；
62.拼接具体步骤如下：
63.a、按顺序输入多个待拼接文本s1,s2,...,sn；
64.b、初始化输出文本s＝空串；
65.c、按顺序遍历每个si；
66.d、若s in si，则赋值s＝si，否则若si in s，则s不变，其他情况拼接s＝s+si；
67.e、遍历结束后输出s；
68.步骤s13、对所述拼接文本进行分词操作得到分词结果，从所述分词结果中删除预设的停用分词，并对所述分词结果删除重复项，再拼接组成事件文本；
69.步骤s14、对所述事件文本进行事件类型以及部门标签的标注，基于标注后的各所述事件文本组成城运事件集。所述城运事件集在标注过程中还设定各类别样本的类别阈值。
70.所述步骤s20中，所述网格事件分类模型由bert预训练模型、dropout层、平均池化层以及全连接层依次连接组成，激活函数采用softmax，损失函数采用focalloss；
71.所述咨询件分类模型由bert预训练模型、dropout层、平均池化层以及全连接层依次连接组成，激活函数采用sigmoid，损失函数采用focalloss；
72.所述部门标签分类模型由bert预训练模型、dropout层、自注意力层以及全连接层依次连接组成，激活函数采用sigmoid，损失函数采用focalloss。
73.focalloss在基本的交叉熵损失前加上权重，将模型容易区分的样本损失减小，将难以区分的样本损失增大，使模型更专注于难分类的样本。
74.所述步骤s30具体包括：
75.步骤s31、设定一f1阈值、一microf1阈值以及一macrof1阈值；
76.步骤s32、将所述城运事件集平均分成k份，选取其中的(k-1)份作为训练集，另外一份作为验证集；
77.步骤s33、利用所述训练集先对bert预训练模型进行预训练，再利用simbert模型对所述训练集的相似文本进行扩充，并对标注的标签进行平滑修正，防止模型过拟合，最后分别对所述网格事件分类模型、咨询件分类模型以及部门标签分类模型进行对抗训练和混合精度训练；
78.平滑修正举例为：标签为1修正为1-ε，标签为0修正为ε/类别数；对抗训练是在embedding层，先加入沿着梯度上升方向的扰动后，再沿着梯度下降的方向更新模型参数，使模型在有噪声的情况下，输出分布依然保持与原分布相同，以此来提高模型泛化能力；混合精度训练使用fp16，即半精度浮点数存储权重和梯度；
79.步骤s34、利用所述验证集分别对网格事件分类模型、咨询件分类模型以及部门标签分类模型进行验证，判断所述网格事件分类模型的macrof1是否大于所述macrof1阈值，判断所述咨询件分类模型的f1值至是否大于所述f1阈值，判断所述部门标签分类模型的microf1是否大于所述microf1阈值，若是，则完成训练，并进入步骤s40；若否，则扩充所述训练集并继续训练；
80.所述f1值为精确率(precision)和召回率(recall)的调和值(2/f1＝1/precision+1/recall)；所述microf1表示直接使用总体样本的准确率和召回率来计算f1值，受样本量较多的类别影响较大，更加注重整体的分类性能；所述macrof1表示计算每个类别的准确率和召回率得出每个类别的f1值并取平均值，受f1值较低的类别影响较大，更加注重每个类别上的分类性能；所述精确率表示正确预测的正样本数量与预测为正例的样本总数的比值；所述召回率表示正确预测的正样本数量与实际正样本总数的比值；
81.所述步骤s40具体包括：
82.步骤s41、判断所述训练集中各类别的样本量是否少于总样本量的预设比例，若
是，则将对应类别样本的类别阈值降低为原来的0.8倍，并进入步骤s42；若否，则进入步骤s42；
83.对于一些样本量较少的类别，模型的预测效果会相对较差，将其对应的类别阈值降低以提高这些类别的召回率，例如将样本量少于最大样本量/10的类别阈值修改为0.4，即预测为该类的概率大于0.4就判断文本属于该类，其余类别的类别阈值为0.5；
84.步骤s42、预设若干个对应不同权重的关键词，基于所述关键词匹配所述训练集中的各样本，进而调整各样本的权重进行训练；
85.为了进一步提高模型的召回率，对样本做关键词匹配，命中的类别提升分值；对于每个类别，整理与其相关的关键词后，分为主要关键词和次要关键词，主要关键词表示为与类别强相关，次要关键词表示与类别的相关性相对较弱；例如对于“区教育局”这一类别，主要关键词有“教育局”、“教育资源”、“教育部”、“义务教育”等，次要关键词有“学校”、“幼儿园”、“教师”、“班级”等，通过对主要关键词提升0.1分值，次要关键词提升0.02分值以提升召回率，即对模型的预测结果进行后处理。
86.所述步骤s50具体为：
87.获取待管理的新城运事件，对各所述新城运事件进行预处理后，计算各所述新城运事件的文本向量，基于所述文本向量遍历计算与各历史城运事件的内积相似度，基于所述内积相似度对各新城运事件进行重复校验，删除重复项并记录日志。
88.所述步骤s60具体为：
89.利用所述网格事件分类模型将各新城运事件划分为网格事件和非网格事件，若为网格事件，则将对应的所述新城运事件自动派发给网格平台进行处理；若为非网格事件，则进入步骤s70。
90.所述步骤s70具体包括：
91.步骤s71、利用所述咨询件分类模型将各新城运事件划分为咨询件和非咨询件，若为咨询件，则进入步骤s72；若为非咨询件，则自动派发给对应的街道进行处理；
92.步骤s72、判断接收所述新城运事件的中心是否能回复，若是，则直接处理回复，若否，则进入步骤s80。
93.所述步骤s80具体为：
94.利用所述部门标签分类模型对各新城运事件进行部门标签的分类，进而将各所述新城运事件基于部门标签自动派发给对应的部门进行处理。
95.综上所述，本发明的优点在于：
96.通过预处理和标注得到的城运事件集对创建的网格事件分类模型、咨询件分类模型以及部门标签分类模型进行训练，并对训练后的网格事件分类模型、咨询件分类模型以及部门标签分类模型进行优化；由于网格事件分类模型、咨询件分类模型以及部门标签分类模型均集成了bert预训练模型进行预训练，以提高模型训练收敛的速度；损失函数采用focalloss，即在基本的交叉熵损失前加上权重，将模型容易区分的样本损失减小，将难以区分的样本损失增大，使模型更专注于难分类的样本；并结合训练集相似文本扩充、标签平滑、对抗训练和混合精度训练，极大的提升了网格事件分类模型、咨询件分类模型以及部门标签分类模型对语义的表示能力，进而极大的提升了模型的泛化能力，并通过类别阈值调整以及关键词匹配调整权重，进一步提升模型的泛化能力，最终极大的提升了城运事件分
类的精度，减少人工的介入，进而极大的提升了城运事件管理的效率。
97.虽然以上描述了本发明的具体实施方式，但是熟悉本技术领域的技术人员应当理解，我们所描述的具体的实施例只是说明性的，而不是用于对本发明的范围的限定，熟悉本领域的技术人员在依照本发明的精神所作的等效的修饰以及变化，都应当涵盖在本发明的权利要求所保护的范围内。

技术特征：

1.一种城运事件管理方法，其特征在于：包括如下步骤：步骤s10、获取大量的城运事件，对各所述城运事件进行预处理和标注，得到城运事件集；步骤s20、创建一网格事件分类模型、一咨询件分类模型以及一部门标签分类模型；步骤s30、利用所述城运事件集分别对网格事件分类模型、咨询件分类模型以及部门标签分类模型进行训练；步骤s40、对训练后的所述网格事件分类模型、咨询件分类模型以及部门标签分类模型进行优化；步骤s50、获取待管理的新城运事件，对各所述新城运事件进行重复校验；步骤s60、利用所述网格事件分类模型对各新城运事件进行网格事件的分类；步骤s70、利用所述咨询件分类模型对各新城运事件进行咨询件的分类；步骤s80、利用所述部门标签分类模型对各新城运事件进行部门标签的分类，对分类后的各所述城运事件进行自动派发和管理。2.如权利要求1所述的一种城运事件管理方法，其特征在于：所述步骤s10具体包括：步骤s11、获取大量的城运事件，所述城运事件的事件类型为网格事件或者非网格事件，所述非网格事件为咨询件或者非咨询件；所述城运事件至少包括事件标题、事件内容、事件地点、诉求类型、投诉人、事件所述区划、网格、地址以及经纬度；步骤s12、对各所述城运事件的事件标题、事件内容以及事件地点按预设的顺序进行拼接，并在拼接过程剔除重复的文本，进而得到拼接文本；步骤s13、对所述拼接文本进行分词操作得到分词结果，从所述分词结果中删除预设的停用分词，并对所述分词结果删除重复项，再拼接组成事件文本；步骤s14、对所述事件文本进行事件类型以及部门标签的标注，基于标注后的各所述事件文本组成城运事件集。3.如权利要求1所述的一种城运事件管理方法，其特征在于：所述步骤s20中，所述网格事件分类模型由bert预训练模型、dropout层、平均池化层以及全连接层依次连接组成，激活函数采用softmax，损失函数采用focalloss；所述咨询件分类模型由bert预训练模型、dropout层、平均池化层以及全连接层依次连接组成，激活函数采用sigmoid，损失函数采用focalloss；所述部门标签分类模型由bert预训练模型、dropout层、自注意力层以及全连接层依次连接组成，激活函数采用sigmoid，损失函数采用focalloss。4.如权利要求3所述的一种城运事件管理方法，其特征在于：所述步骤s30具体包括：步骤s31、设定一f1阈值、一microf1阈值以及一macrof1阈值；步骤s32、将所述城运事件集平均分成k份，选取其中的(k-1)份作为训练集，另外一份作为验证集；步骤s33、利用所述训练集先对bert预训练模型进行预训练，再利用simbert模型对所述训练集的相似文本进行扩充，并对标注的标签进行平滑修正，最后分别对所述网格事件分类模型、咨询件分类模型以及部门标签分类模型进行对抗训练和混合精度训练；步骤s34、利用所述验证集分别对网格事件分类模型、咨询件分类模型以及部门标签分类模型进行验证，判断所述网格事件分类模型的macrof1是否大于所述macrof1阈值，判断
所述咨询件分类模型的f1值至是否大于所述f1阈值，判断所述部门标签分类模型的microf1是否大于所述microf1阈值，若是，则完成训练，并进入步骤s40；若否，则扩充所述训练集并继续训练；所述f1值为精确率和召回率的调和值；所述microf1表示直接使用总体样本的准确率和召回率来计算f1值；所述macrof1表示计算每个类别的准确率和召回率得出每个类别的f1值并取平均值；所述精确率表示正确预测的正样本数量与预测为正例的样本总数的比值；所述召回率表示正确预测的正样本数量与实际正样本总数的比值。5.如权利要求1所述的一种城运事件管理方法，其特征在于：所述步骤s40具体包括：步骤s41、判断所述训练集中各类别的样本量是否少于总样本量的预设比例，若是，则将对应类别样本的类别阈值降低为原来的0.8倍，并进入步骤s42；若否，则进入步骤s42；步骤s42、预设若干个对应不同权重的关键词，基于所述关键词匹配所述训练集中的各样本，进而调整各样本的权重进行训练。6.如权利要求1所述的一种城运事件管理方法，其特征在于：所述步骤s50具体为：获取待管理的新城运事件，对各所述新城运事件进行预处理后，计算各所述新城运事件的文本向量，基于所述文本向量遍历计算与各历史城运事件的内积相似度，基于所述内积相似度对各新城运事件进行重复校验，删除重复项并记录日志。7.如权利要求1所述的一种城运事件管理方法，其特征在于：所述步骤s60具体为：利用所述网格事件分类模型将各新城运事件划分为网格事件和非网格事件，若为网格事件，则将对应的所述新城运事件自动派发给网格平台进行处理；若为非网格事件，则进入步骤s70。8.如权利要求1所述的一种城运事件管理方法，其特征在于：所述步骤s70具体包括：步骤s71、利用所述咨询件分类模型将各新城运事件划分为咨询件和非咨询件，若为咨询件，则进入步骤s72；若为非咨询件，则自动派发给对应的街道进行处理；步骤s72、判断接收所述新城运事件的中心是否能回复，若是，则直接处理回复，若否，则进入步骤s80。9.如权利要求1所述的一种城运事件管理方法，其特征在于：所述步骤s80具体为：利用所述部门标签分类模型对各新城运事件进行部门标签的分类，进而将各所述新城运事件基于部门标签自动派发给对应的部门进行处理。

技术总结

本发明提供了智慧城市管理技术领域的一种城运事件管理方法，包括：步骤S10、获取大量的城运事件，对城运事件进行预处理和标注得到城运事件集；步骤S20、创建网格事件分类模型、咨询件分类模型、部门标签分类模型；步骤S30、利用城运事件集对网格事件分类模型、咨询件分类模型以及部门标签分类模型进行训练；步骤S40、对网格事件分类模型、咨询件分类模型以及部门标签分类模型进行优化；步骤S50、获取新城运事件并进行重复校验；步骤S60、利用网格事件分类模型、咨询件分类模型、部门标签分类模型对新城运事件进行分类，进而进行自动派发和管理。本发明的优点在于：极大的提升了城运事件分类的精度，进而极大的提升了城运事件管理的效率。效率。效率。