信息提示方法、装置及计算机可读存储介质与流程



1.本技术涉及计算机技术领域,具体涉及一种信息提示方法、装置及计算机可读存储介质。


背景技术:



2.随着汽车行业的发展,在车辆制造技术上越来越精湛,车企越来越重视用户的乘驶体验,如车辆行驶平稳性。然而,除了汽车行驶平稳外,车辆内部隔音效果也是车企和乘驶人员比较关注的,其容易影响用户的驾驶体验。对此,车企在的汽车隔音技术取得了进展,增强车辆内部密封空间的隔音性,使得乘驶人员免受外部噪音的困扰,提高用户的乘驶体验。
3.然而,随着车辆内部隔音性的改善,乘驶人员虽可免受外部噪声的困扰,但是,可能会导致乘驶人员无法获取外部环境的重要声音信息,容易出现安全隐患问题,降低了乘驶过程的安全性。


技术实现要素:



4.本技术实施例提供一种信息提示方法、装置及计算机可读存储介质。可使得乘驶人员获取外部环境的重要声音信息,避免安全隐患问题,提高了乘驶过程的安全性。
5.本技术实施例提供一种信息提示方法,包括:
6.采集声学事件对应的声音信号;
7.根据所述声音信号确定所述声学事件对应的权重系数,并确定每一声学事件对应的声音信号的音量值;
8.根据所述权重系数和音量值确定所述声学事件的权重优先次序,并根据所述权重优先次序选取优先处理声学事件;
9.获取所述优先处理声学事件对应的目标图像,并对所述目标图像进行图像信息分析,得到所述优先处理声学事件对应的目标事件信息;
10.根据所述目标事件信息进行信息提示。
11.相应的,本技术实施例提供一种信息提示装置,包括:
12.采集单元,用于采集声学事件对应的声音信号;
13.确定单元,用于根据所述声音信号确定所述声学事件对应的权重系数,并确定每一声学事件对应的声音信号的音量值;
14.选取单元,用于根据所述权重系数和音量值确定所述声学事件的权重优先次序,并根据所述权重优先次序选取优先处理声学事件;
15.分析单元,用于获取所述优先处理声学事件对应的目标图像,并对所述目标图像进行图像信息分析,得到所述优先处理声学事件对应的目标事件信息;
16.提示单元,用于根据所述目标事件信息进行信息提示。
17.在一些实施例中,所述确定单元,还用于:
18.对所述声音信号进行分析处理,得到声音信号频谱信息;
19.根据所述声音信号频谱信息确定所述声学事件的事件类别;
20.根据预设声学事件权重列表,确定所述事件类别对应的权重系数。
21.在一些实施例中,所述选取单元,还用于:
22.根据所述权重系数和音量值进行加权处理,得到所述权重优先值;
23.获取预设时段内第二声学事件的第二权重优先值,所述第二声学事件为除所述声学事件外的待处理声学事件;
24.根据所述权重优先值及所述第二权重优先值,确定所述声学事件对应的权重优先次序。
25.在一些实施例中,所述分析单元,还用于:
26.确定所述优先处理声学事件的事件类别;
27.通过目标识别模型基于所述事件类别及目标图像进行图像信息识别,得到图像信息要素,其中,所述目标识别模型由样本图像、样本事件类别及样本图像信息要素迭代训练得到;
28.根据所述图像信息要素,确定所述优先处理声学事件对应的目标事件信息。
29.在一些实施例中,所述分析单元,还用于:
30.通过目标识别模型基于所述事件类别对所述目标图像进行特征提取,得到目标图像特征;
31.对所述目标图像特征进行关键点特征识别,得到多个关键点特征;
32.基于所述多个关键点特征,确定图像信息要素。
33.在一些实施例中,所述分析单元,还用于:
34.确定所述图像信息要素在所述目标图像中的位置坐标;
35.对所述位置坐标进行向量转换处理,得到图像信息要素向量;
36.根据所述图像信息要素向量,确定所述优先处理声学事件对应的目标事件信息。
37.在一些实施例中,所述图像信息要素向量包括目标对象的体态信息要素向量,所述分析单元,还用于:
38.针对所述目标图像中的目标对象构建直角坐标系;
39.确定所述体态信息要素向量对应的向量方向,并根据所述向量方向确定所述体态信息要素在所述直角坐标系中象限特性关系;
40.从预设象限信息列表中查所述象限特性关系对应的对象姿势信息,并将所述对象姿势信息确定为所述优先处理声学事件对应的目标事件信息。
41.在一些实施例中,所述图像信息要素向量包括目标车辆的车辆信息要素向量,所述分析单元,还用于:
42.获取本地终端当前的本地位置信息,并基于所述本地位置信息构建直角坐标系;
43.根据所述车辆信息要素向量,确定所述目标车辆在所述直角坐标系中的目标象限特性关系;
44.根据所述车辆信息要素向量及所述本地位置信息,评估所述目标车辆与所述本地终端之间车辆距离信息,并将所述车辆距离信息确定为所述优先处理声学事件对应的目标事件信息。
45.此外,本技术实施例还提供一种计算机设备,包括处理器和存储器,所述存储器存储有计算机程序,所述处理器用于运行所述存储器内的计算机程序实现本技术实施例提供的信息提示方法中的步骤。
46.此外,本技术实施例还提供一种计算机可读存储介质,所述计算机可读存储介质存储有多条指令,所述指令适于处理器进行加载,以执行本技术实施例所提供的任一种信息提示方法中的步骤。
47.此外,本技术实施例还提供一种计算机程序,所述计算机程序包括计算机指令,所述计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行本技术实施例所提供的任一种信息提示方法中的步骤。
48.本技术实施例可以采集声学事件对应的声音信号;根据声音信号确定声学事件对应的权重系数,并确定每一声学事件对应的声音信号的音量值;根据权重系数和音量值确定声学事件的权重优先次序,并根据权重优先次序选取优先处理声学事件;获取优先处理声学事件对应的目标图像,并对目标图像进行图像信息分析,得到优先处理声学事件对应的目标事件信息;根据目标事件信息进行信息提示。由此可得,本方案可根据采集的声音信号来确定声学事件的权重系数,以及结合根据声音信号的音量大小,以确定相关用户需要优先应对的声学事件,进而,对需要优先应对的声学事件的图像信息进行分析,获得目标事件信息,以便后续根据该目标事件信息进行信息提示;以此,可使得乘驶人员获取外部环境的重要声音信息,避免安全隐患问题,提高了乘驶过程的安全性。
附图说明
49.为了更清楚地说明本技术实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本技术的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
50.图1是本技术实施例提供的信息提示系统的场景示意图;
51.图2为本技术实施例提供的信息提示方法的步骤流程示意图;
52.图3是本技术实施例提供的信息提示装置的结构示意图;
53.图4是本技术实施例提供的计算机设备的结构示意图。
具体实施方式
54.下面将结合本技术实施例中的附图,对本技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本技术一部分实施例,而不是全部的实施例。基于本技术中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本技术保护的范围。
55.本技术实施例提供一种信息提示方法、装置及计算机可读存储介质。本技术实施例将从信息提示装置的角度进行描述,该信息提示装置具体可以集成在计算机设备中,该计算机设备可以是服务器,该服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存
储等。此外,该计算机设备可以是终端设备。该终端可以是电视、智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表、智能穿戴设备、车载终端等设备,但并不局限于此。
56.例如,参见图1,为本技术实施例提供的信息提示系统的场景示意图。该场景包括终端或服务器。
57.采集声学事件对应的声音信号;根据声音信号确定声学事件对应的权重系数,并确定每一声学事件对应的声音信号的音量值;根据权重系数和音量值确定声学事件的权重优先次序,并根据权重优先次序选取优先处理声学事件;获取优先处理声学事件对应的目标图像,并对目标图像进行图像信息分析,得到优先处理声学事件对应的目标事件信息;根据目标事件信息进行信息提示。
58.其中,信息提示可以包括采集声音信号、确定声音信号的权重系数及音量值、确定优先处理声学事件、确定优先处理声学事件对应的目标事件信息、信息提示等处理方式。
59.以下分别进行详细说明。需要说明的是,以下实施例的描述顺序不作为对实施例优选顺序的限定。
60.在本技术实施例中,将从信息提示装置的角度进行描述,以该信息提示装置具体可以集成在计算机设备如终端设备中。参见图2,图2为本技术实施例提供的一种信息提示方法的步骤流程示意图,终端设备上的处理器执行信息提示方法对应的程序时,该信息提示方法的具体流程如下:
61.101、采集声学事件对应的声音信号。
62.其中,该声学事件可以是瞬时或连续时长的声音信号对应的声音事件,每一次声音信号的开始到声音信号的截止,视为一个声学事件。如,一段时长为5秒的鸣笛声可视为一个声学事件,又如,一个瞬时触发即结束的异响声(如0.5秒)可视为一个声学事件。因此,由自声音信号持续到声音信号结束,即可确定为一个声学事件。
63.其中,声音信号可以是声学事件对应的声学信号,属于一种电信号,用于表示声学事件的信息。具体的,为了能够对声学事件进行后续信息处理,需要通过电信号形式表示声学事件,例如,该声音信号可以是模拟信号,也可以是数字信号,以便后续通过该信号来对声学事件进行信息处理。
64.为了对声学事件进行信息提示,本技术实施例可实时检测声学事件,并采集该声学事件对应的声音信号。具体的,通过声音传感器采集声学事件对应的声音信号,以便于后续能够基于该采集的声音信号进行信息处理,并向相关用户发出信息提示。
65.通过以上方式,可实时检测用户周围是否有声学事件发生,并在检测到发生的声学事件后,可实时采集该声学事件对应的声音信号,以便后续根据采集到的声音信号对声学事件进行信息处理及提示。
66.102、根据声音信号确定声学事件对应的权重系数,并确定每一声学事件对应的声音信号的音量值。
67.其中,该权重系数可以是相关声学事件的权重值,其可以反映相关声学事件的优先程度,用于参与该声学事件的优先度计算。需要说明的是,该权重系数可以是预先设定的系数,具体的,如针对每一类型声学事件预先设定对应的权重系数,以便后续在同一时刻或时间段内出现多个声学事件时,确定各声学事件之间的优先处理次序。
68.其中,该音量值可以是声学事件对应的音量大小的值,具体是指以数值信息形式表示声学事件音量。
69.需要说明的是,为了能够根据采集到的声音信号对声学事件进行信息处理,假若该声音信号属于模拟信号,则需要将声音信号转化为数字声音信号。具体的,在对声学事件进行后续信息处理前,需要对模拟声音信号进行数字化处理,该信号数字化处理过程为:基于采集到的声音信号,把时间连续的模拟信号转换成时间离散、幅度连续的信号;将幅度上连续取值(模拟量)的每一个样本转换为离散值(数字量)表示;将采样和量化处理后的声音信号,按照一定的要求进行数据压缩和编码。以此,完成对声音信号的数字化处理,以便于后续对数字化处理后的声音信号进行信息处理。
70.需要说明的是,声学事件之间所包含的声学信息不同,且信息的重要程度也不同,因此,在对声学事件的处理过程中,可根据信息重要程度来选择一个声学事件进行处理,或按照优先度来分别对同一时段(如,最近1分钟)内的多个声学事件进行信息处理。例如,最近30秒内,周围环境产生了多个声学事件,可按照不同的重要程度或优先度确定当前需要处理的声学事件。
71.为了确定当前优先处理的声学事件,需要确定每一声学事件对应的优先次数。具体的,本技术实施例在得到声音信号后,可根据声学信号来确定对应声学事件的权重系数,以及确定声学信号对应的音量大小,以便后续根据该权重系数和音量大小来确定相关声学事件的优先次序,以便后续根据各声学事件的优先次序来确定需要优先处理的声学事件。
72.在一些实施方式中,为了确定声学事件的权重系数和声学信号对应的音量大小,步骤102“根据声音信号确定声学事件对应的权重系数”,可以包括:对声音信号进行分析处理,得到声音信号频谱信息;根据声音信号频谱信息确定声学事件的事件类别;根据预设声学事件权重列表,确定事件类别对应的权重系数。
73.其中,该声音信号频谱信息可以是声学事件相关的声音的频谱信息,其与声学事件的类别或属性相对应/匹配。具体的,由于不同的声学事件,其对应的音质、音、声纹等数据是不同的,则对应的声音信号频谱信息也是不同的,因此,可根据声音信号频谱信息来分析确定相关声学事件的事件类别或属性。
74.其中,该预设声学事件权重列表可以是包含多个类别的声学事件对应的权重系数的列表,即包含事件类别与权重系数之间的映射关系。具体的,针对不同声学事件的类型,可预先设定该声学事件的权重值,以便后续在同一时段内出现多种类型的声学事件时,可根据权重系数来加权确定各类型声学事件的优先度;例如,针对交警哨声的声学事件设定一个权重系数,针对车辆鸣笛声的声学事件设定一个权重系数,针对某一动物声音的声学事件设定一个权重系数,等等,以便根据以上权重系数建立预设声学事件权重列表;以上仅为示例,还可包括其他声学事件的权重系数设定,此处不作一一赘述。
75.具体的,为了确定每一声学事件对应的权重系数,在得到声学事件对应的声音信号后,可对声学信号进行频谱数据分析,以得到声音信号频谱信息;进而,将该声音信号频谱信息与与预设声音信号频谱信息库中频谱信息进行匹配,该预设声音信号频谱信息库包含频谱信息与声学事件类别之间的映射关系,以根据匹配结果来确定该声学事件的事件类别;最后,根据该确定的事件类别,查预设声学事件权重列表,以确定该声学事件对应的权重系数。以此,可确定每一声学事件对应的权重系数,以便后续根据权重系数参与该声学
事件的优先度计算,以便确定声学事件的优先次序。
76.通过以上方式,可根据得到的声学信号确定对应声学事件的权重系数和音量大小,以便后学根据该权重系数和音量大小来确定该声学事件的优先次序。
77.103、根据权重系数和音量值确定声学事件的权重优先次序,并根据权重优先次序选取优先处理声学事件。
78.其中,该优先处理声学事件可以是当前时刻需要优先进行信息处理的声学事件。例如,在同一时段内出现的交警哨声、车辆鸣笛声、宠物叫声、商店音响声等声学事件,假若计算交警哨声的声学事件得到的优先次序最高,则以交警哨声的声学事件作为优先处理声学事件。
79.在一些实施方式,为了确定当前时刻的优先处理声学事件,需要先计算声学事件的优先次序。具体的,步骤103中的“根据权重系数和音量值确定声学事件的权重优先次序”,可以包括:根据权重系数和音量值进行加权处理,得到权重优先值;获取预设时段内第二声学事件的第二权重优先值,第二声学事件为除声学事件外的待处理声学事件;根据权重优先值及第二权重优先值,确定声学事件对应的权重优先次序。
80.具体的,针对声学事件,可对该声学事件对应的权重系数和音量值进行加权计算,得到该声学事件对应的权重优先值;此外,通过同样方式计算预设时段内(如最近30秒)内的其他声学事件的第二权重优先值。进而,基于该权重优先值和第二权重优先值之间的大小,对该声学事件和第二声学事件之间进行从大到小的排序,从而,确定每一声学事件对应的权重优先次序。
81.进一步的,在确定每一声学事件对应的权重优先次序后,可从事件序列中选取排序靠前的声学事件(即权重优先值最大的声学事件)作为当前时刻的优先处理声学事件。
82.通过以上方式,可确定预设时段内每一声学事件的权重优先次序,从而根据各事件的优先次序确定当前时刻的优先处理声学事件,以便后续对该优先处理声学事件进行信息处理,从而向相关用户进行信息提示,具有可靠性。
83.104、获取优先处理声学事件对应的目标图像,并对目标图像进行图像信息分析,得到优先处理声学事件对应的目标事件信息。
84.其中,该目标图像可以是包含产生该优先处理声学事件的主体视觉信息的图像。例如,对于交警哨声的声学事件,其对应的图像可以包含交警的动作、手势、姿态、方向等;又如,针对车辆鸣笛声的声学事件,其对应的图像可以包含车辆的位置、方向、闪光灯等图像信息。
85.本技术实施例在确定优先处理声学事件后,其主要过程主要是根据该优先处理声学事件对应的环境因素和/或场景人物情况来进行信息处理,以便后续根据信息处理结果向用户进行信息提示。其中,为了获取该优先处理声学事件后,可捕获该优先处理声学事件对应的图像,以根据该图像信息方式确定该优先处理声学事件对应的环境因素和/或场景人物情况。
86.具体的,在捕获该优先处理声学事件对应的图像时,可通过视觉传感器(如摄像头、红外传感器等)对优先处理声学事件对应的目标图像。需要说明的是,相对于本地终端而言,声学事件所发生的位置、方向是不确定的,但可根据声学事件对应的声音信号进行确定,具体可以是:确定优先处理声学事件的目标声学信号,并确定上采集该目标声学信号的
声学传感器的标识,查询该声学传感器的标识相对于本地终端的布局位置信息,确定与该布局位置信息对应的目标视觉传感器标识,根据该布局位置信息和目标视觉传感器标识生成图像拍摄指令,以根据图像拍摄指令启动目标视觉传感器进行图像信息拍摄,得到目标图像信息。
87.为了对声学事件进行信息处理,本技术实施例可获取该优先处理声学事件相关的环境信息,具体可以通过视觉传感器获取该优先处理声学事件的目标图像,从而,对采集到目标图像进行处理。
88.在一些实施方式中,对优先处理声学事件的目标图像进行信息处理,主要是提取目标图像中的信息要素,并根据提取的信息确定该优先处理声学事件需要向用户提示信息,即目标事件信息。具体的,步骤104中的“对目标图像进行图像信息分析,得到优先处理声学事件对应的目标事件信息”,可以包括:
89.(104.1)确定优先处理声学事件的事件类别;
90.(104.2)通过目标识别模型基于事件类别及目标图像进行图像信息识别,得到图像信息要素,其中,目标识别模型由样本图像、样本事件类别及样本图像信息要素迭代训练得到;
91.(104.3)根据图像信息要素,确定优先处理声学事件对应的目标事件信息。
92.其中,该事件类别可以是声学事件的信息类别,如车辆声学事件类别、人物声学事件类别、动物声学事件类别、植物声学事件类别、地理声学事件类别等等。该事件类别用于指示提取目标图像中的目标事件要素,例如,针对车辆声学事件类别,则从获取的目标图像中提取目标车辆相关的信息要素,又如,针对人物声学事件类别,从该人物声学事件类别对应的目标图像中提取目标人物相关的信息要素,以此类推。需要说明的是,由于获取到的事件类别的目标图像中可能包含比较多的信息,如人、车、山体、树木、道路等,而该事件类别可在后续从目标图像中提取事件要素时更有目的性,减少数据计算量,提高信息处理效率和加快信息提示的进度。
93.为了提取目标图像中优先处理声学事件对应的目标事件要素,本技术实施例可先根据确定优先处理声学事件对应的事件类别;该事件类别的具体过程为:对优先处理声学事件的声学信号进行频谱数据分析,以得到声音信号频谱信息,进而,将该声音信号频谱信息与与预设声音信号频谱信息库中频谱信息进行匹配,根据匹配结果来确定该声学事件的事件类别。进而,将该优先处理声学事件的事件类别和目标图像输入训练好的目标识别模型,以通过该目标识别模型基于事件类别从目标图像中提取该优先处理声学事件对应的信息要素,得到该优先处理声学事件对应的图像信息要素。进而,根据该图像信息要素确定优先处理声学事件对应的目标事件信息,以便于后续根据该目标事件信息向目标用户发出信息提示。
94.其中,本技术实施例涉及通过目标识别模型对目标图像进行图像信息要素提取,在进行图像信息要素提取之前,需要先进行模型训练。具体的,获取样本图像、该样本图像对应的样本事件类别和样本图像信息要素;将该样本图像和样本事件类别输入预设识别模型,如卷积神经网络模型(convolutionalneuralnetworks,cnn)或与其他神经网络组合得到的模型,以输出得到预测图像信息要素;确定该预测图像信息要素与样本图像信息要素之间的信息损失值,并根据信息损失值按照反向梯度算法对预设识别模型的网络参数进行
调整,并对调整后的预设识别模型进行迭代训练,直至迭代收敛,得到训练后的目标识别模型,以用于后续的目标图像中的图像信息要素提取。
95.在一些实施方式中,步骤(104.2)“通过目标识别模型基于事件类别及目标图像进行图像信息识别,得到图像信息要素”,可以包括:通过目标识别模型基于事件类别对目标图像进行特征提取,得到目标图像特征;对目标图像特征进行关键点特征识别,得到多个关键点特征;基于多个关键点特征,确定图像信息要素。
96.其中,该关键点特征可以是图像中相关事物的关键特征,其可传达该优先处理声学事件对应的相关信息。具体的,在提取到该事件类别对应的目标图像特征后,可进一步识别、标记、提取该目标图像特征中的关键点特征,以便后续根据该关键点特征来确定图像信息要素。例如,以人物声学事件类别为例,该关键点特征可以是目标图像特征(人物图像特征)中的体态关键点特征,如手指、手臂、腿部、躯干、头部、眼睛、脸部、嘴等关键点特征。再者,以车辆声学事件类别为例,该关键点特征可以是目标图像特征(车辆图像特征)的车辆情况信息特征,如车牌、车轮转向、当前所在的位置、车灯(包括转向灯)等等关键点特征。
97.具体的,通过目标识别模型对目标图像进行信息要素提取时,主要是通过目标识别模型基于事件类别从目标图像中提取相关的信息要素的图像特征,以获取包含该优先处理声学事件相关的图像特征,如人物声学事件类别,则从目标图像中提取对应的人物图像特征,具体可详细到某个人物,如交警的图像特征;进而,对提取到的目标图像特征进行关键点特征识别和/或标记,以确定目标图像特征中的关键点特征,如确定交警图像特征中的手指、手臂、腿部、躯干、头部、眼睛、脸部、嘴等关键点特征;最后,根据以上提取的关键点特征进行组合,得到图像信息要素,该图像信息要素可反映优先处理声学事件对应的图像信息,如根据交警图像特征对应的关键点特征进行拼接组合,得到交警的手势和指挥的图像信息要素。
98.在一些实施方式中,步骤(104.3)“根据图像信息要素,确定优先处理声学事件对应的目标事件信息”,可以包括:
99.(104.3.1)确定图像信息要素在目标图像中的位置坐标;
100.(104.3.2)对位置坐标进行向量转换处理,得到图像信息要素向量;
101.(104.3.3)根据图像信息要素向量,确定优先处理声学事件对应的目标事件信息。
102.其中,该图像信息要素向量用于描述对应的关键点特征之间的向量,具体可以是表示两个关键点特征之间的向量的方向。例如,以躯干、手臂、手指作为关键点特征为例,以躯干(具体可以是与手臂连接点,如肩膀)作为起点,构建自躯干指向手臂的向量,又如,以手臂作为起点,构建自手臂指向手指的向量。
103.具体的,为了确定优先处理声学事件对应的目标事件信息,本技术实施例在得到图像信息要素后,可先针对目标图像中的事物底部或中部建立直角坐标系,以人物图像为例,以人物的脚部作为二维直角坐标系的中心点建立直角坐标系,还可以人物的腰部(中部)建立直角坐标系(xoy);从而,在完成直角坐标系的建立后,可确定图像信息要素在该目标图像中的位置坐标信息,如手臂的坐标、腿部的坐标、头部的坐标等。进而,基于多个位置坐标进行向量转换处理,以得到相邻关键点之间的图像信息要素向量,如躯干到左手臂的要素向量、左手臂到左手指的要素向量、躯干到右手臂的要素向量、右手臂到右手指的要素向量等等。最后,根据以上确定的图像信息要素向量来识别与优先处理声学事件相关的信
息,从而得到优先处理声学事件对应的目标事件信息;例如,以交警的图像要素事件为例,通过交警的要素向量确定交警的手势和指挥信息,得到目标事件信息。
104.在一些实施方式中,以人物声学事件类别为例,根据人物的相关要素向量,确定优先处理声学事件的目标事件信息。具体的,图像信息要素向量包括目标对象的体态信息要素向量,步骤(104.3.3)中“根据图像信息要素向量,确定优先处理声学事件对应的目标事件信息”,可以包括:针对目标图像中的目标对象构建直角坐标系;确定体态信息要素向量对应的向量方向,并根据向量方向确定体态信息要素在直角坐标系中象限特性关系;从预设象限信息列表中查象限特性关系对应的对象姿势信息,并将对象姿势信息确定为优先处理声学事件对应的目标事件信息。
105.其中,该体态信息要素向量对应的向量方向用于描述相关的关键点特征向量的方向,具体可以是表示两个关键点特征之间的向量的方向。以躯干(具体可以是与手臂连接点,如肩膀)作为起点,构建自躯干指向手臂的向量的方向,又如,以手臂作为起点,构建自手臂指向手指的向量的方向。
106.其中,该象限特性关系可以是对应的某一图像信息要素向量在直角坐标系中所处于的象限位置和象限方向的指向,如图像信息要素向量在第一象限中的指向,具体以躯干到左手臂的要素向量为例,假若目标对象的手臂和手指是与躯干呈45
°
,则该图像信息要素向量的象限特性关系可以是在第一象限中自竖向坐标轴(y)指向横向坐标系(x),其向量方向为与竖向坐标轴(y)之间呈45
°
;以上仅为部分示例,还可包括手腕到手掌、手掌心到手指、手指与手指等要素向量。
107.其中,该预设象限信息列表可以包含多种不同姿态与象限特性关系之间的映射关系。例如,该挥手姿态、停止手势姿态、靠右手势姿态、伸展手势姿态等等,不同的姿态的象限特性关系不同。
108.具体的,为了确定优先处理声学事件对应的目标事件信息,可确定体态信息要素向量对应的向量方向,并根据向量方向确定各种体态信息要素在直角坐标系中象限特性关系;从预设象限信息列表中查象限特性关系对应的对象姿势信息,并将对象姿势信息确定为针对该优先处理声学事件需要向目标对象发出提示的信息,即目标事件信息,如交警的挥手姿态、停止手势姿态、靠右手势姿态等一个或多个指挥事件信息。
109.在一些实施方式中,以本终端之外的车辆声学事件类别为例,根据车辆图像得到的相关要素向量,确定优先处理声学事件的目标事件信息。具体的,图像信息要素向量包括目标车辆的车辆信息要素向量,步骤(104.3.3)中“根据图像信息要素向量,确定优先处理声学事件对应的目标事件信息”,可以包括:获取本地终端当前的本地位置信息,并基于本地位置信息构建直角坐标系;根据车辆信息要素向量,确定目标车辆在直角坐标系中的目标象限特性关系;根据车辆信息要素向量及本地位置信息,评估目标车辆与本地终端之间车辆距离信息,并将车辆距离信息确定为优先处理声学事件对应的目标事件信息。
110.其中,该象限特性关系可以是对应的某一图像信息要素向量在直角坐标系中所处于的象限位置和象限方向的指向,如图像信息要素向量在第一象限中的指向、在第三象限中指向、在第四象限中指向等。具体以车辆要素向量为例,以本地终端或本地终端的当前位置(本地位置)作为中心o点建立直角坐标系(xoy),获取优先处理声学事件对应的目标车辆图像的图像信息要素向量,该向量具体可以是目标车辆的车尾部指向车头部的向量、左转
向灯向量、右转向灯向量等,示例性的,车尾部指向车头部的向量处于直角坐标系中的第四象限,具体向量方向(从车尾指向车头的向量方向)为倾斜指向直角坐标系中竖向(y)坐标轴,又如,车尾部指向车头部的向量处于直角坐标系中的第三象限,具体向量方向(从车尾指向车头的向量方向)为倾斜指向直角坐标系中竖向(y)坐标轴,以上仅为示例,还可包括其他象限情况,具体根据车辆行驶时存在的真实情况而定,此处不作一一赘述。
111.具体的,为了确定车辆的优先处理声学事件对应的目标事件信息,可构件本地终端当前的本地位置信息对应的直角坐标系;根据车辆信息要素向量,确定目标车辆在直角坐标系中的目标象限特性关系;根据车辆信息要素向量及本地位置信息,评估目标车辆与本地终端之间车辆距离信息,并将车辆距离信息确定为优先处理声学事件对应的目标事件信息。例如,基于车辆信息要素向量,确定目标车辆的象限特性关系为处于直角坐标系中的第四象限,具体向量方向(从车尾指向车头的向量方向)为倾斜指向直角坐标系中竖向(y)坐标轴,则该目标车辆处于本车辆(或本地终端)的右后方,其声学事件(如鸣笛声学事件)的目的告知本车辆具有向左转向换道行驶;此外,本地位置信息属于本车辆行进间的位置信息,其对应的坐标(或向量)为(0,0),根据该目标车辆的车辆信息要素向量与本地位置信息的向量之间进行计算,以求取差值结果,进而根据差值结果结合电子地图的相关距离比例算法评估目标车辆与本地终端之间车辆距离信息,从而,将车辆距离信息、目标车辆转向信息、目标车辆的行驶信息等单独或共同作为优先处理声学事件对应的目标事件信息。
112.通过以上方式,可针对优先处理声学事件,提取对应的目标事件信息,以便于后续根据该目标事件信息进行提示,具有可靠性。
113.105、根据目标事件信息进行信息提示。
114.具体的,为了对目标用户进行相关声学事件的信息提示,本技术实施例在得到优先处理声学事件对应的目标事件信息后,通过本地终端对该目标事件信息进行提示。例如,通过语音、图像、影视等播报方式对目标事件信息进行提示。
115.通过实施本技术实施例中任意一个实施方式或实施方式组合,可实现车辆驾驶信息提示、航空信息提示、军事战车驾驶信息提示等等。为了便于理解实施应用场景,以车辆驾驶信息提示的应用场景为例,该应用场景可不限于包括交警哨声的声学事件、车辆鸣笛声的声学事件等;该场景实例具体如下:
116.本地终端的车辆可在各个方位(如前后左右)都安装有视觉传感器,如摄像头、红外传感器、雷达等,此外,在视觉传感器的相同或邻近位置安装上声学传感器,如麦克风,以精准采集各个方位的声学事件(例如车辆鸣笛声、交警的哨声等);需要说明的是,由于同一时间内可能存在多个声学事件,而一个声学事件可能被多个声学传感器或对应的一个声学传感器采集到,因此,需要对各个声学事件进行分析。
117.具体的,每个方位的声学传感器在检测到声学事件后,本车辆的车载终端对检测到的声学事件进行优先级排序并给予权重。例如,交警的哨声优先级最高,给予权重系数a,车辆鸣笛声其次,给予权重系数b等;然后,根据检测到的声学事件的音量大小进行权重换算,例如交警的哨声的音量为x,车辆鸣笛声的音量为y等,则交警的哨声的权重为a*x,车辆的鸣笛声的权重为b*y等;最后根据权重对所有声学事件进行排序,对排序前n(如1个,或两个)的目标声学事件进行进一步分析以节约计算资源。
118.具体的,该分析过程为:针对排序靠前的目标声学事件,开启对应位置上的视觉传
感器进行目标图像获取,例如,获取交警的哨声事件对应的交警的图像,又如,检测到鸣笛声,就检测提取鸣笛车辆的图像;在提取图像后,再进一步分析,比如根据交警的图像对交警的手势进行分析,根据车辆的图像对旁车的距离与行动轨迹进行分析,并将各个方向上的信息进行汇总分析,提取要向本车辆驾驶员提示的信息。最后,通过图像或语音方式提示驾驶员,例如检测到交警哨声,分析手势后,提示驾驶员停车/转向/前进,又如检测到鸣笛声,分析距离和行车轨迹后,提示驾驶员后车要超车/不要急刹车等。
119.由以上可知,本技术实施例可以采集声学事件对应的声音信号;根据声音信号确定声学事件对应的权重系数,并确定每一声学事件对应的声音信号的音量值;根据权重系数和音量值确定声学事件的权重优先次序,并根据权重优先次序选取优先处理声学事件;获取优先处理声学事件对应的目标图像,并对目标图像进行图像信息分析,得到优先处理声学事件对应的目标事件信息;根据目标事件信息进行信息提示。由此可得,本方案可根据采集的声音信号来确定声学事件的权重系数,以及结合根据声音信号的音量大小,以确定相关用户需要优先应对的声学事件,进而,对需要优先应对的声学事件的图像信息进行分析,获得目标事件信息,以便后续根据该目标事件信息进行信息提示;以此,可使得乘驶人员获取外部环境的重要声音信息,避免安全隐患问题,提高了乘驶过程的安全性。
120.为了更好地实施以上方法,本技术实施例还提供一种信息提示装置,该信息提示装置可以集成在计算机设备,比如服务器或终端等计算机设备中。
121.例如,如图3所示,该信息提示装置可以包括采集单元301、确定单元302、选取单元303、分析单元304和提示单元305。
122.采集单元301,用于采集声学事件对应的声音信号;
123.确定单元302,用于根据声音信号确定声学事件对应的权重系数,并确定每一声学事件对应的声音信号的音量值;
124.选取单元303,用于根据权重系数和音量值确定声学事件的权重优先次序,并根据权重优先次序选取优先处理声学事件;
125.分析单元304,用于获取优先处理声学事件对应的目标图像,并对目标图像进行图像信息分析,得到优先处理声学事件对应的目标事件信息;
126.提示单元305,用于根据目标事件信息进行信息提示。
127.在一些实施例中,确定单元302,还用于:对声音信号进行分析处理,得到声音信号频谱信息;根据声音信号频谱信息确定声学事件的事件类别;根据预设声学事件权重列表,确定事件类别对应的权重系数。
128.在一些实施例中,选取单元303,还用于:根据权重系数和音量值进行加权处理,得到权重优先值;获取预设时段内第二声学事件的第二权重优先值,第二声学事件为除声学事件外的待处理声学事件;根据权重优先值及第二权重优先值,确定声学事件对应的权重优先次序。
129.在一些实施例中,分析单元304,还用于:确定优先处理声学事件的事件类别;通过目标识别模型基于事件类别及目标图像进行图像信息识别,得到图像信息要素,其中,目标识别模型由样本图像、样本事件类别及样本图像信息要素迭代训练得到;根据图像信息要素,确定优先处理声学事件对应的目标事件信息。
130.在一些实施例中,分析单元304,还用于:通过目标识别模型基于事件类别对目标
图像进行特征提取,得到目标图像特征;对目标图像特征进行关键点特征识别,得到多个关键点特征;基于多个关键点特征,确定图像信息要素。
131.在一些实施例中,分析单元304,还用于:确定图像信息要素在目标图像中的位置坐标;对位置坐标进行向量转换处理,得到图像信息要素向量;根据图像信息要素向量,确定优先处理声学事件对应的目标事件信息。
132.在一些实施例中,图像信息要素向量包括目标对象的体态信息要素向量,分析单元304,还用于:针对目标图像中的目标对象构建直角坐标系;确定体态信息要素向量对应的向量方向,并根据向量方向确定体态信息要素在直角坐标系中象限特性关系;从预设象限信息列表中查象限特性关系对应的对象姿势信息,并将对象姿势信息确定为优先处理声学事件对应的目标事件信息。
133.在一些实施例中,图像信息要素向量包括目标车辆的车辆信息要素向量,分析单元304,还用于:获取本地终端当前的本地位置信息,并基于本地位置信息构建直角坐标系;根据车辆信息要素向量,确定目标车辆在直角坐标系中的目标象限特性关系;根据车辆信息要素向量及本地位置信息,评估目标车辆与本地终端之间车辆距离信息,并将车辆距离信息确定为优先处理声学事件对应的目标事件信息。
134.由上可知,本技术实施例通过采集单元301采集声学事件对应的声音信号;通过确定单元302根据声音信号确定声学事件对应的权重系数,并确定每一声学事件对应的声音信号的音量值;通过选取单元303根据权重系数和音量值确定声学事件的权重优先次序,并根据权重优先次序选取优先处理声学事件;通过分析单元304获取优先处理声学事件对应的目标图像,并对目标图像进行图像信息分析,得到优先处理声学事件对应的目标事件信息;通过提示单元305根据目标事件信息进行信息提示。由此可得,本方案可根据采集的声音信号来确定声学事件的权重系数,以及结合根据声音信号的音量大小,以确定相关用户需要优先应对的声学事件,进而,对需要优先应对的声学事件的图像信息进行分析,获得目标事件信息,以便后续根据该目标事件信息进行信息提示;以此,可使得乘驶人员获取外部环境的重要声音信息,避免安全隐患问题,提高了乘驶过程的安全性。
135.以上各个操作的具体实施可参见前面的实施例,在此不作赘述。
136.本技术实施例还提供一种计算机设备,如图4所示,其示出了本技术实施例所涉及的计算机设备的结构示意图,具体来讲:
137.该计算机设备可以包括一个或者一个以上处理核心的处理器401、一个或一个以上计算机可读存储介质的存储器402、电源403和输入单元404等部件。本领域技术人员可以理解,图4中示出的计算机设备结构并不构成对计算机设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。其中:
138.处理器401是该计算机设备的控制中心,利用各种接口和线路连接整个计算机设备的各个部分,通过运行或执行存储在存储器402内的软件程序和/或模块,以及调用存储在存储器402内的数据,执行计算机设备的各种功能和处理数据,从而对计算机设备进行整体监控。可选的,处理器401可包括一个或多个处理核心;优选的,处理器401可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器401中。
139.存储器402可用于存储软件程序以及模块,处理器401通过运行存储在存储器402的软件程序以及模块,从而执行各种功能应用以及信息提示。存储器402可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据计算机设备的使用所创建的数据等。此外,存储器402可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地,存储器402还可以包括存储器控制器,以提供处理器401对存储器402的访问。
140.计算机设备还包括给各个部件供电的电源403,优选的,电源403可以通过电源管理系统与处理器401逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源403还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
141.该计算机设备还可包括输入单元404,该输入单元404可用于接收输入的数字或字符信息,以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
142.尽管未示出,计算机设备还可以包括显示单元等,在此不再赘述。具体在本实施例中,计算机设备中的处理器401会按照如下的指令,将一个或一个以上的应用程序的进程对应的可执行文件加载到存储器402中,并由处理器401来运行存储在存储器402中的应用程序,从而实现各种功能,如下:
143.采集声学事件对应的声音信号;根据声音信号确定声学事件对应的权重系数,并确定每一声学事件对应的声音信号的音量值;根据权重系数和音量值确定声学事件的权重优先次序,并根据权重优先次序选取优先处理声学事件;获取优先处理声学事件对应的目标图像,并对目标图像进行图像信息分析,得到优先处理声学事件对应的目标事件信息;根据目标事件信息进行信息提示。
144.以上各个操作的具体实施可参见前面的实施例,在此不作赘述。
145.由以上可知,本技术实施例可根据采集的声音信号来确定声学事件的权重系数,以及结合根据声音信号的音量大小,以确定相关用户需要优先应对的声学事件,进而,对需要优先应对的声学事件的图像信息进行分析,获得目标事件信息,以便后续根据该目标事件信息进行信息提示;以此,可使得乘驶人员获取外部环境的重要声音信息,避免安全隐患问题,提高了乘驶过程的安全性。
146.本领域普通技术人员可以理解,上述实施例的各种方法中的全部或部分步骤可以通过指令来完成,或通过指令控制相关的硬件来完成,该指令可以存储于一计算机可读存储介质中,并由处理器进行加载和执行。
147.为此,本技术实施例提供一种计算机可读存储介质,其中存储有多条指令,该指令能够被处理器进行加载,以执行本技术实施例所提供的任一种信息提示方法中的步骤。例如,该指令可以执行如下步骤:
148.采集声学事件对应的声音信号;根据声音信号确定声学事件对应的权重系数,并确定每一声学事件对应的声音信号的音量值;根据权重系数和音量值确定声学事件的权重优先次序,并根据权重优先次序选取优先处理声学事件;获取优先处理声学事件对应的目标图像,并对目标图像进行图像信息分析,得到优先处理声学事件对应的目标事件信息;根
据目标事件信息进行信息提示。
149.以上各个操作的具体实施可参见前面的实施例,在此不再赘述。
150.其中,该计算机可读存储介质可以包括:只读存储器(rom,readonly memory)、随机存取记忆体(ram,randomaccessmemory)、磁盘或光盘等。
151.本技术还提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述实施例中各种可选实现方式中提供的信息提示方法。
152.由于该计算机可读存储介质中所存储的指令,可以执行本技术实施例所提供的任一种信息提示方法中的步骤,因此,可以实现本技术实施例所提供的任一种信息提示方法所能实现的有益效果,详见前面的实施例,在此不再赘述。
153.以上对本技术实施例所提供的一种信息提示方法、装置及计算机可读存储介质进行了详细介绍,本文中应用了具体个例对本技术的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本技术的方法及其核心思想;同时,对于本领域的技术人员,依据本技术的思想,在具体实施方式及应用范围上均会有改变之处,综上,本说明书内容不应理解为对本技术的限制。

技术特征:


1.一种信息提示方法,其特征在于,包括:采集声学事件对应的声音信号;根据所述声音信号确定所述声学事件对应的权重系数,并确定每一声学事件对应的声音信号的音量值;根据所述权重系数和音量值确定所述声学事件的权重优先次序,并根据所述权重优先次序选取优先处理声学事件;获取所述优先处理声学事件对应的目标图像,并对所述目标图像进行图像信息分析,得到所述优先处理声学事件对应的目标事件信息;根据所述目标事件信息进行信息提示。2.根据权利要求1所述的方法,其特征在于,所述根据所述声音信号确定所述声学事件对应的权重系数,包括:对所述声音信号进行分析处理,得到声音信号频谱信息;根据所述声音信号频谱信息确定所述声学事件的事件类别;根据预设声学事件权重列表,确定所述事件类别对应的权重系数。3.根据权利要求1所述的方法,其特征在于,所述根据所述权重系数和音量值确定所述声学事件的权重优先次序,包括:根据所述权重系数和音量值进行加权处理,得到所述权重优先值;获取预设时段内第二声学事件的第二权重优先值,所述第二声学事件为除所述声学事件外的待处理声学事件;根据所述权重优先值及所述第二权重优先值,确定所述声学事件对应的权重优先次序。4.根据权利要求1所述的方法,其特征在于,所述对所述目标图像进行图像信息分析,得到所述优先处理声学事件对应的目标事件信息,包括:确定所述优先处理声学事件的事件类别;通过目标识别模型基于所述事件类别及目标图像进行图像信息识别,得到图像信息要素,其中,所述目标识别模型由样本图像、样本事件类别及样本图像信息要素迭代训练得到;根据所述图像信息要素,确定所述优先处理声学事件对应的目标事件信息。5.根据权利要求4所述的方法,其特征在于,所述通过目标识别模型基于所述事件类别及目标图像进行图像信息识别,得到图像信息要素,包括:通过目标识别模型基于所述事件类别对所述目标图像进行特征提取,得到目标图像特征;对所述目标图像特征进行关键点特征识别,得到多个关键点特征;基于所述多个关键点特征,确定图像信息要素。6.根据权利要求4所述的方法,其特征在于,所述根据所述图像信息要素,确定所述优先处理声学事件对应的目标事件信息,包括:确定所述图像信息要素在所述目标图像中的位置坐标;对所述位置坐标进行向量转换处理,得到图像信息要素向量;根据所述图像信息要素向量,确定所述优先处理声学事件对应的目标事件信息。
7.根据权利要求6所述的方法,其特征在于,所述图像信息要素向量包括目标对象的体态信息要素向量,所述根据所述图像信息向量,确定所述优先处理声学事件对应的目标事件信息,包括:针对所述目标图像中的目标对象构建直角坐标系;确定所述体态信息要素向量对应的向量方向,并根据所述向量方向确定所述体态信息要素在所述直角坐标系中象限特性关系;从预设象限信息列表中查所述象限特性关系对应的对象姿势信息,并将所述对象姿势信息确定为所述优先处理声学事件对应的目标事件信息。8.根据权利要求6所述的方法,其特征在于,所述图像信息要素向量包括目标车辆的车辆信息要素向量,所述根据所述图像信息向量,确定所述优先处理声学事件对应的目标事件信息,包括:获取本地终端当前的本地位置信息,并基于所述本地位置信息构建直角坐标系;根据所述车辆信息要素向量,确定所述目标车辆在所述直角坐标系中的目标象限特性关系;根据所述车辆信息要素向量及所述本地位置信息,评估所述目标车辆与所述本地终端之间车辆距离信息,并将所述车辆距离信息确定为所述优先处理声学事件对应的目标事件信息。9.一种信息提示装置,其特征在于,包括:采集单元,用于采集声学事件对应的声音信号;确定单元,用于根据所述声音信号确定所述声学事件对应的权重系数,并确定每一声学事件对应的声音信号的音量值;选取单元,用于根据所述权重系数和音量值确定所述声学事件的权重优先次序,并根据所述权重优先次序选取优先处理声学事件;分析单元,用于获取所述优先处理声学事件对应的目标图像,并对所述目标图像进行图像信息分析,得到所述优先处理声学事件对应的目标事件信息;提示单元,用于根据所述目标事件信息进行信息提示。10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质为计算机可读并存储有多条指令,所述指令适于处理器进行加载,以执行权利要求1至8任一项所述的信息提示方法中的步骤。

技术总结


本申请实施例公开了一种信息提示方法、装置及计算机可读存储介质;可采集声学事件对应的声音信号;根据声音信号确定声学事件对应的权重系数,并确定每一声学事件对应的声音信号的音量值;根据权重系数和音量值确定声学事件的权重优先次序,并根据权重优先次序选取优先处理声学事件;获取优先处理声学事件对应的目标图像,并对目标图像进行图像信息分析,得到优先处理声学事件对应的目标事件信息;根据目标事件信息进行信息提示。以此,可根据声学事件的权重系数和声音信号的音量大小来确定相关用户需要优先应对的声学事件,并结合需要优先应对的声学事件的图像信息来确定目标事件信息,以进行信息提示。以进行信息提示。以进行信息提示。


技术研发人员:

陈东鹏 黄润乾

受保护的技术使用者:

深圳市声扬科技有限公司

技术研发日:

2022.10.21

技术公布日:

2023/3/21

本文发布于:2024-09-20 19:56:53,感谢您对本站的认可!

本文链接:https://www.17tex.com/tex/2/76800.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:声学   事件   信息   目标
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议