一种单声道通话录音的智能分轨方法、装置和系统与流程

专利检索2022-05-10  16



1.本发明涉及计算机信息处理领域,具体而言,涉及一种单声道通话录音的智能分轨方法、装置和系统。


背景技术:

2.对传统的电话进行通话录音时,通话录音通常为双声道,再进行内容还原时容易区分不同声道对应的人声角色。随着互联网技术的发展,网络电话、语音会议逐渐开始普及,再网络电话和语音会议中为了降低对网络速率的要求,提升通话质量,往往使用的是单声道,如果进行通话录音也以单声道的形式记录的。
3.如果将这样的单声道录音直接输入语音识别(asr)系统,由于只有一个声道,无法从识别结果中还原出各话语的说话人,只是单纯地堆砌文本。而且通常情况下通话开始前还会有彩铃、播报音等等非通话内容的语音信息,会对识别过程造成干扰,降低识别准确率。


技术实现要素:

4.本发明旨在解决现有网络电话、语音会议的通话录音通常是单声道通话录音,输入asr系统无法区分说话人角色,而且识别准确率低的问题。
5.为了解决上述技术问题,本发明第一方面提出一种单声道通话录音的智能分轨方法,用于对单声道通话录音中多人语音进行分离,方法包括:
6.对通话录音的音频数据进行预备处理,得到预备处理后的音频数据;
7.对预备处理后的音频数据进行帧属性检测,得到所述音频数据中每一帧的帧属性信息;
8.根据所述音频数据中每一帧的帧属性信息确定所述音频数据中的语音起始点,删除语音起始点之前的音频数据得到纯语音音频数据;
9.将所述纯语音音频数据输入分轨模型,得到所述纯语音音频数据的分轨信息。
10.根据本发明的一种优选实施方式,所述对通话录音的音频数据进行预备处理具体包括:
11.对所述通话录音的音频数据进行格式转化;
12.对格式转化后的音频数据进行分帧处理;
13.将分帧处理后的音频数据输入声学特征提取模型提取音频数据中每一帧的声学特征。
14.根据本发明的一种优选实施方式,对预备处理后的音频数据进行帧属性检测具体包括:
15.将所述音频数据中每一帧的声学特征输入帧属性检测模型,得到所述音频数据中每一帧的帧属性信息,所述帧属性检测模型为基于深度学习的c

gru神经网络模型。
16.根据本发明的一种优选实施方式,所述帧属性包括该帧为音乐帧的概率以及该帧
为有声帧的概率。
17.根据本发明的一种优选实施方式,根据所述音频数据中每一帧的帧属性信息确定所述音频数据中的语音起始点具体包括:
18.预先设置音乐帧概率阈值vm,有声帧概率阈值vs,以及滑动窗口大小w;
19.若连续w个帧满足该帧的音乐帧概率大于vm,并且该帧的有声帧概率大于vs,则所述连续w个帧中的第一个帧为语音起始点。
20.根据本发明的一种优选实施方式,将所述纯语音音频数据输入分轨模型,得到所述纯语音音频数据的分轨信息具体包括:
21.预先训练分轨模型,所述分轨模型包括x

vector神经网络模型和plda模型;
22.将所述纯语音音频数据输入所述分轨模型,所述x

vector神经网络模型输出所述纯语音音频数据的x

vector向量;
23.所述plda模型根据x

vector向量得到所述纯语音音频数据的分轨信息。
24.根据本发明的一种优选实施方式,方法还包括:
25.将所述所述纯语音音频数据以及所述纯语音音频数据的分轨信息输入asr系统,所述asr系统根据所述分轨信息输出不同说话人的文本数据。
26.本发明第二方面提出一种单声道通话录音的智能分轨装置,用于对单声道通话录音中多人语音进行分离,装置包括:
27.预备处理模块,用于对通话录音的音频数据进行预备处理,得到预备处理后的音频数据;
28.帧属性检测模块,用于对预备处理后的音频数据进行帧属性检测,判断所述音频数据中每一帧的帧属性信息;
29.纯语音提取模块,用于根据所述音频数据中每一帧的帧属性信息确定所述音频数据中的语音起始点,删除语音起始点之前的音频数据得到纯语音音频数据;
30.分轨模块,用于将所述纯语音音频数据输入分轨模型,得到所述纯语音音频数据的分轨信息。
31.本发明第三方面提出一种单声道通话录音的智能分轨系统,包括:
32.存储单元,用于存储计算机可执行程序;
33.处理单元,用于读取所述存储单元中的计算机可执行程序,以执行所述的单声道通话录音的智能分轨方法。
34.本发明第四方面提出一种计算机可读介质,用于存储计算机可读程序,所述计算机可读程序用于执行所述的单声道通话录音的智能分轨方法。
35.采用该技术方案先进行语音起始点检测,寻找出实际通话内容的起始点,去除该点前的响铃、彩铃等,保留纯语音部分,然后再通过智能分轨模型,分离出实际的各说话人角色,以供后续asr正确识别,并还原出通话录音的实际的对话顺序和内容。
附图说明
36.为了使本发明所解决的技术问题、采用的技术手段及取得的技术效果更加清楚,下面将参照附图详细描述本发明的具体实施例。但需声明的是,下面描述的附图仅仅是本发明的示例性实施例的附图,对于本领域的技术人员来讲,在不付出创造性劳动的前提下,
可以根据这些附图获得其他实施例的附图。
37.图1是本发明实施例中单声道通话录音的智能分轨方法的流程示意图;
38.图2是本发明实施例中单声道通话录音的智能分轨装置的结构示意图;
39.图3是本发明实施例中单声道通话录音的智能分轨系统的结构框架示意图;
40.图4是本发明实施例中计算机可读存储介质的结构示意图。
具体实施方式
41.现在将参考附图来更加全面地描述本发明的示例性实施例,虽然各示例性实施例能够以多种具体的方式实施,但不应理解为本发明仅限于在此阐述的实施例。相反,提供这些示例性实施例是为了使本发明的内容更加完整,更加便于将发明构思全面地传达给本领域的技术人员。
42.在符合本发明的技术构思的前提下,在某个特定的实施例中描述的结构、性能、效果或者其他特征可以以任何合适的方式结合到一个或更多其他的实施例中。
43.在对于具体实施例的介绍过程中,对结构、性能、效果或者其他特征的细节描述是为了使本领域的技术人员对实施例能够充分理解。但是,并不排除本领域技术人员可以在特定情况下,以不含有上述结构、性能、效果或者其他特征的技术方案来实施本发明。
44.附图中的流程图仅是一种示例性的流程演示,不代表本发明的方案中必须包括流程图中的所有的内容、操作和步骤,也不代表必须按照图中所显示的的顺序执行。例如,流程图中有的操作/步骤可以分解,有的操作/步骤可以合并或部分合并,等等,在不脱离本发明的发明主旨的情况下,流程图中显示的执行顺序可以根据实际情况改变。
45.附图中的框图一般表示的是功能实体,并不一定必然与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理单元装置和/或微控制器装置中实现这些功能实体。
46.各附图中相同的附图标记表示相同或类似的元件、组件或部分,因而下文中可能省略了对相同或类似的元件、组件或部分的重复描述。还应理解,虽然本文中可能使用第一、第二、第三等表示编号的定语来描述各种器件、元件、组件或部分,但是这些器件、元件、组件或部分不应受这些定语的限制。也就是说,这些定语仅是用来将一者与另一者区分。例如,第一器件亦可称为第二器件,但不偏离本发明实质的技术方案。此外,术语“和/或”、“及/或”是指包括所列出项目中的任一个或多个的所有组合。
47.图1是本发明一种单声道通话录音的智能分轨方法的流程示意图,如图1所示。本发明正式为了解决现有网络电话、语音会议的通话录音通常是单声道通话录音,输入asr系统无法区分说话人角色,而且识别准确率低的问题,本发明提供一种单声道通话录音的智能分轨方法,先进行语音起始点检测,寻找出实际通话内容的起始点,去除该点前的响铃、彩铃等,保留纯语音部分,然后再通过智能分轨模型,分离出实际的各说话人角色,方法包括:
48.s101、对通话录音的音频数据进行预备处理,得到预备处理后的音频数据。
49.在上述技术方案的基础上,进一步地,所述对通话录音的音频数据进行预备处理具体包括:
50.对所述通话录音的音频数据进行格式转化;
51.对格式转化后的音频数据进行分帧处理;
52.将分帧处理后的音频数据输入声学特征提取模型提取音频数据中每一帧的声学特征。
53.在本实施方式中,通常网络电话、语音会议的录音文件采用amr或mp3格式,这两种文件的压缩比高,占用空间小,但并非是大多数语音分析模型所支持的格式,因此需要将录音文件的格式转化为标准的音频文件格式,比如pcm、wav格式,在本实施方式中采用wav格式。
54.在本实施方式中,为了便于后续模型的运算,还需要对输入的音频数据进行分帧处理,将录音分割成一个个等长的数十毫秒的时间片段。然后将分割好的时间片段输入声学特征提取模型,如mfcc、fbank特征。
55.s102、对预备处理后的音频数据进行帧属性检测,得到所述音频数据中每一帧的帧属性信息。
56.在上述技术方案的基础上,进一步地,对预备处理后的音频数据进行帧属性检测具体包括:
57.将所述音频数据中每一帧的声学特征输入帧属性检测模型,判断所述音频数据中每一帧的帧属性信息,所述帧属性检测模型为基于深度学习的c

gru神经网络模型。
58.在上述技术方案的基础上,进一步地,所述帧属性包括该帧为音乐帧的概率以及该帧为有声帧的概率。
59.在本实施方式中,帧属性检测模型为基于深度学习的c

gru神经网络模型。帧属性检测模型由历史音频数据训练实现,帧属性检测模型的输出数据如表1所示,数据内容为三列,第一列表示帧序号,第二列表示该帧为音乐帧的概率,第三列表示该帧为有声帧的概率。
60.序号音乐帧概率有声帧概率00.4229290.67252810.5106840.79139920.6155890.84916230.6621550.91323340.5163390.94913350.7190200.85610360.7536750.501254
61.表1帧属性检测模型输出数据
62.s103、根据所述音频数据中每一帧的帧属性信息确定所述音频数据中的语音起始点,删除语音起始点之前的音频数据得到纯语音音频数据。
63.在上述技术方案的基础上,进一步地,根据所述音频数据中每一帧的帧属性信息确定所述音频数据中的语音起始点具体包括:
64.预先设置音乐帧概率阈值vm,有声帧概率阈值vs,以及滑动窗口大小w;
65.若连续w个帧满足该帧的音乐帧概率大于vm,并且该帧的有声帧概率大于vs,则所述连续w个帧中的第一个帧为语音起始点。
66.在本实施方式中,通过滑动窗口的方式来确定那一帧为语音起始点。以表1的数据为例进行说明,设置滑动窗口w为3,音乐帧概率阈值vm为0.5,有声帧概率阈值vs为0.8。
67.由于w为3,起始时分别选取序号为0

2的3个帧进行判断,不满足条件。
68.窗口向下滑动一格,选取序号为1

3的3个帧进行判断,依然不满足条件。
69.窗口继续向下滑动一格,选取序号为2

4的3个帧进行判断,此时3个帧的音乐帧概率和有声帧概率都符合要求,因此该窗口中的第一个帧为语音起始点,即序号为2的帧为语音起始点。
70.确定好语音起始点后,删除该帧前面的数据得到纯语音音频数据,通过这种方式剔除了彩铃、播报音等等非通话内容,排除了干扰。
71.s104、将所述纯语音音频数据输入分轨模型,得到所述纯语音音频数据的分轨信息。
72.在上述技术方案的基础上,进一步地,将所述纯语音音频数据输入分轨模型,得到所述纯语音音频数据的分轨信息具体包括:
73.预先训练分轨模型,所述分轨模型包括x

vector神经网络模型和plda模型;
74.将所述纯语音音频数据输入所述分轨模型,所述x

vector神经网络模型输出所述纯语音音频数据的x

vector向量;
75.所述plda模型根据x

vector向量得到所述纯语音音频数据的分轨信息。
76.在本实施方式中,使用人工标引的历史的语音数据作为训练数据,训练x

vector神经网络模型和plda模型。对纯语音音频数据进行声学特征提取,比如mfcc特征,将提取的mfcc特征输入x

vector神经网络模型,得到x

vector向量。
77.在plda模型中,对x

vector向量与plda模型后端之间的成对相似性进行评分,通过无监督聚类分析获得说话人数以及不同说话人语音的起止时刻。
78.在上述技术方案的基础上,进一步地,方法还包括:
79.s105、将所述所述纯语音音频数据以及所述纯语音音频数据的分轨信息输入asr系统,所述asr系统根据所述分轨信息输出不同说话人的文本数据。
80.在本实施方式中,根据分轨信息,asr系统可以清楚的确定不同说话人对应的音频数据位置,因此能够很好的输出说话人的文本数据。
81.图2是本发明实施例中单声道通话录音的智能分轨装置的结构示意图,如图2所示,本发明提供一种单声道通话录音的智能分轨装置200,包括:
82.预备处理模块201,用于对通话录音的音频数据进行预备处理,得到预备处理后的音频数据。
83.在上述技术方案的基础上,进一步地,所述预备处理模块201,具体用于对所述通话录音的音频数据进行格式转化;对格式转化后的音频数据进行分帧处理;将分帧处理后的音频数据输入声学特征提取模型提取音频数据中每一帧的声学特征。
84.在本实施方式中,通常网络电话、语音会议的录音文件采用amr或mp3格式,这两种文件的压缩比高,占用空间小,但并非是大多数语音分析模型所支持的格式,因此需要将录音文件的格式转化为标准的音频文件格式,比如pcm、wav格式,在本实施方式中采用wav格式。
85.在本实施方式中,为了便于后续模型的运算,还需要对输入的音频数据进行分帧
处理,将录音分割成一个个等长的数十毫秒的时间片段。然后将分割好的时间片段输入声学特征提取模型,如mfcc、fbank特征。
86.帧属性检测模块202,用于对预备处理后的音频数据进行帧属性检测,判断所述音频数据中每一帧的帧属性信息.
87.在上述技术方案的基础上,进一步地,帧属性检测模块202,具体用于将所述音频数据中每一帧的声学特征输入帧属性检测模型,判断所述音频数据中每一帧的帧属性信息,所述帧属性检测模型为基于深度学习的c

gru神经网络模型。
88.在上述技术方案的基础上,进一步地,所述帧属性包括该帧为音乐帧的概率以及该帧为有声帧的概率。
89.在本实施方式中,帧属性检测模型为基于深度学习的c

gru神经网络模型。帧属性检测模型由历史音频数据训练实现,帧属性检测模型的输出数据内容为三列,第一列表示帧序号,第二列表示该帧为音乐帧的概率,第三列表示该帧为有声帧的概率。
90.纯语音提取模块203,用于根据所述音频数据中每一帧的帧属性信息确定所述音频数据中的语音起始点,删除语音起始点之前的音频数据得到纯语音音频数据。
91.在上述技术方案的基础上,进一步地,所述纯语音提取模块203,具体用于预先设置音乐帧概率阈值vm,有声帧概率阈值vs,以及滑动窗口大小w;若连续w个帧满足该帧的音乐帧概率大于vm,并且该帧的有声帧概率大于vs,则确定所述连续w个帧中的第一个帧为语音起始点。
92.在本实施方式中,通过滑动窗口的方式来确定那一帧为语音起始点。以表1的数据为例进行说明,设置滑动窗口w为3,音乐帧概率阈值vm为0.5,有声帧概率阈值vs为0.8。
93.由于w为3,起始时分别选取序号为0

2的3个帧进行判断,不满足条件。
94.窗口向下滑动一格,选取序号为1

3的3个帧进行判断,依然不满足条件。
95.窗口继续向下滑动一格,选取序号为2

4的3个帧进行判断,此时3个帧的音乐帧概率和有声帧概率都符合要求,因此该窗口中的第一个帧为语音起始点,即序号为2的帧为语音起始点。
96.确定好语音起始点后,删除该帧前面的数据得到纯语音音频数据,通过这种方式剔除了彩铃、播报音等等非通话内容,排除了干扰。
97.分轨模块204,用于将所述纯语音音频数据输入分轨模型,得到所述纯语音音频数据的分轨信息。
98.在上述技术方案的基础上,进一步地,所述分轨模块204。具体用于预先训练分轨模型,所述分轨模型包括x

vector神经网络模型和plda模型;将所述纯语音音频数据输入所述分轨模型,所述x

vector神经网络模型输出所述纯语音音频数据的x

vector向量;所述plda模型根据x

vector向量得到所述纯语音音频数据的分轨信息。
99.在本实施方式中,使用人工标引的历史的语音数据作为训练数据,训练x

vector神经网络模型和plda模型。对纯语音音频数据进行声学特征提取,比如mfcc特征,将提取的mfcc特征输入x

vector神经网络模型,得到x

vector向量。
100.在plda模型中,对x

vector向量与plda模型后端之间的成对相似性进行评分,通过无监督聚类分析获得说话人数以及不同说话人语音的起止时刻。
101.在上述技术方案的基础上,进一步地,装置还包括:
102.角色还原模块205,将所述所述纯语音音频数据以及所述纯语音音频数据的分轨信息输入asr系统,所述asr系统根据所述分轨信息输出不同说话人的文本数据。
103.如图3所示,本发明的一个实施例中还公开一种单声道通话录音的智能分轨系统,图3显示的单声道通话录音的智能分轨系统仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
104.单声道通话录音的智能分轨系统300,包括存储单元320,用于存储计算机可执行程序;处理单元310,用于读取所述存储单元中的计算机可执行程序,以执行本发明各种实施方式的步骤。
105.在本实施方式中单声道通话录音的智能分轨系统300还包括,连接不同系统组件(包括存储单元320和处理单元310)的总线330、显示单元340等。
106.其中,所述存储单元320存储有计算机可读程序,其可以是源程序或都只读程序的代码。所述程序可以被处理单元310执行,使得所述处理单元310执行本发明各种实施方式的步骤。例如,所述处理单元310可以执行如图1所示的步骤。
107.所述存储单元320可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(ram)3201和/或高速缓存存储单元3202,还可以进一步包括只读存储单元(rom)3203。所述存储单元320还可以包括具有一组(至少一个)程序模块3205的程序/实用工具3204,这样的程序模块3205包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。
108.总线330可以为表示几类总线结构中的一种或多种,包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
109.单声道通话录音的智能分轨系统300也可以与一个或多个外部设备370(例如键盘、显示器、网络设备、蓝牙设备等)通信,使得用户能经由这些外部设备370通过输入/输出(i/o)接口350进行与处理单元310进行交互,还可以通过网络适配器360与一个或者多个网络(例如局域网(lan),广域网(wan)和/或公共网络,例如因特网)进行。网络适配器360可以通过总线330与单声道通话录音的智能分轨系统300的其它模块通信。应当明白,尽管图中未示出,基于机器学习的数字资源处理系统300中可使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。
110.图4是本发明的一个计算机可读介质实施例的示意图。如图4所示,所述计算机程序可以存储于一个或多个计算机可读介质上。计算机可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储单元(ram)、只读存储单元(rom)、可擦式可编程只读存储单元(eprom或闪存)、光纤、便携式紧凑盘只读存储单元(cd

rom)、光存储单元件、磁存储单元件、或者上述的任意合适的组合。当所述计算机程序被一个或多个数据处理设备执行时,使得该计算机可读介质能够实现本发明的上述方法,即:
111.s101、对通话录音的音频数据进行预备处理,得到预备处理后的音频数据;
112.s102、对预备处理后的音频数据进行帧属性检测,判断所述音频数据中每一帧的
帧属性信息;
113.s103、根据所述音频数据中每一帧的帧属性信息确定所述音频数据中的语音起始点,删除语音起始点之前的音频数据得到纯语音音频数据;
114.s104、将所述纯语音音频数据输入分轨模型,得到所述纯语音音频数据的分轨信息。
115.通过以上的实施方式的描述,本领域的技术人员易于理解,本发明描述的示例性实施例可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个计算机可读的存储介质(可以是cd

rom,u盘,移动硬盘等)中或网络上,包括若干指令以使得一台数据处理设备(可以是个人计算机、服务器、或者网络设备等)执行根据本发明的上述方法。
116.所述计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、rf等等,或者上述的任意合适的组合。
117.可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如java、c 等,还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(lan)或广域网(wan),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
118.综上所述,本发明可以执行计算机程序的方法、装置、电子设备或计算机可读介质来实现。可以在实践中使用微处理单元或者数字信号处理单元(dsp)等通用数据处理设备来实现本发明的一些或者全部功能。
119.以上所述的具体实施例,对本发明的目的、技术方案和有益效果进行了进一步详细说明,应理解的是,本发明不与任何特定计算机、虚拟装置或者电子设备固有相关,各种通用装置也可以实现本发明。以上所述仅为本发明的具体实施例而已,并不用于限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
转载请注明原文地址:https://win.8miu.com/read-150209.html

最新回复(0)