{"title":"Impact des techniques d'adaptation au locuteur dans l'espace des paramètres pour des modèles acoustiques purement neuronaux","authors":"Natalia A. Tomashenko, Y. Estève","doi":"10.21437/jep.2018-64","DOIUrl":null,"url":null,"abstract":"Cet article explore l’utilisation de techniques d’adaptation au locuteur pour des modèles acoustiques bidirectionnels de type long short term memory (BLSTM) entrainés avec la fonction objective dite de classification temporelle connectionniste (CTC). Les modèles acoustiques BLSTM-CTC prennent de plus en plus d’importance dans les systèmes de reconnaissance automatique de la parole, mais peu d’études ont été menées jusqu’ici pour y appliquer des techniques d’adaptation au locuteur. Dans cet article, nous explorons l’utilisation de trois techniques différentes : l’approche par feature space maximum likelihood linear regression (fMLLR), celle s’appuyant sur l’utilisation de i-vectors, et une approche exploitant la technique d’adaptation maximum a posteriori (MAP) appliquée sur des modèles gaussiens dont sont dérivés des paramètres fournis au modèles acoustiques neuronaux. Enfin, cette étude présente une comparaison du comportement des modèles BLSTM-CTC avec celui de modèles markoviens associés à un time-delay neural network (TDNN). of feature-space speaker adaptation for end-to-end acoustic models. This paper investigates speaker adaptation techniques for bidirectional long short term memory (BLSTM) recurrent neural network based acoustic models trained with the connectionist temporal classification (CTC) objective function. BLSTM-CTC AMs play an important role in end-to-end automatic speech recognition systems. However, there is a lack of research in speaker adaptation algorithms for these models. We explore three different feature-space adaptation approaches for CTC acoustic models : feature-space maximum linear regression, i-vector based adaptation, and maximum a posteriori adaptation using GMM-derived features. In addition, the adaptation behavior is compared for BLSTM-CTC models and time-delay neural network (TDNN) models trained with the cross-entropy criterion.","PeriodicalId":310294,"journal":{"name":"XXXIIe Journées d’Études sur la Parole","volume":"1 1","pages":"0"},"PeriodicalIF":0.0000,"publicationDate":"2018-06-04","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":"1","resultStr":null,"platform":"Semanticscholar","paperid":null,"PeriodicalName":"XXXIIe Journées d’Études sur la Parole","FirstCategoryId":"1085","ListUrlMain":"https://doi.org/10.21437/jep.2018-64","RegionNum":0,"RegionCategory":null,"ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":null,"EPubDate":"","PubModel":"","JCR":"","JCRName":"","Score":null,"Total":0}
引用次数: 1
Abstract
Cet article explore l’utilisation de techniques d’adaptation au locuteur pour des modèles acoustiques bidirectionnels de type long short term memory (BLSTM) entrainés avec la fonction objective dite de classification temporelle connectionniste (CTC). Les modèles acoustiques BLSTM-CTC prennent de plus en plus d’importance dans les systèmes de reconnaissance automatique de la parole, mais peu d’études ont été menées jusqu’ici pour y appliquer des techniques d’adaptation au locuteur. Dans cet article, nous explorons l’utilisation de trois techniques différentes : l’approche par feature space maximum likelihood linear regression (fMLLR), celle s’appuyant sur l’utilisation de i-vectors, et une approche exploitant la technique d’adaptation maximum a posteriori (MAP) appliquée sur des modèles gaussiens dont sont dérivés des paramètres fournis au modèles acoustiques neuronaux. Enfin, cette étude présente une comparaison du comportement des modèles BLSTM-CTC avec celui de modèles markoviens associés à un time-delay neural network (TDNN). of feature-space speaker adaptation for end-to-end acoustic models. This paper investigates speaker adaptation techniques for bidirectional long short term memory (BLSTM) recurrent neural network based acoustic models trained with the connectionist temporal classification (CTC) objective function. BLSTM-CTC AMs play an important role in end-to-end automatic speech recognition systems. However, there is a lack of research in speaker adaptation algorithms for these models. We explore three different feature-space adaptation approaches for CTC acoustic models : feature-space maximum linear regression, i-vector based adaptation, and maximum a posteriori adaptation using GMM-derived features. In addition, the adaptation behavior is compared for BLSTM-CTC models and time-delay neural network (TDNN) models trained with the cross-entropy criterion.
本文探索了说话的适应技术的使用为声学模型(long short term memory)型双向BLSTM)所谓的个性化训练与目标函数fi阳离子的时空认知主义(CTC)。BLSTM-CTC声学模型在自动语音识别系统中越来越重要,但迄今为止,应用说话人适应技术的研究很少。在这篇文章中,我们探索使用三种不同的方法:技术专题space likelihood最大线性回归(i-vectors fMLLR),即基于使用和操作办法,适应技术应用的最大后验(MAP) gaussiens模型,其中来源于神经在声学模型提供的参数。fin年,本研究比较了BLSTM-CTC模型的行为模式与markoviens time-delay神经网络(TDNN)相关联。这首歌于2011年9月17日在itunes上发布,并于2011年9月17日在itunes上发布。议长This paper investigates技术性调整for bidirectional long short term memory (recurrent BLSTM)“基于神经网络的声学模型的with the connectionist temporal分类fi阳离子(CTC)客观功能。BLSTM-CTC AMs在端到端自动语音识别系统中发挥着重要作用。然而,对于这些模型的扬声器自适应算法还缺乏研究。本文探讨了三种不同的特征空间适应方法:特征空间最大线性回归、基于i向量的适应和利用gmm衍生特征的最大后验适应。此外,还比较了采用交叉熵准则训练的BLSTM-CTC模型和时滞神经网络(TDNN)模型的适应行为。