Project detail

Robust End-To-End SPEAKER recognition based on deep learning and attention models

Duration: 01.06.2019 — 31.01.2021

Funding resources

Evropská unie - Horizon 2020

- whole funder (2019-06-01 - 2021-01-31)

On the project

This project focuses on automatic speaker recognition (SID), the task of determining the identity of the speaker in a speech recording. Disentangling the speaker specific information from the rest of nuisance variability (channel, etc.) requires complex models. Deep neural networks (DNNs) have recently showed their potential for this, as the popular x-vector learnt by a DNN. Here, we aim for end-to-end SID where the system is optimized as a whole for the target task. Despite some first steps in this line, several aspects are still unexplored. We propose to explore recurrent approaches, suitable to deal with temporal signals, as well as different pooling methods to obtain a fixed-length representation from a variable length input sequence of speech, an important issue in the field. We also want to explore different flavors of attention mechanisms, which make the DNN focus on relevant parts of the input, providing a way to quantify how much evidence has been collected about the speaker identity and the uncertainty of the obtained representation, critical issue when making (Bayesian) decisions in SID. Finally, some other approaches such as using the raw signal (instead of features) or other advances that might arise will be also explored for SID and related tasks. To achieve our goals, we will start from theory, implement the proposed approaches and test on real speech data. The outcomes are intended to benefit both scientific community and speech processing industry, such as Phonexia or Nuance. The applicant Dr. Alicia Lozano-Diez is an excellent female researcher, who has done her Ph.D. at Audias (Universidad Autonoma de Madrid, Spain), a respected research lab. The host group Speech@FIT from Brno University of Technology (Czechia) has a top-class track on speech processing research. Thus, we expect the combination of both the researcher and the host to both boost the researcher career and benefit the host group (and its industrial European partners).

Description in Czech
Tento projekt se zaměřuje na automatické rozpoznávání reproduktorů (SID), úlohu určení totožnosti řečníka při záznamu řeči. Odstranění informací specifických pro reproduktory od ostatních obtížných variabilit (kanál atd.) Vyžaduje složité modely. Hloubkové neuronové sítě (DNN) nedávno prokázaly svůj potenciál, neboť populární x-vektor se naučil DNN. Zde se zaměřujeme na SID end-to-end, kde je systém optimalizován jako celek pro cílové úkoly. Přes některé první kroky v tomto směru je několik aspektů stále neprobádaných. Navrhujeme prozkoumat opakované přístupy, vhodné pro řešení časových signálů, stejně jako různé metody sdružování pro získání reprezentace s pevnou délkou ze vstupní sekvence řeči s proměnnou délkou, což je důležitá otázka v oboru. Také chceme prozkoumat různé chování mechanizmů pozornosti, které činí soustředění DNN na příslušné části vstupů a poskytují způsob, jak kvantifikovat, kolik důkazů bylo shromážděno o totožnosti řečníka a nejistotě získaného zastoupení, což je kritický problém při vytváření (Bayesovské) rozhodnutí v SID. Některé další přístupy, jako je použití syrového signálu (namísto funkcí) nebo jiné pokroky, které by mohly vzniknout, budou také zkoumány pro SID a související úkoly. Abychom dosáhli našich cílů, začneme od teorie, implementujeme navrhované přístupy a testujeme skutečné řečové údaje. Výstupy mají být přínosem jak pro vědeckou komunitu, tak pro zpracování řeči, jako je Phonexia nebo Nuance. Žadatelka Dr. Alicia Lozano-Diezová je vynikajícím výzkumným pracovníkem, který doktorskou práci vykonal. v Audias (Universidad Autonoma de Madrid, Španělsko), respektované výzkumné laboratoře. Hostitelská skupina Speech @ FIT z Vysoké školy technologické v Brně (Czechia) má špičkovou tradici výzkumu zpracování řeči. Proto očekáváme, že kombinace výzkumného pracovníka i hostitele podpoří kariéru výzkumného pracovníka a prospěje hostitelské skupině (a jejích evropských průmyslových partnerů).

Keywords
machine learning, data mining, statistical data processing and applications, numerical analysis, simulation, optimisation, modelling tools, signal processing, neural networks, connectionist systems, fuzzy logic, complexity and cryptography, electronic security, privacy, biometrics, speaker recognition, Deep Neural Networks, Attention Models, Deep Learning, Language Recognition, Speech Processing

Key words in Czech
strojní učení, dolování dat, zpracování statistických dat a aplikace, numerická analýza, simulace, optimalizace, modelovací nástroje, zpracování signálů, neuronové sítě, spojovací systémy, fuzzy logika, složitost a kryptografie, elektronická bezpečnost, Sítě, modely pozornosti, hluboké učení, rozpoznávání jazyka, zpracování řeči

Mark

843627

Default language

English

People responsible

Lozano Díez Alicia, Ph.D. - principal person responsible

Units

Department of Computer Graphics and Multimedia
- beneficiary (2018-09-12 - 2021-01-31)