Detail předmětu

Klasifikace a rozpoznávání

FIT-KRDAk. rok: 2023/2024

Odhady parametrů pomocí metody maximální věrohodnosti a algoritmu Expectiation-Maximization, formulace objektivní funkce diskriminativního trénování, kritérium Maximum Mutual information (MMI), adaptace GMM modelů, transformace parametrů pro rozpoznávání, modelování prostoru parametrů pomocí diskriminativních podprostorů, faktorová analýza, kernelové techniky, kalibrace a fúze klasifikátorů, aplikace v rozponávání řeči, videa a textu.

Okruhy otázek k SDZ :

  1. Odhad parametrů modelu s maximální věrohodností (Maximum Likelihood)
  2. Rozložení pravděpodobnostÍ z exponenciální rodiny  (exponencial family) a postačující statistiky (sufficient statistics)
  3. Model lineární regrese a jeho pravděpodobnostní interpretace
  4. Bayesovské modely uvažující pravděpodobnostní rozložení (neurčitost) parametrů modelu
  5. Sdružené apriorní rozložení (conjugate priors) a jejich význam v bayesovských modelech
  6. Lineární diskriminační analýza (Fishers linear discriminant)
  7. Rozdíl mezi generativními a diskriminativními klasifikátory; jejich klady a zápory
  8. Perceptron a jeho učící se algoritmus jako příklad lineárních klasifikátorů
  9. Generativní lineární klasifikátor - Gaussovský klasifikátor se sdílenou kovarianční maticí
  10. Diskriminativní klasifikátor založený na lineární logistické regresi

Jazyk výuky

čeština

Garant předmětu

doc. Ing. Lukáš Burget, Ph.D.

Zajišťuje ústav

Ústav počítačové grafiky a multimédií (UPGM)

Vstupní znalosti

Základní znalost statistiky, teorie pravděpodobnosti, matematické analýzy a algebry.

Pravidla hodnocení a ukončení předmětu

Ústní zkouška.

Učební cíle

Porozumět pokročilým technikám a postupům v oblasti klasifikace a rozpoznávání a naučit se aplikovat algoritmy a metody v této oblasti na problémy rozpoznávání mluvené řeči, počítačové grafiky a zpracování přirozeného jazyka. Seznámit se způsoby vyhodnocování úspěšnosti metod. Pochopit specifika diskriminativního trénování a vytváření hybridních systémů.
Studenti se v rámci předmětu seznámí s pokročilými technikami klasifikace a rozpoznávání a naučí se aplikovat  metody v této oblasti na vybrané problémy rozpoznávání mluvené řeči, počítačové grafiky a zpracování přirozeného jazyka.

Studenti si vyzkouší obecné přístupy k řešení problémů klasifikace a rozpoznávání.

Doporučená literatura

Ian Goodfellow, Yoshua Bengio, Aaron Courville: Deep Learning, MIT Press, 2016.
Simon Haykin: Neural Networks And Learning Machines, Pearson Education; Third edition, 2016.

Zařazení předmětu ve studijních plánech

  • Program DIT doktorský 0 ročník, letní semestr, povinně volitelný
  • Program DIT doktorský 0 ročník, letní semestr, povinně volitelný
  • Program DIT-EN doktorský 0 ročník, letní semestr, povinně volitelný
  • Program DIT-EN doktorský 0 ročník, letní semestr, povinně volitelný

  • Program VTI-DR-4 doktorský

    obor DVI4 , 0 ročník, letní semestr, volitelný

  • Program VTI-DR-4 doktorský

    obor DVI4 , 0 ročník, letní semestr, volitelný

  • Program VTI-DR-4 doktorský

    obor DVI4 , 0 ročník, letní semestr, volitelný

  • Program VTI-DR-4 doktorský

    obor DVI4 , 0 ročník, letní semestr, volitelný

Typ (způsob) výuky

 

Přednáška

39 hod., nepovinná

Vyučující / Lektor

doc. Ing. Lukáš Burget, Ph.D.

Osnova

  1. Odhad parametrů Gaussova rozdělení pravděpodobnosti pomocí Maximum Likelihood (ML)
  2. Odhad parametrů směsi Gaussových rozdělení pravděpodobnosti (Gaussian Mixture Model - GMM) pomocí Expectiation-Maximization (EM)
  3. Diskriminativní trénování, úvod, formulace objektivní funkce
  4. Diskriminativní trénování s kritériem Maximum Mutual information (MMI)
  5. Adaptace GMM modelů - Maximum A-Posteriori (MAP), Maximum Likelihood Linear Regression (MLLR)
  6. Transformace parametrů pro rozpoznávání - základy, Principal component analysis (PCA)
  7. Diskriminativní transformace parametrů - Linear Discriminant Analysis (LDA) a Heteroscedastic Linear Discriminant Analysis  (HLDA)
  8. Modelování prostoru parametrů pomocí diskriminativních podprostorů - faktorová analýza
  9. Kernelové techniky, SVM
  10. Kalibrace a fúze klasifikátorů
  11. Aplikace v rozponávání řeči, videa a textu
  12. Presentace frekventantů kursu I
  13. Presentace frekventantů kursu II

Konzultace v kombinovaném studiu

26 hod., nepovinná

Vyučující / Lektor

doc. Ing. Lukáš Burget, Ph.D.