Skip to content

Pattern Recognition and Machine Learning (SUR)

Links

go back to list of courses

Page content

Annotation
Syllabus
Requirements
Literature

Credits: 6 ( Lectures: 3, Practical lessons: 2)
Semester: ZS
Ending: zp; zk
Guarantor: Psutka Josef
Lecturer: Psutka Josef Psutka Josef V.
Practical lesson lecturer: Psutka Josef, Psutka Josef V.

Annotation

Course objectives:
The goal of the course is to present an overview of fundamental methods of problem solving, machine learning and pattern recognition. Students acquire theoretical and practical knowledge to solve selected problems from the area discussed in the course. 
Requirements on student
Coming to the exam will be conditioned by elaborating individual task supplemented by written report. The exam will contain both the written and the oral parts. 
Content
Introduction, problem solving algorithms, optimal and suboptimal search, Astar. 
Classification based on Bayes decision theory. Maximum-Likelihood estimation, EM algorithm. Linear discriminant function. SVM (Support Vector Machines) classifier. 
Neural and Bayesian networks. 
Context dependent classifiers, dynamic programming approach, Hidden Markov models. 
Learning with decision trees. 
Unsupervised learning and clustering (iterative optimization, hierarchical clustering). Gaussian mixtures, clustering with maximum likelihood. 
Feature extraction and selection methods. Principal and Independent Component Analysis. 
Conclusion. 

Syllabus

Úvod, strojové řešení úloh. Algoritmy prohledávání grafů, optimální a suboptimální strategie prohledávání, Astar. 
Klasifikační úloha. Klasifikace založená na Bayesově teorie rozhodování. Odhad parametrů pravděpodobnostního klasifikátoru metodou maximální věrohodnosti. EM algoritmus. Lineární klasifikátory. SVM (Support Vector Machines) klasifikátory. 
Neuronové sítě. Bayesovské sítě. 
Klasifikátory pro předměty a jevy popsané řetězci (vektorů) příznaků, kontextově závislé klasifikátory; klasifikace na principu porovnávání vzorů (dynamické programování); Klasifikace s využitím skrytých Markovových modelů. 
Učení s využitím rozhodovacích stromů. 
Učení bez učitele, hierarchické a nehierarchické metody shlukování. Gaussovské směsi, shlukování s maximální věrohodností. 
Výběr a uspořádání příznaků, Karhunen-Loeve transformace, Independent Component Analysis. 
Závěr, rezerva. 



Requirements

Zápočet: Samostatné vyřešení zadané úlohy (PC), vypracování referátu, účast na vybraných cvičeních nebo (externí) vyřešení odpovídajících příkladů. 
Zkouška: znalost přednášené problematiky + diskuze k samostatně vyřešeným úlohám (ze cvičení). 



Literature

  • Rozšiřující: Kotek, Z., Mařík, V., Hlaváč, V., Psutka, J., Zdráhal, Z. Metody rozpoznávání a jejich aplikace. Academia, Praha, 1993. ISBN 80-200-0297-9. 
  • Rozšiřující: Duda, R.O., Hart, P.E., Stork, D.G. Pattern Classification. Wiley, 2000. ISBN 978-0-471-05669-0. 
  • Doporučená: Theodoridis, S., Kouroumbas, K. Pattern recognition. Elsevier, 2008. ISBN 978-1-597-49272-0. 
  • Doporučená: Bishop, C.M. Pattern Recognition and Machine Learning. Springer, 2006. ISBN 978-0387-31073-2. 
  • Doporučená: Mařík V. a kol. Umělá inteligence 1. Academia, Praha, 1993. ISBN 80-200-0496-3.