Rozpoznávání a strojové učení - B4B33RPZ

Kredity 6
Semestry zimní
Zakončení zápočet a zkouška
Jazyk výuky čeština
Rozsah výuky 2P+2C
Anotace
Základní úlohou rozpoznávání je nalezení strategie rozhodování minimalizující ztrátu plynoucí z chybných rozhodnutí. Potřebná znalost o (typicky statistickém) vztahu příznaků, t.j. pozorovatelných vlastností objektů a skrytých parametrů objektů z dané třídy je získána učením. Jsou představeny základní formulace úlohy rozpoznávání a principy učení. Návrh, učení a vlastnosti základních typů klasifikátorů (perceptron, support vector machines, adaboost a neuronové sítě) jsou rozebrány do hloubky.

Tento předmět je také součástí meziuniverzitního programu prg.ai Minor. Ten spojuje to nejlepší z výuky AI v Praze s cílem poskytnout studujícím hlubší a širší vhled do oboru umělé inteligence. Více informací je k dispozici na webu https://prg.ai/minor.
Cíle studia
Naučit studenta formulovat úlohu statistického rozhodování (rozpoznávání), používat metody strojového učení, a řešit rozpoznávací úlohu pomocí nejpoužívanějších učících se klasifikátorů (SVM, Adaboost, neuronová síť, perceptron, nejbližší soused)
Osnovy přednášek
1. Úvod. Formulace úloh řešených v rozpoznávání. Mapa předmětu. Pojmy.
2. Bayesovská úloha rozhodování.
3. Nebayesovské úlohy (Neyman-Pearson, Minimax, Wald, Linnik).
4. Odhady parametrů pravděpodobnostních modelů. Metoda maximální věrohodnosti.
5. Logistická regrese.
6. Učení klasifikátoru.Lineární klasifikátor. Perceptron.
7. Učení jako kvadratický optimalizační problém. Klasifikátor typu SVM.
8. Učení metodou Adaboost.
9. Neuronové sítě. Učení metodou backpropagation.
10. Metoda nejližších sousedů. Neparametricé odhady hustoty.
11. Shlukování metodou k-means
12. Rozhodovací stromy.
13. Princial compont analysi. Fisherův linární diskriminant.
14. Rezerva. Druhý průchod látkou.
Osnovy cvičení
Studenti řeší několik rozpoznávacích úloh, např. rozpoznání ručně psaných znaků, identifikaci obličeje či detekci spamu pomocí jak klasických metod, tak pomocí učících se klasifikátorů.
1.Úvodní cvičení. Instalace STPR toolboxu, práce s Matlabem, jednoduchý příklad
2.Bayesovská úloha rozhodování.
3.Nebayesovské úlohy - úloha Neyman-Pearson
4.Nebayesovské úlohy - Minimaxní úloha
5.Maximálně věrohodný odhad
6.Neparametrické odhady Parzenova okénka
7.Lineární klasifikátor - Perceptron
8.AdaBoost
9.Support Vector Machines I
10.Support Vector Machines II
11.EM algoritmus I
12.EM algoritmus II
13.Odevzdávání a kontrola úloh
14.Odevzdávání a kontrola úloh
Literatura
1. Duda, Hart, Stork: Pattern Classification, John Willey and Sons, 2nd edition, New York,2001.
2. Schlesinger, Hlavac: Ten Lectures on Statistical and Structural Pattern Recognition, 2002 (Deset přednášek z teorie statistického a strukturního rozpoznávání, 1997).
Požadavky
Předpokládá se znalost lineární algebry, mat. analýzy a pravděpodobnosti a statistiky.