Strojno učenje

2021/2022
Program:
Interdisciplinarni magistrski študijski program 2. stopnje Računalništvo in matematika
Letnik:
1 in 2 letnik
Semester:
prvi
Vrsta:
izbirni
ECTS:
6
Jezik:
slovenski, angleški
Nosilec predmeta:

Igor Kononenko

Izvajalec (kontaktna oseba):

Igor Kononenko

Ure na teden – 1. semester:
Predavanja
3
Seminar
0.4
Vaje
1.6
Laboratorij
0
Pogoji za vključitev v delo oz. za opravljanje študijskih obveznosti

Potrebno je poznavanje verjetnostenga računa, statistike, programiranja, osnov strojnega učenja in preiskovalnih algoritmov.

Vsebina

Predavanje:
1. Pregled metod strojnega učenja
2. Kaj je učenje in relacija učenja z inteligenco
3. Pregled potrebnega predznanja
4. Napredne metode za ocenjevanje atributov
5. Napredne metode za ocenjevanje rezultatov in vizualizacije
6. Kombiniranje algoritmov strojnega učenja
7. Bayesovsko učenje
8. Kalibracija verjetnosti, razlaga posameznih predikcij
9. Numerične metode strojnega učenja
10. Umetne nevronske mreže: Hopfieldove nevronske mreže, RBF, globoke nevronske mreže
11. Nenadzorovano učenje: razvrščanje, povezovalna pravila, prostorsko podatkovno rudarjenje
12. Konstruktivna indukcija, zanesljivosti predikcij
13. rudarjenje besedil, matrična faktorizacija, analiza arhetipov
14. Ostali pristopi k strojnemu učenju
15. Uvod v formalno teorijo naučljivosti
Vaje:
Na vajah bodo študenti utrjevali snov, ki so jo obravnavali na predavanjih, tako da jo bodo uporabili pri reševanju praktičnih problemov. Pri tem bodo poudarki na samostojnem delu študentov ob pomoči asistentov. Študenti bodo v manjših skupinah samostojno reševali realen problem pod mentorstvom različnih strokovnjakov s področja strojnega učenja in odkrivanja znanj iz podatkov. Skupine bodo svoje naloge in rešitve opisale v pisnem poročilu in predstavile ostalim v obliki kratke predstavitve, ter s tem dobili oceno iz vaj.

Temeljni literatura in viri

Igor Kononenko and Matja.ž Kukar: Machine Learning and Data Mining. Horwood Publ., 2007.
Dodatna/Additional:
David J. Hand, Heikki Mannila, Padhraic Smyth: Principles of Data Mining. The MIT Press, 2001.
Ian H. Witten, Eibe Frank: Data Mining: Practical Machine Learning Tools and Techniques. Morgan Kaufmann, 1999.

Cilji in kompetence

Cilj predmeta je predstaviti teoretične osnove in osnovne principe metod strojnega učenja, osnovne algoritme strojnega učenja in njihove uporabe v praksi za iskanje zakonitosti iz podatkov ter za učenje klasifikacijskih in regresijskih modelov. Študenti bodo teoretično znanje praktično uporabili na realnih problemih iz znanstvenega in poslovnega okolja. Študenti bodo za dani problem sposobni presoje, katero od predstavljenih tehnik uporabiti, ter sestaviti prototip rešitve.
Kompetence:
Kompetence iz računalništva in informatike, ki omogočajo nadaljevanje študija na 3. stopnji (doktorski študij). Zmožnost prenosa znanja na sodelavce v tehnoloških in raziskovalnih skupinah. Zmožnost razumevanja in uporabe znanja iz računalništva in informatike v ostalih tehničnih in relevantnih področjih (ekonomija, organizacijske vede itd.). Zmožnost uporabiti pridobljenega znanja za reševanje tehničnih in znanstvenih problemov v računalništvu in informatiki, zmožnost nadgrajevanja pridobljenega znanja. Zmožnost preiskovanja virov znanja in iskanja virov in kritično oceniti informacijo. Zmožnost kritičnega, analitičnega in sintetičnega razmišljanja.

Predvideni študijski rezultati

Z uspešno zaključenim predmetom bo študent:

  • sposoben uporabe različnih tehnik in metod, ki se uporabljajo pri modeliranju podatkov s strojnim učenjem. Sposoben bo za analizo, sintezo in predvidevanje rešitev ter njihovih posledic konkretnih problemov z uporabo znanstvenih metod.
  • lahko uporabil predstavljene metod na konkretnih problemih iz znanstvenega in poslovnega okolja. Poznal bo in uporabil orodja za modeliranje in podatkovno rudarjenje. Fleksibilno bo lahko uporabljal znanja v praksi. - sposobnen bo povezovanja znanja z različnih področij in jih uporabljal v praksi.
  • razlikoval bo med različnimi pristop strojnega učenja, med njihovimi prednostmi in slabostmi in bo lahko izbral ustrezen prostop za reševanje konkretnega problema iz podatkovnega rudarjenja.
  • s principi modelov, naučenih iz podatkov, bo lahko izboljšal uporabnost in uspešnost analiziranega sistema.
Metode poučevanja in učenja

Predavanja, vaje z ustnimi nastopi in predstavitvami, seminarski način dela in reševanje domačih nalog, ki spodbujajo sprotno učenje. Poseben poudarek je na sprotnem študiju in na samostojnem delu pri vajah in seminarjih.

Načini ocenjevanja

Sprotno preverjanje (domače naloge, kolokviji in projektno delo)
Končno preverjanje (pisni in ustni izpit)
(ocene: 5 (negativno), 6-10 (pozitivno), ob upoštevanju Statuta UL)

Reference nosilca

Pet najpomembnejših del:
I.Kononenko, M.Kukar: Introduction to Machine Learning and Data Mining: Introduction to Principles and Algorithms, Horwood Publishing, 2007. XIX, 454 pages.
E. Štrumbelj, I.Kononenko. An efficient explanation of individual classifications using game theory. Journal of machine learning research, ISSN 1532-4435, 2010, vol. 11, no. [1], p. 1-18
Z. Bosnić, I. Kononenko. Automatic selection of reliability estimates for individual regression predictions. Knowledge engineering review, ISSN 0269-8889, 2010, vol. 25, no. 1, p. 27-47.
Robnik-Šikonja, M., Kononenko, I. Theoretical and empirical analysis of ReliefF and RReliefF. Machine Learning. [Print ed.], 2003, vol. 53, str. 23-69.
Machine learning for medical diagnosis: History, state of the art and perspective, Invited paper, Artificial Intelligence in Medicine - ISSN 0933-3657, 23:89-109, 2001.
Celotna bibliografija je dostopna na SICRISu:
http://sicris.izum.si/search/rsr.aspx?lang=slv&,id=5066.