Napredno strojno učenje

Pogojev za vključitev v delo ni.

Primerjava zmogljivosti algoritmov strojnega učenja na več podatkovnih množicah hkrati: frekventistični in Baesov pristop.

Učenje iz podatkovnih tokov: sprotno učenje, zadržano in zaporedno vrednotenje modelov, mehanizmi za zaznavanje sprememb, sestavljanje algoritmov za učenje iz podatkovnih tokov.

Meta učenje: izrek o brezplačnem kosilu za strojno učenje, učenje o učenju, atributni opis podatkovnih množic, parametrizacija učnih algoritmov, optimizacija vrednosti parametrov učnih algoritmov, nadomestni modeli.

Upoštevanje predznanja pri učenju: odkrivanje enačb iz podatkov in predznanja, relacijsko učenje in induktivno logično programiranje, hierarhično urejeno predznanje (taksonomije), predznanje in (globoke) umetne nevronske mreže.

Izbrane teme iz učenja (globokih) umetnih nevronskih mrež: poljubne ciljne funkcije in vzvratno razširjanje napake, izbrane topologije nevronskih mrež (avtoenkoderji, vstavitve ne- ali pol-strukturiranih podatkov), delno nadzorovano učenje.

Hastie T, Tibshirani R, Friedman J (2009) The Elements of Statistical Learning (2nd edition). New York: Springer-Verlag.

Flach P (2012) Machine learning: the art and science of algorithms that make sense of data. Cambridge: Cambridge University Press.

De Raedt L (2008) Logical and Relational Learning. Berlin: Springer-Verlag.

Predavatelj poleg tega izbere tudi primerne novejše raziskovalne članke iz znanstvenih revij.

Študent spozna napredne metode strojnega učenja, kot so strojno učenje iz podatkovnih tokov, meta učenje in avtomatska konfiguracija učnih algoritmov, upoštevanje predznanja pri strojnem učenju in učenje modelov dinamičnih sistemov. Študenti v okviru domačih in seminarskih nalog pridobljeno znanje praktično utrjujejo z nadgradnjo obstoječih algoritmov strojnega učenja in samostojno reševanje praktičnih problemov gradnje napovednih modelov iz podatkov in predznanja.

Znanje in razumevanje: Razumevanje konceptov in gradnikov algoritmov za strojno učenje.

Uporaba: Uporaba obstoječih algoritmov in razvoj nagrajenih algoritmov za reševanje praktičnih problemov iz različnih področij inženirstva in znanosti.

Refleksija: Kritični vpogled v delovanje algoritmov strojnega učenja in ugotavljanje možnosti za izboljšave, formalizacija praktičnih problemov, ki omogoča njihovo reševanje s strojnim učenjem.

Prenosljive spretnosti – niso vezane le na en predmet: Sposobnost identifikacije, formulacije in reševanja praktičnih problemov.Sposobnost snovanja napovednih modelov z algoritmi strojnega učenja. Kritično razumevanje domače in tuje znanstvene literature. Privajanje na samostojno raziskovalno delo.

predavanja, seminarji, vaje, domače naloge in konzultacije

Domače naloge

Ustni izpit

(ocene: 5 (negativno), 6-10 (pozitivno), ob upoštevanju Statuta UL)

Ljupčo TODOROVSKI:

KUZMANOVSKI, Vladimir, TODOROVSKI, Ljupčo, DŽEROSKI, Sašo. Extensive evaluation of the generalized relevance network approach to inferring gene regulatory networks. GigaScience, ISSN 2047-217X, [in press] 2018, 21 str., doi: 10.1093/gigascience/giy118.

LUKŠIČ, Žiga, TANEVSKI, Jovan, DŽEROSKI, Sašo, TODOROVSKI, Ljupčo. General meta-model framework for surrogate-based numerical optimization. V: YAMAMOTO, Akihiro (ur.). Discovery science : 20th International Conference, DS 2017, Kyoto, Japan, October 15-17, 2017 : proceedings, (Lecture notes in artificial intelligence, ISSN 0302-9743, LNAI 10558). Cham: Springer. 2017, lNAI 10558, str. 51-66.

ŠEMROV, Darja, MARSETIČ, Rok, ŽURA, Marijan, TODOROVSKI, Ljupčo, SRDIČ, Aleksander. Reinforcement learning approach for train rescheduling on a single-track railway. Transportation research. Part B, Methodological, ISSN 0191-2615. [Print ed.], 2016, letn. 86, št. apr., str. 250-267, ilustr., doi: 10.1016/j.trb.2016.01.004.

SIMIDJIEVSKI, Nikola, TODOROVSKI, Ljupčo, DŽEROSKI, Sašo. Predicting long-term population dynamics with bagging and boosting of process-based models. Expert systems with applications, ISSN 0957-4174. [Print ed.], 2015, vol. 42, no. 22, str. 8484-8496, doi: 10.1016/j.eswa.2015.07.004.

Matija PERTNAR:

– PLOTKIN, Gordon, PRETNAR, Matija. Handling algebraic effects. Logical methods in computer science, ISSN 1860-5974, 2013, vol. 9, iss. 4, paper 23 (str. 1-36) [COBISS-SI-ID 16816729]

– PRETNAR, Matija. Inferring algebraic effects. Logical methods in computer science, ISSN 1860-5974, 2014, vol. 10, iss. 3, paper 21 (str. 1-43) [COBISS-SI-ID 17190745]

– BAUER, Andrej, PRETNAR, Matija. An effect system for algebraic effects and handlers. Logical methods in computer science, ISSN 1860-5974, 2014, vol. 10, iss. 4, paper 9 (str. 1-29). http://arxiv.org/pdf/1306.6316 [COBISS-SI-ID 17191001]