Dana 29. juna 2026. godine uspješno je odbranjen master rad pod nazivom „Kvantizacija Edge AI modela u IoT sistemima“, kandidata Žarka Peruničića, u okviru master programa Vještačka inteligencija na Univerzitetu Donja Gorica. Kroz učešće u realizaciji programa, mentorski rad i podršku praktično orijentisanim istraživanjima u oblastima vještačke inteligencije, HPC-a i Interneta stvari, NCC Montenegro doprinosi razvoju naprednih kompetencija za efikasnu primjenu AI modela na uređajima sa ograničenim resursima. Rad se bavi važnim izazovom u oblasti Edge AI, kroz evaluaciju različitih strategija kvantizacije modela računarskog vida u IoT okruženjima.
APSTRAKT – Edge AI sistemi u okruženju Interneta stvari (IoT) zahtijevaju modele vještačke inteligencije koji su dovoljno mali, brzi i pouzdani za rad na uređajima sa ograničenim resursima. U ovom radu ispituje se kako kvantizacija, kao postupak optimizacije modela, utiče na performanse modela računarskog vida na zadatku klasifikacije bolesti listova vinove loze. Kao referentni model korišćen je MobileNetV2, a zatim su u okruženju TensorFlow Lite pripremljene njegove optimizovane varijante u FP16 i INT8 režimima kvantizacije, uključujući dinamičku INT8 kvantizaciju, punu INT8 kvantizaciju zasnovanu na reprezentativnom skupu podataka i INT8 varijantu dobijenu treniranjem prilagođenim kvantizaciji (QAT) na dodatnom, zahtjevnijem skupu podataka. Eksperimenti su sprovedeni nad očišćenim i ponovo formiranim podskupovima, nakon kontrole kvaliteta javno dostupnih skupova i uklanjanja redundantnih i vizuelno ekvivalentnih uzoraka. U kontrolisanim uslovima analizirane su latencija, stabilnost izvršavanja, maksimalna procesna memorija (peak RAM), veličina modela i tačnost.
Na kontrolisanijem skupu podataka puna INT8 kvantizacija nakon treniranja ostvaruje najpovoljniji odnos između efikasnosti, stabilnosti i veličine modela, uz očuvanje tačnosti, dok dinamička INT8 kvantizacija, uprkos manjoj veličini modela, može mjerljivo usporiti izvršavanje modela. Na zahtjevnijem, terenskom skupu podataka obrazac se djelimično mijenja: iako puna INT8 kvantizacija ostaje najbrža varijanta, INT8 model dobijen QAT pristupom ostvaruje najpovoljniji ukupni odnos između tačnosti, veličine modela i latencije. Rezultati pokazuju da efekat kvantizacije ne zavisi samo od numeričke preciznosti, već i od karakteristika podataka, postupka kalibracije i usklađenosti modela sa izvršnim okruženjem. Zaključuje se da izbor kvantizacione strategije treba potvrditi empirijski za konkretan scenario primjene, umjesto da se unaprijed pretpostavi.