Predstavnik NCC Montenegro Luka Filipović aktivno je učestvovao kao asistent u nastavi na virtuelnom kampu „AI za naučne proračune“, koji su uz podršku kompanije Nvidia i projekta EuroCC2 uspješno organizovali nacionalni centri kompetencija Njemačke, Švedske, Austrije i Crne Gore, 25–26. juna 2024. godine.
Virtuelni kamp je ponudio sveobuhvatan uvod u duboke neuronske mreže, sa fokusom na primjene u naučnim proračunima i fizičkim sistemima definisanim diferencijalnim jednačinama. Program je obuhvatio napredne teme zasnovane na NVIDIA Modulus platformi za razvoj i treniranje modela u različitim oblastima. Ova online obuka uključivala je vođene instrukcije i podršku asistenata iz više nacionalnih centara kompetencija kako bi se olakšalo učenje i podržalo učesnike u razvoju i unapređenju AI/DL modela.
Predstavnici NCC Montenegro, u zajedničkom radu sa mladim istraživačima sa UDG-a, objavili su dva naučna rada na konferenciji SymOrg 2024, koju organizuje Fakultet organizacionih nauka Univerziteta u Beogradu, a koja se održala na Zlatiboru, Srbija, od 12. do 14. juna 2024. godine. Konferencija je tradicionalno osmišljena kao platforma za inovaciju znanja i empirijska istraživanja, okupljajući predstavnike naučne i stručne zajednice, a ovogodišnja tema bila je: „Otključavanje skrivenog potencijala organizacije spajanjem ljudi i digitalnog“, sa ciljem adresiranja novonastale potrebe za ravnotežom u eri vještačke inteligencije.
Image source: SymOrg 2024 website
Naučni rad „Detekcija skolioze“ autora Elvis Taruh, Enisa Trubljanin i Dejan Babić istražuje primjenu modela dubokog učenja integrisanog sa veb aplikacijom za detekciju skolioze koristeći rendgenske snimke. Koristeći skup od 198 rendgenskih snimaka sa Roboflow platforme, inicijalni rezultati modela nisu bili zadovoljavajući, pa je izvršena ručna anotacija 245 snimaka, što je značajno poboljšalo preciznost modela. Za treniranje su korišćena dva modela bazirana na YOLOv8, savremenom algoritmu za detekciju objekata. Veb aplikacija, razvijena pomoću Flask, HTML, CSS i JavaScript, pruža korisnički interfejs za analizu rezultata detekcije, dok je backend baziran na MySQL bazi podataka za upravljanje snimcima i prikaz rezultata. Mjerne metrike pokazuju da je drugi model, sa unaprijeđenim anotacijama i augmentacijom, imao bolje performanse, izbjegao overfitting i pokazao veću preciznost. Ovaj pristup doprinosi ranijoj dijagnostici skolioze i nudi skalabilno rješenje za druge medicinske izazove, omogućavajući zdravstvenim radnicima preciznije dijagnostičke alate i bolju brigu o pacijentima.
Click on image to open SymOrg 2024 proceedings
U radu „LLM konzistentna pristrasnost karaktera“, autori Igor Ćulafić i Tomo Popović istražuju potencijal velikih jezičkih modela (LLM) za imitaciju karaktera u medijima, obrazovanju i zabavi. Dok se LLM obično koriste za pretragu weba ili programiranje, ovo istraživanje se fokusira na njihovu sposobnost oponašanja specifičnih likova iz književnosti. Korišćen je dataset iz antologije Ciaphas Cain iz univerzuma Warhammer 40k, a modeli su trenirani pomoću LoRA (Low-Rank Adaptation) metode. Testirana su tri modela različitih veličina (1.1B, 7B i 10.7B parametara), a treniranje je obavljeno na NVIDIA RTX 4090 GPU. Istraživanje je pokazalo da su veći modeli (7B i 10.7B) imali bolju konzistentnost u ponašanju karaktera, iako su povremeno imali problema sa detaljima i prikazivali neočekivana ponašanja poput prekomjerne upotrebe emotikona. Najmanji model (1.1B), i pored viših LoRA Rank parametara, bio je manje efikasan i sklon greškama poput ponavljanja odgovora i bespotrebnih izlaganja. Autori zaključuju da LLM modeli mogu uspješno imitirati fikcionalne likove uz odgovarajuće podatke i treniranje, a buduća poboljšanja bi ih mogla učiniti korisnim u obrazovanju i terapiji. Modeli imaju potencijal za obogaćivanje interaktivnog iskustva u tematskim parkovima, video igrama i edukativnim alatima. Ipak, autori upozoravaju da se ovi modeli ne koriste kao zamjena za terapeute zbog njihovih ograničenja i mogućih netačnosti.
Click on image to open SymOrg 2024 proceedings
Oba naučna rada su djelimično podržana kroz EuroCC2 projekat, koji finansira Zajedničko preduzeće za evropsko visokoperformantno računarstvo (EuroHPC JU) u okviru ugovora o grantu br. 101101903.
Predstavnica NCC Crna Gora, gospođa Sanja Nikolić, učestvovala je na HPC MasterClass događaju, koji je održan u hibridnom formatu na Univerzitetu „Ovidius“ u Konstanci (20–24.05.2024), u suorganizaciji sa NCC Rumunija. Drugi dan treninga bio je posvećen razmjeni iskustava NCC centara u akademskoj primjeni HPC tehnologija i istraživačke izvrsnosti, gdje su svoje aktivnosti predstavili i predstavnici iz NCC Portugala, Crne Gore, Bugarske, Francuske i Luksemburga. Gospođa Nikolić je predstavila razvoj obrazovnog ekosistema HPC+ (HPC i srodne tehnologije) u Crnoj Gori, koji intenzivno podstiču projekat EuroCC, NCC Crna Gora i Univerzitet Donja Gorica.
NCC Crna Gora je fokusiran na razvoj akademskih programa, kurseva i trening portfolija u oblastima HPC/HPDA/AI, prateći strukturiran i održiv obrazovni put:
Sezonske škole posvećene HPC/AI temama („Open Mind Academy“) koje podstiču srednjoškolce i tehno-entuzijaste da upišu akademske programe u ovim oblastima.
Rekonstruisani osnovni programi (M1-Razvoj softvera i M2-Digitalna transformacija) i prvi nacionalno akreditovani master program iz oblasti vještačke inteligencije na Fakultetu za informacione sisteme i tehnologije.
Profesionalni kursevi, radionice i umrežavanja za akademsku i privrednu zajednicu, sa ciljem sticanja traženih znanja i vještina u oblastima HPC/AI, kao i praktičnih sesija korišćenja superračunara.
Trening portfolio NCC Crna Gora obuhvata i tehnološki specifična znanja (HPC sistemska arhitektura i aplikacije, paralelno programiranje, Python, duboko učenje, Edge IoT, kompjuterska vizija, NLP), ali i sektorski prioritetne oblasti definisane Strategijom pametne specijalizacije Crne Gore (energetika, zdravstvo, turizam, poljoprivreda, ICT).
NCC Crna Gora takođe koristi zajedničke mogućnosti obuke unutar panevropske NCC mreže – kako bi iskoristio njihovu ekspertizu i resurse u oblasti HPC-a, kao i produktivnu saradnju sa ključnim akterima u Crnoj Gori (privredna udruženja, tehnička udruženja, institucije za finansiranje) – s ciljem podizanja svijesti, širenja uticaja i povećanja primjene HPC/AI tehnologija na nacionalnom nivou.
Bootcamp „AI za naučno računarstvo“ pruža korak-po-korak uvod u osnove dubokih neuronskih mreža i vodi učesnike kroz praktično iskustvo izgradnje i poboljšanja modela dubokog učenja za primjene u naučnom računarstvu i fizičkim sistemima definisanim diferencijalnim jednačinama. Materijal pokriva i napredne teme kao što su neuronske mreže vođene fizičkim principima (PINNs) i učenje operatora, uz korišćenje alata poput NVIDIA Modulus za razvoj i treniranje modela. Ovaj onlajn bootcamp je iskustvo praktičnog učenja, gdje će učesnici pratiti uputstva korak po korak, uz podršku asistenata tokom čitavog trajanja obuke.
Bootcamp će se održati virtuelno tokom tri dana, od 25. do 26. juna, i organizuju ga: Centar za računare visokih performansi u Štutgartu (HLRS), Superračunarski centar Julih (JSC), Lajbnic superračunarski centar (LRZ), Naučni klaster Beča (VSC), Univerzitet Donja Gorica, Istraživački instituti Švedske – RISE, Univerzitet Linkoping, organizacija OpenACC i NVIDIA za EuroCC Austrija, EuroCC@GCS, EuroCC Crna Gora i EuroCC Švedska – sve nacionalni centri kompetencija za računare visokih performansi.
Naučni rad pod nazivom „Manipulacija izlaza putem LoRA za generativnu vještačku inteligenciju“, autora I. Čulafić i saradnici, predstavljen je na 23. Međunarodnom simpozijumu INFOTEH-JAHORINA, koji je održan u periodu od 20. do 22. marta 2024. godine. Trening modela za predikciju trajao je oko šest sati na NVIDIA RTX 4090 GPU sa 24GB VRAM memorije. Ovo istraživanje poslužiće kao osnova za buduće eksperimente na HPC resursima. Rad je objavljen u IEEE Xplore bazi i dostupan je na linku: https://ieeexplore.ieee.org/document/10495995
APSTRAKT – Generativna vještačka inteligencija je posljednjih godina doživjela nagli porast popularnosti, obilježen pojavom revolucionarnih modela kao što su DALL-E 2, Midjourney i Stable Diffusion, koji su predvodili napredak u ovoj tehnološkoj oblasti. Cilj ovog istraživanja je korišćenje potencijala Stable Diffusion modela i njegovih ekstenzija u svrhu treniranja LoRA (Low-Rank Adaptation) modela za generisanje slika koje vjerno odražavaju originalne motive, koristeći unaprijed određeni broj primjera iz skupa podataka. Primarni cilj istraživanja je prikaz mogućnosti Stable Diffusion i generativne AI tehnologije u širem kontekstu, istraživanje mogućnosti koje nude open-source okviri, isticanje izazova povezanih sa loše organizovanim skupovima podataka za obuku, kao i prednosti kvalitetno organizovanih i obrađenih podataka. U radu je sprovedena komparativna analiza različitih diffusion modela i različitih jačina LoRA parametara. Istraživanje takođe ima za cilj da uporedi rezultate dobijene treniranjem sa većim brojem parametara na malim i relativno velikim skupovima podataka, kako bi se utvrdilo da li je pretreniranje i overfitting izraženije kod manjih ili većih datasetova.
NCC Crna Gora i NCC Španija, saradnici na EuroCC projektu, organizovali su „Radionicu o HPC i vještačkoj inteligenciji“ namijenjenu akademskoj zajednici, studentima i istraživačima koji su zainteresovani da nauče kako se vještačka inteligencija i visokoperformansno računarstvo koriste u stvarnim scenarijima. To je postignuto kroz pet predavanja koja su održali predavači iz Španije i Crne Gore, predstavljajući uspješne studije slučaja:
Borja Perez Pavon, sa Univerziteta u Kantabriji, govorio je o HPC sistemima i naglasio da su dostupni za različite istraživačke projekte putem raznih javnih poziva za besplatan pristup.
Ivan Jovović, istraživač u oblasti vještačke inteligencije i doktorand na Univerzitetu Donja Gorica, objasnio je upotrebu više GPU-ova za obradu velikih skupova podataka, kao i prednosti i mane paralelizma podataka.
Stevan Ćakić, doktorand na Univerzitetu Donja Gorica, govorio je o primjeni vještačke inteligencije i HPC-a u poljoprivredi, sa posebnim osvrtom na duboko učenje i visokoperformansno računarstvo.
Ahmad Al Mughrabi, aktivni istraživač i multidisciplinarni predoktorski stipendista na Univerzitetu Barselona, diskutovao je o primjeni HPC-a i generativne vještačke inteligencije, ukazujući na određene izazove koje treba uzeti u obzir prilikom implementacije HPC-a u stvarnim scenarijima.
Dejan Babić, doktorand na Univerzitetu Donja Gorica, predstavio je koncept upotrebe vještačke inteligencije i HPC-a u medicini.
U periodu od 21. do 24. februara u Žabljaku će se tradicionalno održati međunarodna naučno-stručna konferencija „INFORMACIONE TEHNOLOGIJE 2024“. Ova naučno-stručna konferencija se održava već 28 godina zaredom, sa ciljem sveobuhvatnog i multidisciplinarnog sagledavanja aktuelnih i razvojnih trendova u oblasti informacionih i komunikacionih tehnologija.
Konferencija se održava u organizaciji Univerziteta Crne Gore – Elektrotehnički fakultet, Univerziteta Donja Gorica – Fakultet za informacione sisteme i tehnologije, IT društva Crne Gore, Univerziteta u Beogradu – Fakultet organizacionih nauka, Instituta inženjera elektrotehnike i elektronike – IEEE asocijacije i IEEE sekcije za Srbiju i Crnu Goru, uz punu podršku kompanije Čikom iz Podgorice.
Click to watch the video announcement (in Montenegrin)
Konferencija će obuhvatiti predavanja i okrugle stolove o razvojnim trendovima u oblasti informacionih i komunikacionih tehnologija, kao i o aktuelnim problemima u ovoj oblasti u Crnoj Gori. U dogovoru sa Organizacionim odborom Konferencije, zainteresovane institucije su pozvane da organizuju prezentacije svojih naučnih, istraživačkih, stručnih, razvojnih i proizvodnih projekata i dostignuća. Pored navedenog, na Konferenciji će biti predstavljeni i radovi koji su prijavljeni i recenzirani.
Pozivamo sve zainteresovane da aktivnosti na Konferenciji prate i online, putem linkova za video konferenciju dostupnih na zvaničnom sajtu Konferencije.
