Kao dio orijentacione nedjelje za nove studente, EuroCC Nacionalni centar kompetencija Crna Gora organizovao je radionicu o superračunarstvu sa ciljem da upozna nove univerzitetske studente sa uzbudljivim svijetom računara visokih performansi (HPC).
Radionica je sadržala interaktivne sesije tokom kojih su studenti mogli da steknu uvide u savremene tehnologije koje se koriste u superračunarstvu, kao što su paralelna obrada, inteligentni algoritmi i analitika podataka. Stručnjaci iz NCC-a su vodili učesnike kroz tehničke osnove HPC sistema, demonstrirali primjene u stvarnom svijetu koje se odnose na obradu velikih podataka i napredno AI modeliranje, ali su takođe pružili primjere akademskih studija slučaja i industrijskih primjena, uključujući i crnogorske uspješne priče.
Cilj radionice bio je i da se pruži kratak pregled akademskih programa povezanih sa HPC/AI, portfolija obuka i aktivnosti NCC-a, kako bi se studentima pokazalo na koji način mogu iskoristiti resurse superračunara za akademske projekte i naučna istraživanja, ili čak za startap ideje i potencijalnu saradnju sa industrijom.
Upoznavanjem novih studenata sa potencijalom superračunarstva na samom početku njihovog akademskog puta, NCC ima za cilj da podrži razvoj studenata u karijerama sa velikom potražnjom vođenim tehnologijom, i da podstakne zajednicu inovativnih mislilaca spremnih da se suoče sa složenim i ključnim izazovima savremenog svijeta.
Univerzitet Donja Gorica, uz podršku Fonda za inovacije Crne Gore, u okviru programa za organizaciju edukacije u oblastima pametne specijalizacije Crne Gore, organizuje tromjesečnu obuku pod nazivom „AIFUSION – Vještačka inteligencija u poljoprivredi, medicini i energetici“. Kurs će se održavati u periodu od kraja septembra (21. septembar) do kraja decembra (21. decembar) 2024. godine.
Edukativni program je podijeljen u 5 modula:Uvod u vještačku inteligenciju, Kompjuterska vizija, Obrada prirodnog jezika, Vještačka inteligencija i S3 u praksi i Etika i odgovorna upotreba vještačke inteligencije i rad na završnom projektu.
Osim što će učesnici steći dovoljno znanja i vještina potrebnih za dalja istraživanja u ovoj veoma aktuelnoj oblasti, imaće i priliku da prošire svoju mrežu poznanstava i upoznaju mlade ljude sličnih interesovanja.
Za prijavu je potrebno popuniti Google formu na linku: https://forms.gle/f8Pc8ozu9U3tHKY98. Prijave traju do 20. septembra (do 23:59 časova), a početak kursa je planiran za 21. septembar.
Predstavnik NCC Montenegro Luka Filipović aktivno je učestvovao kao asistent u nastavi na virtuelnom kampu „AI za naučne proračune“, koji su uz podršku kompanije Nvidia i projekta EuroCC2 uspješno organizovali nacionalni centri kompetencija Njemačke, Švedske, Austrije i Crne Gore, 25–26. juna 2024. godine.
Virtuelni kamp je ponudio sveobuhvatan uvod u duboke neuronske mreže, sa fokusom na primjene u naučnim proračunima i fizičkim sistemima definisanim diferencijalnim jednačinama. Program je obuhvatio napredne teme zasnovane na NVIDIA Modulus platformi za razvoj i treniranje modela u različitim oblastima. Ova online obuka uključivala je vođene instrukcije i podršku asistenata iz više nacionalnih centara kompetencija kako bi se olakšalo učenje i podržalo učesnike u razvoju i unapređenju AI/DL modela.
Predstavnici NCC Montenegro, u zajedničkom radu sa mladim istraživačima sa UDG-a, objavili su dva naučna rada na konferenciji SymOrg 2024, koju organizuje Fakultet organizacionih nauka Univerziteta u Beogradu, a koja se održala na Zlatiboru, Srbija, od 12. do 14. juna 2024. godine. Konferencija je tradicionalno osmišljena kao platforma za inovaciju znanja i empirijska istraživanja, okupljajući predstavnike naučne i stručne zajednice, a ovogodišnja tema bila je: „Otključavanje skrivenog potencijala organizacije spajanjem ljudi i digitalnog“, sa ciljem adresiranja novonastale potrebe za ravnotežom u eri vještačke inteligencije.
Image source: SymOrg 2024 website
Naučni rad „Detekcija skolioze“ autora Elvis Taruh, Enisa Trubljanin i Dejan Babić istražuje primjenu modela dubokog učenja integrisanog sa veb aplikacijom za detekciju skolioze koristeći rendgenske snimke. Koristeći skup od 198 rendgenskih snimaka sa Roboflow platforme, inicijalni rezultati modela nisu bili zadovoljavajući, pa je izvršena ručna anotacija 245 snimaka, što je značajno poboljšalo preciznost modela. Za treniranje su korišćena dva modela bazirana na YOLOv8, savremenom algoritmu za detekciju objekata. Veb aplikacija, razvijena pomoću Flask, HTML, CSS i JavaScript, pruža korisnički interfejs za analizu rezultata detekcije, dok je backend baziran na MySQL bazi podataka za upravljanje snimcima i prikaz rezultata. Mjerne metrike pokazuju da je drugi model, sa unaprijeđenim anotacijama i augmentacijom, imao bolje performanse, izbjegao overfitting i pokazao veću preciznost. Ovaj pristup doprinosi ranijoj dijagnostici skolioze i nudi skalabilno rješenje za druge medicinske izazove, omogućavajući zdravstvenim radnicima preciznije dijagnostičke alate i bolju brigu o pacijentima.
Click on image to open SymOrg 2024 proceedings
U radu „LLM konzistentna pristrasnost karaktera“, autori Igor Ćulafić i Tomo Popović istražuju potencijal velikih jezičkih modela (LLM) za imitaciju karaktera u medijima, obrazovanju i zabavi. Dok se LLM obično koriste za pretragu weba ili programiranje, ovo istraživanje se fokusira na njihovu sposobnost oponašanja specifičnih likova iz književnosti. Korišćen je dataset iz antologije Ciaphas Cain iz univerzuma Warhammer 40k, a modeli su trenirani pomoću LoRA (Low-Rank Adaptation) metode. Testirana su tri modela različitih veličina (1.1B, 7B i 10.7B parametara), a treniranje je obavljeno na NVIDIA RTX 4090 GPU. Istraživanje je pokazalo da su veći modeli (7B i 10.7B) imali bolju konzistentnost u ponašanju karaktera, iako su povremeno imali problema sa detaljima i prikazivali neočekivana ponašanja poput prekomjerne upotrebe emotikona. Najmanji model (1.1B), i pored viših LoRA Rank parametara, bio je manje efikasan i sklon greškama poput ponavljanja odgovora i bespotrebnih izlaganja. Autori zaključuju da LLM modeli mogu uspješno imitirati fikcionalne likove uz odgovarajuće podatke i treniranje, a buduća poboljšanja bi ih mogla učiniti korisnim u obrazovanju i terapiji. Modeli imaju potencijal za obogaćivanje interaktivnog iskustva u tematskim parkovima, video igrama i edukativnim alatima. Ipak, autori upozoravaju da se ovi modeli ne koriste kao zamjena za terapeute zbog njihovih ograničenja i mogućih netačnosti.
Click on image to open SymOrg 2024 proceedings
Oba naučna rada su djelimično podržana kroz EuroCC2 projekat, koji finansira Zajedničko preduzeće za evropsko visokoperformantno računarstvo (EuroHPC JU) u okviru ugovora o grantu br. 101101903.
Predstavnica NCC Crna Gora, gospođa Sanja Nikolić, učestvovala je na HPC MasterClass događaju, koji je održan u hibridnom formatu na Univerzitetu „Ovidius“ u Konstanci (20–24.05.2024), u suorganizaciji sa NCC Rumunija. Drugi dan treninga bio je posvećen razmjeni iskustava NCC centara u akademskoj primjeni HPC tehnologija i istraživačke izvrsnosti, gdje su svoje aktivnosti predstavili i predstavnici iz NCC Portugala, Crne Gore, Bugarske, Francuske i Luksemburga. Gospođa Nikolić je predstavila razvoj obrazovnog ekosistema HPC+ (HPC i srodne tehnologije) u Crnoj Gori, koji intenzivno podstiču projekat EuroCC, NCC Crna Gora i Univerzitet Donja Gorica.
NCC Crna Gora je fokusiran na razvoj akademskih programa, kurseva i trening portfolija u oblastima HPC/HPDA/AI, prateći strukturiran i održiv obrazovni put:
Sezonske škole posvećene HPC/AI temama („Open Mind Academy“) koje podstiču srednjoškolce i tehno-entuzijaste da upišu akademske programe u ovim oblastima.
Rekonstruisani osnovni programi (M1-Razvoj softvera i M2-Digitalna transformacija) i prvi nacionalno akreditovani master program iz oblasti vještačke inteligencije na Fakultetu za informacione sisteme i tehnologije.
Profesionalni kursevi, radionice i umrežavanja za akademsku i privrednu zajednicu, sa ciljem sticanja traženih znanja i vještina u oblastima HPC/AI, kao i praktičnih sesija korišćenja superračunara.
Trening portfolio NCC Crna Gora obuhvata i tehnološki specifična znanja (HPC sistemska arhitektura i aplikacije, paralelno programiranje, Python, duboko učenje, Edge IoT, kompjuterska vizija, NLP), ali i sektorski prioritetne oblasti definisane Strategijom pametne specijalizacije Crne Gore (energetika, zdravstvo, turizam, poljoprivreda, ICT).
NCC Crna Gora takođe koristi zajedničke mogućnosti obuke unutar panevropske NCC mreže – kako bi iskoristio njihovu ekspertizu i resurse u oblasti HPC-a, kao i produktivnu saradnju sa ključnim akterima u Crnoj Gori (privredna udruženja, tehnička udruženja, institucije za finansiranje) – s ciljem podizanja svijesti, širenja uticaja i povećanja primjene HPC/AI tehnologija na nacionalnom nivou.
Bootcamp „AI za naučno računarstvo“ pruža korak-po-korak uvod u osnove dubokih neuronskih mreža i vodi učesnike kroz praktično iskustvo izgradnje i poboljšanja modela dubokog učenja za primjene u naučnom računarstvu i fizičkim sistemima definisanim diferencijalnim jednačinama. Materijal pokriva i napredne teme kao što su neuronske mreže vođene fizičkim principima (PINNs) i učenje operatora, uz korišćenje alata poput NVIDIA Modulus za razvoj i treniranje modela. Ovaj onlajn bootcamp je iskustvo praktičnog učenja, gdje će učesnici pratiti uputstva korak po korak, uz podršku asistenata tokom čitavog trajanja obuke.
Bootcamp će se održati virtuelno tokom tri dana, od 25. do 26. juna, i organizuju ga: Centar za računare visokih performansi u Štutgartu (HLRS), Superračunarski centar Julih (JSC), Lajbnic superračunarski centar (LRZ), Naučni klaster Beča (VSC), Univerzitet Donja Gorica, Istraživački instituti Švedske – RISE, Univerzitet Linkoping, organizacija OpenACC i NVIDIA za EuroCC Austrija, EuroCC@GCS, EuroCC Crna Gora i EuroCC Švedska – sve nacionalni centri kompetencija za računare visokih performansi.
Naučni rad pod nazivom „Manipulacija izlaza putem LoRA za generativnu vještačku inteligenciju“, autora I. Čulafić i saradnici, predstavljen je na 23. Međunarodnom simpozijumu INFOTEH-JAHORINA, koji je održan u periodu od 20. do 22. marta 2024. godine. Trening modela za predikciju trajao je oko šest sati na NVIDIA RTX 4090 GPU sa 24GB VRAM memorije. Ovo istraživanje poslužiće kao osnova za buduće eksperimente na HPC resursima. Rad je objavljen u IEEE Xplore bazi i dostupan je na linku: https://ieeexplore.ieee.org/document/10495995
APSTRAKT – Generativna vještačka inteligencija je posljednjih godina doživjela nagli porast popularnosti, obilježen pojavom revolucionarnih modela kao što su DALL-E 2, Midjourney i Stable Diffusion, koji su predvodili napredak u ovoj tehnološkoj oblasti. Cilj ovog istraživanja je korišćenje potencijala Stable Diffusion modela i njegovih ekstenzija u svrhu treniranja LoRA (Low-Rank Adaptation) modela za generisanje slika koje vjerno odražavaju originalne motive, koristeći unaprijed određeni broj primjera iz skupa podataka. Primarni cilj istraživanja je prikaz mogućnosti Stable Diffusion i generativne AI tehnologije u širem kontekstu, istraživanje mogućnosti koje nude open-source okviri, isticanje izazova povezanih sa loše organizovanim skupovima podataka za obuku, kao i prednosti kvalitetno organizovanih i obrađenih podataka. U radu je sprovedena komparativna analiza različitih diffusion modela i različitih jačina LoRA parametara. Istraživanje takođe ima za cilj da uporedi rezultate dobijene treniranjem sa većim brojem parametara na malim i relativno velikim skupovima podataka, kako bi se utvrdilo da li je pretreniranje i overfitting izraženije kod manjih ili većih datasetova.
