Na IEEE IT2025 konferenciji na Žabljaku, istraživači sa Univerziteta Donja Gorica predstavili su svoje najnovije istraživanje o primjeni vještačke inteligencije (AI) u dijagnostici raka dojke. Istraživanje se bavi upotrebom modela dubokog učenja, ResNet152 i DenseNet121, za analizu mamografskih snimaka. Pored kliničkih rezultata, studija naglašava značaj korišćenja računarske infrastrukture visokih performansi (HPC) za optimizaciju obuke i evaluacije modela. Prenošenjem eksperimentalne postavke na HPC resurse, otvaraju se putevi za brže razvojne cikluse, istraživanje složenijih arhitektura i skalabilnost za primjenu u stvarnim uslovima.
Abstrakt – Vještačka inteligencija brzo unapređuje medicinu pružajući inovativne pristupe dijagnostici bolesti, tretmanu i istraživanju. Ova studija istražuje primjenu vještačke inteligencije u dijagnostici raka dojke, fokusirajući se na upotrebu konvolutivnih neuronskih mreža i dubokog učenja za analizu mamografskih snimaka. Modeli ResNet152 i DenseNet121 korišćeni su za klasifikaciju malignih promjena, pri čemu su ostvareni AUC rezultati veći od 0.9, što potvrđuje njihovu kliničku korisnost. Istraživanje ističe kako vještačka inteligencija može poboljšati efikasnost skrininga, ubrzati dijagnostičke procese i omogućiti personalizovane pristupe liječenju. Takođe su analizirani etički aspekti, uključujući bezbjednost pacijenata i transparentnost AI sistema. Nalazi ukazuju na potencijal vještačke inteligencije da transformiše dijagnostičke procedure za rak dojke i naglašavaju značaj daljih istraživanja radi integracije ovih tehnologija u kliničku praksu.
Kompanija Uhura Solutions razvija AI platformu za automatizaciju procesa zasnovanih na dokumentima u sektoru finansijskih usluga. Projekat „Generative AI Intelligent Process Automation Platform – GAIPAP“ predstavlja transformacionu inicijativu sa ciljem revolucionisanja finansijske industrije putem naprednih AI rješenja koja kombinuju mogućnosti velikih jezičkih modela (LLM), low-code razvoja i automatizovanih poslovnih tokova. Ova jedinstvena sinergija tehnologija ima potencijal da značajno unaprijedi operativnu efikasnost, smanji troškove i poboljša korisničko iskustvo u finansijskom sektoru.
Posebna vrijednost platforme leži u upotrebi prilagođenih velikih jezičkih modela koji su fino podešeni za specifične potrebe finansijskog sektora – jezik, kontekst i obrasce. To omogućava isporuku preciznijih i relevantnijih uvida u poređenju sa generičkim AI rješenjima. Dodatno, platforma omogućava skalabilnost, uvid u podatke u realnom vremenu, poboljšanje korisničkog iskustva i brzu implementaciju kroz low-code okruženje za razvoj i automatizovane poslovne tokove, čime se skraćuje vrijeme izlaska na tržište i povećava konkurentska prednost.
Projekat koristi open-source Python biblioteke i unaprijed trenirane LLM modele, koji se dodatno fino podešavaju na privatnom skupu podataka kreiranom od strane tima, sa ciljem rješavanja specifičnih zadataka u finansijskom sektoru. Korišćenje superračunara Leonardo omogućilo je značajan iskorak u treniranju LLM modela, prelazak sa 1B na 7B i veće modele. Trenutna faza projekta fokusira se na istraživanje i optimizaciju LLM-a, uključujući podešavanje hiperparametara, kvantizaciju i redukciju modela, kao i efikasno fino podešavanje modela (PEFT). Posebna pažnja posvećena je i predobradi podataka, uključujući filtriranje po kvalitetu, deduplikaciju i uklanjanje osjetljivih podataka.
Projekat, koji razvija i vodi Uhura Solutions, nagrađen je sa 4.500 nod sati GPU resursa (8x64GB) na Leonardo Buster HPC sistemu, u trajanju od 12 mjeseci.
Kako je i planirano, naš projekat AI-AGE unapređuje infrastrukturu za računare visokih performansi (HPC) kako bi podržao istraživanja zasnovana na vještačkoj inteligenciji (AI) u oblasti biomarkera starenja u medicinskim primjenama. Ova inicijativa će omogućiti našem timu pristup savremenim resursima i unaprijediti naše kapacitete za analizu podataka i razvoj prediktivnih modela. Da bismo odgovorili na zahtjeve složenih AI računanja, uz podršku AI-AGE projekta nadograđujemo postojeću HPC konfiguraciju moćnim računarskim čvorom. Novi dodatak uključuje rack računarski čvor opremljen sa 48 CPU jezgara, 128 GB RAM-a, NVIDIA L40 GPU (48 GB), i 2×480 GB internim SSD diskovima. Pored toga, projekat je omogućio NAS skladište kapaciteta 24 TB (više diskova sa RAID-om), namijenjeno za upravljanje datasetovima. Ova nadogradnja infrastrukture pažljivo je integrisana sa postojećom opremom, čime se značajno proširuju naši računski i skladišni kapaciteti i ostvaruje visoka vrijednost za uložena sredstva.
New computing infrastructure supported by the AI-AGE project as planned
Projekat AI-AGE, koji podržava Ministarstvo prosvjete, nauke i inovacija, realizuje se kroz saradnju Fakulteta za informacione sisteme i tehnologije Univerziteta Donja Gorica i Medicinskog fakulteta Univerziteta Crne Gore. In-house HPC infrastruktura je rezultat međuprojektske saradnje sa projektom HPC4S3ME (IPA program), a oba projekta se realizuju uz podršku EUROCC NCC Crna Gora. Glavni cilj laboratorije je da istraživačima omogući direktno iskustvo sa fizičkom opremom na raspolaganju, dok ćemo za kompleksnije zadatke podnositi aplikacije za korišćenje računarskog vremena na superračunarima EU.
U saradnji sa Nacionalnim centrom kompetencija Crna Gora (NCC Crna Gora), Univerzitetom Donja Gorica (UDG) i Univerzitetom Crne Gore (UCG), kompanija DigitalSmart je uspješno započela razvoj novog modela koji koristi napredne tehnologije računara visokih performansi (HPC). Ovo partnerstvo predstavlja važan korak ka primjeni HPC resursa za rješavanje složenih problema i unapređenje akademskih i industrijskih procesa u Crnoj Gori.
Novi model je osmišljen da optimizuje obradu podataka, pružajući brža i efikasnija rješenja za istraživanje i razvoj u oblasti generativne vještačke inteligencije. Korišćenje HPC tehnologija u ovom kontekstu omogućava veću skalabilnost i preciznost u analizi i obradi velikih skupova podataka.
Eksperiment je uspješno prijavljen kroz Fortissimo poziv, otvarajući put ka daljoj validaciji i primjeni ovog modela na međunarodnom nivou.
Predstavnik NCC Montenegro Luka Filipović aktivno je učestvovao kao asistent u nastavi na virtuelnom kampu „AI za naučne proračune“, koji su uz podršku kompanije Nvidia i projekta EuroCC2 uspješno organizovali nacionalni centri kompetencija Njemačke, Švedske, Austrije i Crne Gore, 25–26. juna 2024. godine.
Virtuelni kamp je ponudio sveobuhvatan uvod u duboke neuronske mreže, sa fokusom na primjene u naučnim proračunima i fizičkim sistemima definisanim diferencijalnim jednačinama. Program je obuhvatio napredne teme zasnovane na NVIDIA Modulus platformi za razvoj i treniranje modela u različitim oblastima. Ova online obuka uključivala je vođene instrukcije i podršku asistenata iz više nacionalnih centara kompetencija kako bi se olakšalo učenje i podržalo učesnike u razvoju i unapređenju AI/DL modela.
Predstavnici NCC Montenegro, u zajedničkom radu sa mladim istraživačima sa UDG-a, objavili su dva naučna rada na konferenciji SymOrg 2024, koju organizuje Fakultet organizacionih nauka Univerziteta u Beogradu, a koja se održala na Zlatiboru, Srbija, od 12. do 14. juna 2024. godine. Konferencija je tradicionalno osmišljena kao platforma za inovaciju znanja i empirijska istraživanja, okupljajući predstavnike naučne i stručne zajednice, a ovogodišnja tema bila je: „Otključavanje skrivenog potencijala organizacije spajanjem ljudi i digitalnog“, sa ciljem adresiranja novonastale potrebe za ravnotežom u eri vještačke inteligencije.
Image source: SymOrg 2024 website
Naučni rad „Detekcija skolioze“ autora Elvis Taruh, Enisa Trubljanin i Dejan Babić istražuje primjenu modela dubokog učenja integrisanog sa veb aplikacijom za detekciju skolioze koristeći rendgenske snimke. Koristeći skup od 198 rendgenskih snimaka sa Roboflow platforme, inicijalni rezultati modela nisu bili zadovoljavajući, pa je izvršena ručna anotacija 245 snimaka, što je značajno poboljšalo preciznost modela. Za treniranje su korišćena dva modela bazirana na YOLOv8, savremenom algoritmu za detekciju objekata. Veb aplikacija, razvijena pomoću Flask, HTML, CSS i JavaScript, pruža korisnički interfejs za analizu rezultata detekcije, dok je backend baziran na MySQL bazi podataka za upravljanje snimcima i prikaz rezultata. Mjerne metrike pokazuju da je drugi model, sa unaprijeđenim anotacijama i augmentacijom, imao bolje performanse, izbjegao overfitting i pokazao veću preciznost. Ovaj pristup doprinosi ranijoj dijagnostici skolioze i nudi skalabilno rješenje za druge medicinske izazove, omogućavajući zdravstvenim radnicima preciznije dijagnostičke alate i bolju brigu o pacijentima.
Click on image to open SymOrg 2024 proceedings
U radu „LLM konzistentna pristrasnost karaktera“, autori Igor Ćulafić i Tomo Popović istražuju potencijal velikih jezičkih modela (LLM) za imitaciju karaktera u medijima, obrazovanju i zabavi. Dok se LLM obično koriste za pretragu weba ili programiranje, ovo istraživanje se fokusira na njihovu sposobnost oponašanja specifičnih likova iz književnosti. Korišćen je dataset iz antologije Ciaphas Cain iz univerzuma Warhammer 40k, a modeli su trenirani pomoću LoRA (Low-Rank Adaptation) metode. Testirana su tri modela različitih veličina (1.1B, 7B i 10.7B parametara), a treniranje je obavljeno na NVIDIA RTX 4090 GPU. Istraživanje je pokazalo da su veći modeli (7B i 10.7B) imali bolju konzistentnost u ponašanju karaktera, iako su povremeno imali problema sa detaljima i prikazivali neočekivana ponašanja poput prekomjerne upotrebe emotikona. Najmanji model (1.1B), i pored viših LoRA Rank parametara, bio je manje efikasan i sklon greškama poput ponavljanja odgovora i bespotrebnih izlaganja. Autori zaključuju da LLM modeli mogu uspješno imitirati fikcionalne likove uz odgovarajuće podatke i treniranje, a buduća poboljšanja bi ih mogla učiniti korisnim u obrazovanju i terapiji. Modeli imaju potencijal za obogaćivanje interaktivnog iskustva u tematskim parkovima, video igrama i edukativnim alatima. Ipak, autori upozoravaju da se ovi modeli ne koriste kao zamjena za terapeute zbog njihovih ograničenja i mogućih netačnosti.
Click on image to open SymOrg 2024 proceedings
Oba naučna rada su djelimično podržana kroz EuroCC2 projekat, koji finansira Zajedničko preduzeće za evropsko visokoperformantno računarstvo (EuroHPC JU) u okviru ugovora o grantu br. 101101903.
NCC Crna Gora je uspješno podnio prijedlog br. EHPC-BEN-2023B12-015 Model visoko-rezolutivne vremenske prognoze za Crnu Goru, na poziv za Benchmark pristup EuroHPC resursima, u saradnji sa Institutom za hidrometeorologiju i seizmologiju Crne Gore (IHMS), na VEGA CPU sistemu za period od 15.01. do 15.04.2024. Cilj projekta bio je korišćenje EuroHPC resursa za uspostavljanje i testiranje modela precizne vremenske prognoze u složenoj topografiji Crne Gore, unapređenje postojećih meteoroloških modela i povećanje tačnosti vremenskih prognoza, posebno kada je riječ o ekstremnim vremenskim uslovima.
Za potrebe simulacija korišćen je Weather Research and Forecasting Non-Hydrostatic Mesoscale Model (WRF-NMM), koji kombinuje napredne numeričke tehnike i HPC kako bi se proučavale atmosferske pojave uz visoku prostornu i vremensku rezoluciju, i omogućile tačne i efikasne simulacije regionalnih vremenskih obrazaca. Ključne aktivnosti uključivale su instalaciju i fino podešavanje modela na osnovu prethodnih verifikacionih rezultata, pripremu ulaznih podataka, izvođenje i dodatno podešavanje modela, kao i analizu rezultata u kontekstu vremenske prognoze i performansi paralelnog računanja. WRF model je testiran na kompleksnom crnogorskom terenu pri rezolucijama od 0.5km, 1km, 3km i 5km. Skalabilnost aplikacije testirana je na do 8 čvorova, sa izvođenjem do 1024 zadatka simultano. Simulacije su rađene za različite vremenske periode, ali su rezultati i ukupno vrijeme izvođenja skalirani na dnevni period radi proračuna ubrzanja i efikasnosti aplikacije.
VEGA HPC sistem je značajno unaprijedio istraživačke kapacitete, omogućivši postizanje rezultata brže i sa većom preciznošću: skalabilnost je uspješno testirana na 64–512 CPU jezgara, a model je uspješno downscale-ovan na rezoluciju od 0.5 km. Završni izvještaj o dodijeljenom pristupu EuroHPC JU Benchmark i efikasnom korišćenju VEGA CPU sistema je dostavljen.
