Ovo istraživanje, koje podržavaju članovi tima NCC Crna Gora i NCC Bosna i Hercegovina putem EuroCC2 i EuroCC4SEE, istražuje kako Objašnjiva vještačka inteligencija (XAI) može ojačati povjerenje i transparentnost u medicinskim AI sistemima. Primjenom XAI na prediktivne modele za održavanje respiratora, rad pokazuje kako računarstvo visokih performansi (HPC) omogućava pouzdanija, interpretabilnija i klinički korisnija AI rješenja.
Izazov / Problem
Modeli mašinskog učenja koji se koriste u medicini često funkcionišu kao “crne kutije”, nudeći tačna predviđanja, ali bez jasnog uvida u to kako se donose odluke. U područjima kritičnim za sigurnost – kao što je predviđanje kvarova medicinskih respiratora – ovaj nedostatak transparentnosti ograničava prihvatanje, usporava usvajanje i predstavlja rizik za kliničku sigurnost i usklađenost s propisima. Tumačenje ovih modela zahtijeva računski intenzivne metode koje prevazilaze standardne mogućnosti radnih stanica.
Rješenje
Studija je primijenila SHAP i LIME za interpretaciju modela mašinskog učenja obučenih na velikom skupu podataka od 75 medicinskih respiratora i 1.350 zapisa o performansama. Koristeći HPC infrastrukturu koju je obezbijedio NCC Montenegro, student je bio u mogućnosti da efikasno obučava modele, izračunava globalna i lokalna objašnjenja, upoređuje metode interpretacije i validira faktore koji su najodgovorniji za predviđanje kvara uređaja. HPC-om omogućen radni tok osigurao je brže eksperimentisanje, ponovljivost i skalabilnu analizu pogodnu za medicinske primjene. Ovaj rad je rezultirao odbranom magistarske teze koju je odbranila gđa Ivana Lalatović na Univerzitetu Donja Gorica, a dodatno ga je podržao Verlab institut koji je obezbijedio skup podataka iz stvarne industrije.
Benefiti
- Povećana transparentnost AI predviđanja kroz detaljna SHAP i LIME objašnjenja
- Brže obučavanje i interpretacija modela omogućeni HPC resursima
- Veće povjerenje i pouzdanost u sisteme medicinskog odlučivanja potpomognute AI
- Metodologija XAI za višekratnu upotrebu koja se može primijeniti na druge skupove podataka u zdravstvu i dijagnostičke zadatke