Nova obuka: Inženjerstvo upita (Prompt Engineering)

Opis kursa: Inženjerstvo upita

Tokom jeseni 2024. godine, tim NCC-a na Univerzitetu Donja Gorica (UDG) razvio je novu obuku usmjerenu na upotrebu generativne vještačke inteligencije, sa posebnim fokusom na primjenu velikih jezičkih modela (LLM) u stvarnim situacijama i digitalnoj transformaciji. Obuka je razvijena na osnovu komunikacije sa studentima i predstavnicima industrije. Početna prijava u novembru obuhvatila je više od 40 studenata, od kojih se većina očekuje da završi obuku do 20. decembra.

Proučavanje inženjeringa upita predstavlja osnovnu tehniku za efikasnu interakciju sa naprednim jezičkim modelima kao što su GPT-4, LLama i drugi. Ovaj kurs omogućava studentima da steknu znanja i vještine neophodne za korišćenje transformativnog potencijala AI tehnologija, sa naglaskom na inovativne, odgovorne i industrijski relevantne primjene. U eri digitalne transformacije, gdje donošenje odluka u realnom vremenu i inteligentna automatizacija oblikuju industrije, potreba za računarskim sistemima visokih performansi (HPC) postaje ključna. Kroz proučavanje naprednih modela za obradu prirodnog jezika (NLP), studenti će ne samo razviti efikasne tehnike ispitivanja (prompting), već i razumjeti računske zahtjeve i infrastrukturu potrebnu za implementaciju ovih rješenja u velikom obimu.

Unlocking the Power of AI: The Role of High-Performance Computing in Real-Life LLM Applications and Digital Transformation

Kako veliki jezički modeli postaju sve sofisticiraniji, njihovi računski zahtjevi eksponencijalno rastu. Aplikacije poput interakcije sa korisnicima u realnom vremenu, prediktivne analitike i podrške u donošenju odluka u oblastima kao što su zdravstvo i obrazovanje, zahtijevaju HPC infrastrukturu kako bi se osigurali performanse i skalabilnost. Ovaj kurs spaja teorijsko znanje i praktičnu primjenu, pokazujući kako HPC omogućava implementaciju robusnih AI rješenja i podstiče inovacije u digitalnom dobu. Bilo da se pripremate za vođenje AI projekata u akademskom ili industrijskom okruženju, ovaj kurs vam pruža osnovna znanja za odgovornu i efikasnu primjenu AI tehnologija, pozicionirajući vas na čelo digitalne transformacije.

Pregled sadržaja kursa (12 modula):

  1. Uvod u inženjering upita – Osnovni principi, značaj i primjene strukturiranja upita.
  2. Razumijevanje AI modela – Pregled načina na koji jezički modeli obrađuju ulaze i generišu odgovore.
  3. Kontekstualna važnost – Strategije za definisanje i pružanje konteksta za optimalne AI performanse.
  4. Kreiranje efikasnih upita – Tehnike za strukturiranje, kontrolu tona i prilagođavanje stila.
  5. Napredne tehnike upita – Višekoračni upiti, integracija varijabli i zadaci specifični za scenarije.
  6. Eksperimentisanje i iterativno poboljšanje – Testiranje, analiza i usavršavanje upita za bolje rezultate.
  7. Industrijske primjene – Praktični primjeri iz medicine, obrazovanja, marketinga i prava.
  8. Integrativne tehnike – Kombinovanje “chain-of-thought” i meta-upita za veću prilagodljivost.
  9. Etika u inženjeringu upita – Suočavanje sa pristrasnošću, prevencija zloupotrebe i etički standardi.
  10. Tehničke osnove NLP-a i transformera – Ključni principi NLP-a i mehanika transformera sa fokusom na HPC za skaliranje AI rješenja.
  11. Primjene LLM-ova u stvarnom svijetu, digitalna transformacija i potreba za računarstvom.
  12. Uvod u HPC i razmatranja za njegovu primjenu.

Ishodi učenja

Po završetku ovog kursa, studenti će biti sposobni da:

  • Dizajniraju i strukturiraju efikasne upite prilagođene različitim zadacima.
  • Primijene napredne tehnike kao što su “chain-of-thought” i meta-prompting u složenim scenarijima.
  • Procjenjuju i optimizuju odgovore AI modela kroz iterativne petlje povratnih informacija.
  • Prilagode upite specifičnim industrijskim potrebama uz poštovanje etičkih standarda.
  • Razumiju tehničke aspekte NLP modela zasnovanih na transformerima.
  • Povežu LLM-ove i digitalnu transformaciju sa potrebom za računarskim resursima za stvarne aplikacije.

Radionica EuroCC2: „Uspostavljanje poslovnih odnosa između MSP i akademske zajednice“

Kao dio EuroCC2 online događaja za razmjenu znanja između nacionalnih kompetentnih centara (NCC), koji služe kao platforma za razmjenu iskustava o najboljim praksama, modelima saradnje i uticajnim rezultatima, NCC Crna Gora je 7. novembra učestvovao na radionici „Uspostavljanje poslovnih odnosa između malih i srednjih preduzeća (MSP) i akademske zajednice“.

NCC Crna Gora predstavio je svoje aktivnosti usmjerene na informisanje i uključivanje MSP-ova, sa naglaskom na saradnju između akademskog sektora i industrije kroz: radionice i obuke u oblasti HPC/AI; aktivnosti na razvoju, istraživanju i inovacijama; kao i kroz zajedničke projekte i grant šeme. Kao značajan primjer uspjeha iz FinTech sektora, predstavljen je slučaj u kome su rješenja zasnovana na mašinskom učenju (ML) i HPC tehnologijama riješila konkretne poslovne izazove, uključujući korake implementacije i postignute benefite.

NCC Bugarska je naglasila važnost saradnje sa različitim industrijskim sektorima i akademskim institucijama u cilju uspostavljanja partnerstava sa MSP-ovima u rješavanju specifičnih izazova kroz naučna istraživanja, obuke, razvoj algoritama, HPC rješenja i studije efikasnosti i skalabilnosti. Kao primjeri uspješnih saradnji navedeni su unapređenje preciznosti u dizajnu namještaja i analiza efikasnosti reklamnih kanala.

NCC Norveška podijelila je uvide u energetsko tržište Norveške i saradnju sa istraživačkim institutom SINTEF Energy. Prelaskom energetskih modela na HPC infrastrukturu, vrijeme simulacije smanjeno je sa dva sata na svega dvije minute, što je omogućilo napredno testiranje scenarija i veću skalabilnost platforme. Ova radionica je pokazala praktične pristupe u okviru različitih NCC-ova, uz zajednički cilj: prevazilaženje jaza između akademskog i poslovnog sektora kroz inovacije zasnovane na HPC tehnologijama.

Predavanje prof. Mladena Kezunovica sa Texas A&M o upravljanju rizicima uz podršku AI/HPC u energetskom sektoru

Kako je planirano, pozvano predavanje „Upravljanje rizicima u budućoj široko rasprostranjenoj elektrifikaciji“ koje je održao prof. Mladen Kezunovic održano je 25. oktobra 2024. godine u Preduzetničkom gnijezdu na UDG-u. Bilo je prisutno preko 60 učesnika, uključujući studente, akademike sa crnogorskih univerziteta i predstavnike industrije. Ova radionica je organizovana u okviru projekta HPC4S3ME i podržana od strane EUROCC NCC Montenegro tima.

Koji su rizici? Metodologija za upravljanje rizicima i njihovo ublažavanje? Koje podatke imamo i kako upravljamo svim tim podacima? Kako AI/ML uz podršku HPC-a može pomoći?

Dr. Mladen Kezunovic je istaknuti profesor na Texas A&M univerzitetu sa preko 35 godina iskustva u elektroenergetici. Globalno priznat, dr. Kezunovic je autor preko 600 radova i konsultant za više od 50 kompanija širom svijeta. Njegova obimna istraživanja i doprinos industriji, naročito u modelovanju kvarova, analitici podataka i pametnim mrežama, donijeli su mu status IEEE Life Fellow i priznanje Nacionalne akademije inženjerstva SAD.

prof. Kezunovic from Texas A&M gave presentation on a nove approach to Risk managemement in energy sector
The workshop took place on 25 october at UDG
Over 60 people attended
How AI/ML supported by HPC can help mitigate risk in energy sector?

Magistarski rad: HPC/AI u preciznoj poljoprivredi

Mr Mato Martinović odbranio je svoj magistarski rad dana 23. oktobra 2024. godine. Njegovo istraživanje bilo je fokusirano na detekciju biljnih bolesti sa primjenom u vinogradima. Eksperimentisao je sa HPC/AI tehnologijama i računarskim vidom. Mato je jedan od najnovijih diplomaca master programa iz oblasti vještačke inteligencije kreiranog u okviru projekta EUROCC, a mentorstvo je realizovano uz podršku EUROCC NCC Crna Gora.

APSTRAKT – Ovo istraživanje analizira upotrebu računarskog vida u oblasti vinogradarstva. Rad opisuje probleme u vinogradarstvu, računarski vid i njegovu primjenu u ovoj oblasti. Analizirane su performanse modela ResNet50, VGG16 i MobileNet u klasifikaciji bolesti i sorti vinove loze. Modeli su postigli tačnosti od 98.67%, 97.28% i 98.72% na originalnom test skupu podataka, dok su na proširenom skupu postigli 87.47%, 72.07% i 86.64% u klasifikaciji bolesti. U klasifikaciji sorti, modeli su ostvarili tačnosti od 70%, 78% i 88% na originalnom skupu, i 66%, 51% i 72% na proširenom skupu. Model VGG16 pokazao je najveću razliku u tačnosti na proširenim podacima, dok je ResNet imao najmanji pad tačnosti u oba slučaja, što ukazuje na to da ResNet bolje generalizuje podatke. U radu je prikazan i proces kreiranja platforme koja omogućava korisnicima da putem mobilne aplikacije pošalju sliku i dobiju predikciju.

HPC/AI and computer vision for applications in smart viticulture

Magistarski rad: AI/ML i primjene u medicini

Mr. Luka Jeremić odbranio je svoj magistarski rad dana 23. oktobra 2024. godine. Tema rada bila je AI i primjene u medicini. Njegovo istraživanje je realizovano uz mentorstvo članova tima HPC4S3ME i sprovedeno u okviru master programa iz oblasti vještačke inteligencije na Fakultetu za informacione sisteme i tehnologije Univerziteta Donja Gorica (UDG). Ovaj program i studenti master studija podržani su od strane EUROCC NCC Crna Gora.

APSTRAKT – Ovo istraživanje proučava primjenu vještačke inteligencije u medicini, sa fokusom na klasifikaciju bolesti mozga, jetre i krvnih ćelija. Glavni cilj je evaluacija efikasnosti algoritama u prepoznavanju i klasifikaciji bolesti ovih organa. Kroz razvoj prototipa informacionog sistema, rad analizira kako vještačka inteligencija može unaprijediti dijagnostiku i doprinijeti razvoju personalizovane medicine. Metodologija uključuje pregled literature, razvoj modela računarskog vida i procjenu tačnosti modela korišćenjem stvarnih medicinskih podataka. Rezultati pokazuju da modeli zasnovani na dubokim neuronskim mrežama mogu povećati tačnost i brzinu dijagnostike, omogućavajući precizniju klasifikaciju bolesti. U radu su takođe istaknute prepreke i izazovi u implementaciji ovih tehnologija, uključujući potrebu za etičkim razmatranjima i obukom medicinskog osoblja. Zaključci ukazuju da ovaj pristup ima potencijal da značajno unaprijedi medicinu, ali su potrebna dodatna istraživanja i usavršavanje.

Mr Jeremic defended his master thesis on AI/ML and applications in medicine

Magistarski rad: Duboko učenje u energetskom sektoru

Ms. Zoja Šćekić, mlada istraživačica na projektu HPC4S3ME, danas je odbranila svoj magistarski rad pod nazivom „Duboko učenje i primjene u energetskom sektoru“. Ovo predstavlja jedan od ključnih rezultata projekta u oblasti izgradnje kapaciteta, usmjerenog na sticanje HPC/AI vještina za primjene u prioritetnim domenima crnogorske S3 strategije.

APSTRAKT – Ovaj magistarski rad istražuje primjenu naprednih modela dubokog učenja za predikciju cijena električne energije za naredni dan, sa fokusom na tačnost i efikasnost ovih modela u poređenju sa tradicionalnim metodama prognoziranja. Sa sve većom integracijom obnovljivih izvora energije i rastućom kompleksnošću tržišta električne energije, precizno predviđanje cijena postalo je ključno za učesnike na tržištu, operatere mreža i donosioce odluka. Istraživanje je strukturirano kroz četiri studije slučaja, od kojih svaka koristi različite tehnike dubokog učenja, poput vještačkih neuronskih mreža (ANN), LSTM (Long Short-Term Memory), konvolutivnih neuronskih mreža (CNN), i hibridnih modela kao što je CNN-LSTM. Uprkos obećavajućim rezultatima, istraživanje prepoznaje ograničenja vezana za kvalitet podataka, složenost modela i zahtjeve za računarskim resursima. U radu se naglašava potreba za daljim istraživanjima u cilju optimizacije efikasnosti modela, integracije raznovrsnijih izvora podataka i širenja primjene ovih modela na različita energetska tržišta.

Ms Zoja Scekic defended her MSc thesis on Deep leaning applications in energy sector
This MSc thesis was done in the context of HPC4S3ME with support from EUROCC NCC Montenegro

Predstojeće predavanje: “Upravljanje rizicima u budućoj široko rasprostranjenoj elektrifikaciji”

Globalni prelazak ka široko rasprostranjenoj elektrifikaciji donosi velike mogućnosti, ali istovremeno uvodi kompleksne rizike koji zahtijevaju našu hitnu pažnju. Pridružite nam se na inspirativnom predavanju koje će održati prof. Mladen Kezunovic, vodeći stručnjak u oblasti elektroenergetike i analitike podataka, koji će se osvrnuti na izazove i rizike koje donosi evolucija elektroenergetske mreže.

Prof. Kezunovic će predstaviti motivaciju iza velikih procesa elektrifikacije, uz poseban fokus na specifične ranjivosti koje proizlaze iz međuzavisnosti kritične infrastrukture. Predavanje će obuhvatiti rizike kao što su uticaji na životnu sredinu, zastarjela infrastruktura, porast distribuiranih izvora energije, izazovi digitalizacije i faktori povezani s ljudskim ponašanjem. Takođe će biti predstavljena inovativna rješenja zasnovana na mašinskom učenju i vještačkoj inteligenciji za predviđanje i ublažavanje tih rizika, nudeći uvid u budućnost dizajna otpornih elektroenergetskih mreža.

Invited lecture from distinguished professor from Texas A&M

Prisutni će imati priliku da se upoznaju sa značajnim studijama slučaja o stanju predikcije rizika za ispade u mreži, koje ilustruju prelazak ka konceptu kontrole i zaštite zasnovanom na analizi rizika. U diskusiji će biti predstavljeni i sveobuhvatni pristupi koji obuhvataju upravljanje IT sistemima, analitiku velikih podataka, interoperabilnost i računare visokih performansi, naglašavajući neophodnost ovih alata za razvoj naprednih AI rješenja u energetici.

Ovo predavanje se organizuje uz podršku EUROCC NCC Crna Gora i projekta HPC4S3ME.

O predavaču: Dr. Mladen Kezunovic je University Distinguished Professor na Texas A&M University, sa preko 35 godina iskustva u elektroenergetici. Globalno priznat, autor je više od 600 naučnih radova i konsultant za preko 50 kompanija širom svijeta. Njegov rad u oblastima modelovanja kvarova, analitike podataka i pametnih mreža donio mu je status IEEE Life Fellow i priznanje od strane Nacionalne akademije inženjerstva SAD. Ne propustite priliku da učite od jednog od najistaknutijih svjetskih stručnjaka!