HPC Montenegro

Opis kursa: Inženjerstvo upita

Tokom jeseni 2024. godine, tim NCC-a na Univerzitetu Donja Gorica (UDG) razvio je novu obuku usmjerenu na upotrebu generativne vještačke inteligencije, sa posebnim fokusom na primjenu velikih jezičkih modela (LLM) u stvarnim situacijama i digitalnoj transformaciji. Obuka je razvijena na osnovu komunikacije sa studentima i predstavnicima industrije. Početna prijava u novembru obuhvatila je više od 40 studenata, od kojih se većina očekuje da završi obuku do 20. decembra.

Proučavanje inženjeringa upita predstavlja osnovnu tehniku za efikasnu interakciju sa naprednim jezičkim modelima kao što su GPT-4, LLama i drugi. Ovaj kurs omogućava studentima da steknu znanja i vještine neophodne za korišćenje transformativnog potencijala AI tehnologija, sa naglaskom na inovativne, odgovorne i industrijski relevantne primjene. U eri digitalne transformacije, gdje donošenje odluka u realnom vremenu i inteligentna automatizacija oblikuju industrije, potreba za računarskim sistemima visokih performansi (HPC) postaje ključna. Kroz proučavanje naprednih modela za obradu prirodnog jezika (NLP), studenti će ne samo razviti efikasne tehnike ispitivanja (prompting), već i razumjeti računske zahtjeve i infrastrukturu potrebnu za implementaciju ovih rješenja u velikom obimu.

Kako veliki jezički modeli postaju sve sofisticiraniji, njihovi računski zahtjevi eksponencijalno rastu. Aplikacije poput interakcije sa korisnicima u realnom vremenu, prediktivne analitike i podrške u donošenju odluka u oblastima kao što su zdravstvo i obrazovanje, zahtijevaju HPC infrastrukturu kako bi se osigurali performanse i skalabilnost. Ovaj kurs spaja teorijsko znanje i praktičnu primjenu, pokazujući kako HPC omogućava implementaciju robusnih AI rješenja i podstiče inovacije u digitalnom dobu. Bilo da se pripremate za vođenje AI projekata u akademskom ili industrijskom okruženju, ovaj kurs vam pruža osnovna znanja za odgovornu i efikasnu primjenu AI tehnologija, pozicionirajući vas na čelo digitalne transformacije.

Pregled sadržaja kursa (12 modula):

1. Uvod u inženjering upita – Osnovni principi, značaj i primjene strukturiranja upita.
2. Razumijevanje AI modela – Pregled načina na koji jezički modeli obrađuju ulaze i generišu odgovore.
3. Kontekstualna važnost – Strategije za definisanje i pružanje konteksta za optimalne AI performanse.
4. Kreiranje efikasnih upita – Tehnike za strukturiranje, kontrolu tona i prilagođavanje stila.
5. Napredne tehnike upita – Višekoračni upiti, integracija varijabli i zadaci specifični za scenarije.
6. Eksperimentisanje i iterativno poboljšanje – Testiranje, analiza i usavršavanje upita za bolje rezultate.
7. Industrijske primjene – Praktični primjeri iz medicine, obrazovanja, marketinga i prava.
8. Integrativne tehnike – Kombinovanje “chain-of-thought” i meta-upita za veću prilagodljivost.
9. Etika u inženjeringu upita – Suočavanje sa pristrasnošću, prevencija zloupotrebe i etički standardi.
10. Tehničke osnove NLP-a i transformera – Ključni principi NLP-a i mehanika transformera sa fokusom na HPC za skaliranje AI rješenja.
11. Primjene LLM-ova u stvarnom svijetu, digitalna transformacija i potreba za računarstvom.
12. Uvod u HPC i razmatranja za njegovu primjenu.

Ishodi učenja

Po završetku ovog kursa, studenti će biti sposobni da:

• Dizajniraju i strukturiraju efikasne upite prilagođene različitim zadacima.
• Primijene napredne tehnike kao što su “chain-of-thought” i meta-prompting u složenim scenarijima.
• Procjenjuju i optimizuju odgovore AI modela kroz iterativne petlje povratnih informacija.
• Prilagode upite specifičnim industrijskim potrebama uz poštovanje etičkih standarda.
• Razumiju tehničke aspekte NLP modela zasnovanih na transformerima.
• Povežu LLM-ove i digitalnu transformaciju sa potrebom za računarskim resursima za stvarne aplikacije.