Tim EuroCC2 projekta UCG (Enis Kočan i Božo Krstajić) je, u sklopu aktivnosti servisa i interakcije sa industrijom, održao sastanak sa manadžmentom i zaposlenima iz vrha tehničkog vodjstva FiveG grupe i NeurobotX kompanije koja se bavi primjenom AI i VR u industriji gaminga i razvijanju simulacionih nautičkih modela za svrhe obuke (Ivan Šoć, CEO FiveG grupe; Aleksa Čović, NeurobotX i Marko Šćepanović NeurobotX), 11.11.2024. godine u njihovim prostorijama.
Sastali smo se sa FiveG 11. novembra
Nakon prezentacije servisa koje NCC Crne Gore može pružiti kompanijama u okviru projekta EuroCC2, zajednički su analizirani aktuelni projekti FiveG kompanije, sa aspekta potencijalne implementacije istih na HPC resursima. Nakon opsežne analize, identifikovana su najmanje 2 projekta koji bi imali značajno unapređenje, ako bi se realizovali na HPC resursima. Dogovorene su aktivnosti na budućoj saradnji u pravcu pripreme identifikovanih projekata za implementaciju u HPC okruženju i njihovom učešću na predstojećoj Konferenciji na kojoj će biti poseban dogadjaj za kompanije koje preferiraju korišćenje HPC resursa putem HPC NCC Crne Gore.
Dogovoreno je u;e[‘e na IT2025 konferenciji i nastavak saradnje
Tokom jeseni 2024. godine, tim NCC-a na Univerzitetu Donja Gorica (UDG) razvio je novu obuku usmjerenu na upotrebu generativne vještačke inteligencije, sa posebnim fokusom na primjenu velikih jezičkih modela (LLM) u stvarnim situacijama i digitalnoj transformaciji. Obuka je razvijena na osnovu komunikacije sa studentima i predstavnicima industrije. Početna prijava u novembru obuhvatila je više od 40 studenata, od kojih se većina očekuje da završi obuku do 20. decembra.
Proučavanje inženjeringa upita predstavlja osnovnu tehniku za efikasnu interakciju sa naprednim jezičkim modelima kao što su GPT-4, LLama i drugi. Ovaj kurs omogućava studentima da steknu znanja i vještine neophodne za korišćenje transformativnog potencijala AI tehnologija, sa naglaskom na inovativne, odgovorne i industrijski relevantne primjene. U eri digitalne transformacije, gdje donošenje odluka u realnom vremenu i inteligentna automatizacija oblikuju industrije, potreba za računarskim sistemima visokih performansi (HPC) postaje ključna. Kroz proučavanje naprednih modela za obradu prirodnog jezika (NLP), studenti će ne samo razviti efikasne tehnike ispitivanja (prompting), već i razumjeti računske zahtjeve i infrastrukturu potrebnu za implementaciju ovih rješenja u velikom obimu.
Unlocking the Power of AI: The Role of High-Performance Computing in Real-Life LLM Applications and Digital Transformation
Kako veliki jezički modeli postaju sve sofisticiraniji, njihovi računski zahtjevi eksponencijalno rastu. Aplikacije poput interakcije sa korisnicima u realnom vremenu, prediktivne analitike i podrške u donošenju odluka u oblastima kao što su zdravstvo i obrazovanje, zahtijevaju HPC infrastrukturu kako bi se osigurali performanse i skalabilnost. Ovaj kurs spaja teorijsko znanje i praktičnu primjenu, pokazujući kako HPC omogućava implementaciju robusnih AI rješenja i podstiče inovacije u digitalnom dobu. Bilo da se pripremate za vođenje AI projekata u akademskom ili industrijskom okruženju, ovaj kurs vam pruža osnovna znanja za odgovornu i efikasnu primjenu AI tehnologija, pozicionirajući vas na čelo digitalne transformacije.
Pregled sadržaja kursa (12 modula):
Uvod u inženjering upita – Osnovni principi, značaj i primjene strukturiranja upita.
Razumijevanje AI modela – Pregled načina na koji jezički modeli obrađuju ulaze i generišu odgovore.
Kontekstualna važnost – Strategije za definisanje i pružanje konteksta za optimalne AI performanse.
Kreiranje efikasnih upita – Tehnike za strukturiranje, kontrolu tona i prilagođavanje stila.
Napredne tehnike upita– Višekoračni upiti, integracija varijabli i zadaci specifični za scenarije.
Eksperimentisanje i iterativno poboljšanje – Testiranje, analiza i usavršavanje upita za bolje rezultate.
Industrijske primjene – Praktični primjeri iz medicine, obrazovanja, marketinga i prava.
Integrativne tehnike – Kombinovanje “chain-of-thought” i meta-upita za veću prilagodljivost.
Etika u inženjeringu upita – Suočavanje sa pristrasnošću, prevencija zloupotrebe i etički standardi.
Tehničke osnove NLP-a i transformera – Ključni principi NLP-a i mehanika transformera sa fokusom na HPC za skaliranje AI rješenja.
Primjene LLM-ova u stvarnom svijetu, digitalna transformacija i potreba za računarstvom.
Uvod u HPC i razmatranja za njegovu primjenu.
Ishodi učenja
Po završetku ovog kursa, studenti će biti sposobni da:
Dizajniraju i strukturiraju efikasne upite prilagođene različitim zadacima.
Primijene napredne tehnike kao što su “chain-of-thought” i meta-prompting u složenim scenarijima.
Procjenjuju i optimizuju odgovore AI modela kroz iterativne petlje povratnih informacija.
Prilagode upite specifičnim industrijskim potrebama uz poštovanje etičkih standarda.
Razumiju tehničke aspekte NLP modela zasnovanih na transformerima.
Povežu LLM-ove i digitalnu transformaciju sa potrebom za računarskim resursima za stvarne aplikacije.
Kao dio EuroCC2 online događaja za razmjenu znanja između nacionalnih kompetentnih centara (NCC), koji služe kao platforma za razmjenu iskustava o najboljim praksama, modelima saradnje i uticajnim rezultatima, NCC Crna Gora je 7. novembra učestvovao na radionici „Uspostavljanje poslovnih odnosa između malih i srednjih preduzeća (MSP) i akademske zajednice“.
NCC Crna Gora predstavio je svoje aktivnosti usmjerene na informisanje i uključivanje MSP-ova, sa naglaskom na saradnju između akademskog sektora i industrije kroz: radionice i obuke u oblasti HPC/AI; aktivnosti na razvoju, istraživanju i inovacijama; kao i kroz zajedničke projekte i grant šeme. Kao značajan primjer uspjeha iz FinTech sektora, predstavljen je slučaj u kome su rješenja zasnovana na mašinskom učenju (ML) i HPC tehnologijama riješila konkretne poslovne izazove, uključujući korake implementacije i postignute benefite.
NCC Bugarska je naglasila važnost saradnje sa različitim industrijskim sektorima i akademskim institucijama u cilju uspostavljanja partnerstava sa MSP-ovima u rješavanju specifičnih izazova kroz naučna istraživanja, obuke, razvoj algoritama, HPC rješenja i studije efikasnosti i skalabilnosti. Kao primjeri uspješnih saradnji navedeni su unapređenje preciznosti u dizajnu namještaja i analiza efikasnosti reklamnih kanala.
NCC Norveška podijelila je uvide u energetsko tržište Norveške i saradnju sa istraživačkim institutom SINTEF Energy. Prelaskom energetskih modela na HPC infrastrukturu, vrijeme simulacije smanjeno je sa dva sata na svega dvije minute, što je omogućilo napredno testiranje scenarija i veću skalabilnost platforme. Ova radionica je pokazala praktične pristupe u okviru različitih NCC-ova, uz zajednički cilj: prevazilaženje jaza između akademskog i poslovnog sektora kroz inovacije zasnovane na HPC tehnologijama.
