Kompanija Uhura Solutions razvija AI platformu za automatizaciju procesa zasnovanih na dokumentima u sektoru finansijskih usluga. Projekat „Generative AI Intelligent Process Automation Platform – GAIPAP“ predstavlja transformacionu inicijativu sa ciljem revolucionisanja finansijske industrije putem naprednih AI rješenja koja kombinuju mogućnosti velikih jezičkih modela (LLM), low-code razvoja i automatizovanih poslovnih tokova. Ova jedinstvena sinergija tehnologija ima potencijal da značajno unaprijedi operativnu efikasnost, smanji troškove i poboljša korisničko iskustvo u finansijskom sektoru.
Posebna vrijednost platforme leži u upotrebi prilagođenih velikih jezičkih modela koji su fino podešeni za specifične potrebe finansijskog sektora – jezik, kontekst i obrasce. To omogućava isporuku preciznijih i relevantnijih uvida u poređenju sa generičkim AI rješenjima. Dodatno, platforma omogućava skalabilnost, uvid u podatke u realnom vremenu, poboljšanje korisničkog iskustva i brzu implementaciju kroz low-code okruženje za razvoj i automatizovane poslovne tokove, čime se skraćuje vrijeme izlaska na tržište i povećava konkurentska prednost.
Projekat koristi open-source Python biblioteke i unaprijed trenirane LLM modele, koji se dodatno fino podešavaju na privatnom skupu podataka kreiranom od strane tima, sa ciljem rješavanja specifičnih zadataka u finansijskom sektoru. Korišćenje superračunara Leonardo omogućilo je značajan iskorak u treniranju LLM modela, prelazak sa 1B na 7B i veće modele. Trenutna faza projekta fokusira se na istraživanje i optimizaciju LLM-a, uključujući podešavanje hiperparametara, kvantizaciju i redukciju modela, kao i efikasno fino podešavanje modela (PEFT). Posebna pažnja posvećena je i predobradi podataka, uključujući filtriranje po kvalitetu, deduplikaciju i uklanjanje osjetljivih podataka.
Projekat, koji razvija i vodi Uhura Solutions, nagrađen je sa 4.500 nod sati GPU resursa (8x64GB) na Leonardo Buster HPC sistemu, u trajanju od 12 mjeseci.
