AI rješenja za firme, trenirana na vašim podacima

Šta su AI rješenja za firme i gdje donose korist

AI rješenje za firmu je softver koji koristi jezičke modele, pretragu i kompjutersku viziju da obavi dio posla koji danas rade ljudi: odgovori na pitanja, pronađe informaciju, pročita dokument ili pripremi nacrt. Za razliku od javnih AI alata, poslovno rješenje radi nad vašim podacima, poštuje prava pristupa i povezano je sa vašim sistemima.

Najveću korist donosi u procesima koji se ponavljaju i imaju jasna pravila. To su korisnička podrška, interna baza znanja, obrada ulazne dokumentacije i kvalifikacija upita. AI ne zamjenjuje tim, već preuzima rutinu, pa ljudi rade na slučajevima kojima je potrebna procjena.

U praksi to izgleda ovako: kupac u 23h pita za dostupnost i cijenu, asistent odgovara iz aktuelnog cjenovnika i otvara upit u CRM-u. Zaposleni u računovodstvu fotografiše fakturu, a sistem izvuče dobavljača, iznose i datume i pripremi zapis za provjeru. Pravnik postavi pitanje o roku zastarjelosti i dobije odgovor sa članom zakona. Nijedan od ovih procesa ne zahtijeva da tim mijenja način rada, jer AI radi unutar alata koje već koriste.

Zašto in-house fine-tuned modeli, a ne javni AI servisi

Kada firma koristi javni AI servis, dokumenti i razgovori kupaca odlaze na servere treće strane, često van EU. Za ugovore, finansijske i medicinske podatke ili predmete klijenata to je rizik koji mnoge organizacije ne smiju prihvatiti.

Zato gradimo kompletna in-house rješenja. Koristimo vlastite modele koje doučavamo (fine-tuning) na vašoj terminologiji i primjerima iz prakse i pokrećemo ih na našoj privatnoj infrastrukturi u EU ili na vašem serveru. Dobijate predvidiv trošak, kontrolu nad podacima i model koji zvuči kao vaša firma.

Postoji i praktična razlika. Javni servisi mijenjaju modele, cijene i uslove korišćenja bez obzira na vaše procese, pa odgovori koji su juče bili dobri sutra mogu biti drugačiji. Kod in-house rješenja vi odlučujete kada se model ažurira, a svaka nova verzija prolazi iste testove na vašim pitanjima prije nego što ode u produkciju.

• Podaci ne napuštaju EU ili vašu mrežu
• Nema troška po poruci niti promjena cijena treće strane
• Model razumije vaše pojmove, proizvode i procedure
• Rješenje ostaje vaše, bez zaključavanja kod dobavljača

RAG i fine-tuning: kako AI uči vaše poslovanje

Dvije tehnike rade zajedno. RAG (retrieval-augmented generation) znači da model prije odgovora pretraži vaše dokumente i odgovori samo iz pronađenih dijelova, uz navođenje izvora. Kada promijenite cjenovnik ili pravilnik, dovoljno je ažurirati dokument i asistent odmah zna novo stanje.

Fine-tuning prilagođava sam model: način pisanja, terminologiju i format odgovora. Za to najčešće koristimo ono što već imate, poput ranijih odgovora podrške, emailova i internih uputstava. Kombinacija daje asistenta koji je istovremeno tačan i prirodan, a halucinacije svodi na minimum jer odgovara iz provjerenih izvora.

Kvalitet zavisi od pripreme podataka više nego od veličine modela. Zato veliki dio posla čine čišćenje dokumenata, prepoznavanje tabela i skeniranih stranica, dijeljenje teksta na smislene cjeline i hibridna pretraga koja kombinuje značenje i tačne pojmove, poput broja ugovora ili šifre proizvoda. Na kraju rangiramo pronađene dijelove, pa model dobija samo najrelevantnije izvore.

Kako izabrati prvi AI projekat

Najbolji prvi projekat je mali, mjerljiv i vidljiv. Umjesto „AI za cijelu firmu”, izaberite jedan proces u kojem se lako izmjeri koliko vremena odlazi danas i koliko nakon uvođenja. Na radionici zajedno procjenjujemo procese po ovim kriterijumima:

Tipični dobri kandidati su odgovori na česta pitanja kupaca, razvrstavanje ulaznih emailova, pretraga internih procedura i izvlačenje podataka iz faktura ili narudžbi. Kada prvi projekat pokaže rezultat, isti temelji, odnosno model, indeksi i integracije, koriste se za sljedeći proces, pa je svaki naredni korak brži i jeftiniji.

• Posao se ponavlja često, bar desetine puta sedmično
• Postoje dokumenti ili primjeri iz kojih AI može učiti
• Greška je uhvatljiva, jer čovjek može provjeriti nacrt
• Rezultat se mjeri vremenom odgovora, brojem upita ili sati rada

Bezbjednost, GDPR i on-prem rad

Svako rješenje projektujemo tako da AI vidi samo ono što korisnik smije da vidi. Prava pristupa preuzimamo iz postojećih sistema, komunikacija je šifrovana, a svaka akcija se bilježi u audit logu. Lične podatke obrađujemo u skladu sa GDPR-om i domaćim propisima o zaštiti podataka.

Za banke, zdravstvo, advokatske kancelarije i institucije nudimo on-prem instalaciju, gdje model, dokumenti i indeksi ostaju unutar vaše mreže. Pomažemo i oko izbora hardvera, jer fine-tuned modeli srednje veličine rade na jednom ili dva GPU servera.

Bezbjednost se odnosi i na ponašanje modela. Definišemo šta asistent smije da radi, koje radnje zahtijevaju potvrdu čovjeka i koje teme odbija. Prije lansiranja testiramo pokušaje zloupotrebe, poput traženja tuđih podataka ili zaobilaženja pravila, i te testove ponavljamo pri svakom ažuriranju modela.

Koliko košta AI i kako računati isplativost

Razvoj AI chatbota kreće od 800€, asistenta sa integracijama od 2.000€, a enterprise sistema od 5.000€. Tome se dodaje mjesečni trošak hostinga i održavanja, koji zavisi od obima korišćenja i od toga da li model radi kod nas ili kod vas.

Isplativost se računa jednostavno: koliko sati tim sada troši na proces, koliko će trošiti uz AI i koliko vrijedi brži odgovor kupcu. Zato na početku definišemo metrike i pratimo ih tokom pilota, pa odluku o širenju donosite na osnovu brojeva iz vaše firme.

Da bi ulaganje bilo bezbjedno, projekat dijelimo na faze sa jasnim rezultatom. Nakon prototipa znate da li kvalitet odgovara vašim očekivanjima, a nakon pilota imate stvarne podatke o uštedi. Tek tada ima smisla širiti rješenje na nove kanale, timove ili procese.