RAG: kaj je in zakaj je ključen za AI nad podatki podjetja

RAG je eden ključnih pristopov, s katerimi umetna inteligenca postane uporabna za delo z znanjem podjetja. Splošni jezikovni model lahko dobro razloži, kaj je reklamacija, ne pozna pa nujno vašega reklamacijskega postopka, veljavnih pogodbenih pogojev ali navodil za posamezen izdelek.

Zaposleni običajno ne potrebujejo še ene splošne razlage. Potrebujejo odgovor na konkretno vprašanje: »Kateri obrazec moram izpolniti in kdo ga potrdi?« RAG poveže takšno vprašanje z ustreznimi internimi viri in modelu omogoči pripravo odgovora na njihovi podlagi.

Vendar povezava z dokumenti še ni zagotovilo za pravilnost ali varnost. Za dobro rešitev potrebujete urejeno znanje, ustrezno iskanje, nadzor dostopa in način preverjanja rezultatov.

Kaj je RAG in kaj pomeni retrieval augmented generation?

RAG pomeni retrieval augmented generation oziroma generiranje, podprto s pridobivanjem informacij. Sistem najprej poišče relevantno vsebino, nato pa jo jezikovni model uporabi kot podlago za odgovor.

Predstavljajte si sodelavca, ki pred odgovorom odpre veljaven pravilnik in preveri ustrezni člen. Podobno deluje RAG: modelu ni treba odgovarjati samo iz splošnega znanja, pridobljenega med učenjem, temveč dobi tudi izbrane informacije iz vaših virov.

Razlikujemo tri sestavne dele:

• Viri znanja: pravilniki, navodila, pogodbe, projektna dokumentacija ali druge dovoljene vsebine.
• Iskalni del: izbere odlomke, povezane z uporabnikovim vprašanjem.
• Jezikovni model: iz vprašanja, navodil in pridobljenih odlomkov oblikuje odgovor.

RAG ni posamezen model in ni nujno samostojen izdelek. Je arhitekturni pristop, ki ga lahko ponudnik vgradi v klepetalnik, iskalnik ali poslovno aplikacijo. Prav tako ni nujno omejen na interno dokumentacijo: uporablja lahko tudi preverjene javne vire.

Pomembna razlika je, da dokumenti pri običajnem delovanju RAG ne postanejo del parametrov modela. Model jih dobi kot kontekst za posamezno zahtevo. Politike hrambe in morebitne uporabe podatkov pri ponudniku modela pa morate preveriti ločeno.

Če potrebujete širšo razlago osnov, preberite kaj je umetna inteligenca in kako jo podjetja uporabljajo danes.

Kako RAG deluje od dokumenta do odgovora?

RAG vključuje pripravo virov in obdelavo uporabnikovega vprašanja. Kakovost odgovora je odvisna od obeh delov, ne samo od izbranega jezikovnega modela.

Tipičen potek sestavlja šest korakov:

1. Zajem vsebine. Sistem prebere dovoljene datoteke ali povezane dokumentne zbirke. Pri skeniranih dokumentih je pogosto potrebna optična prepoznava besedila, imenovana OCR.
2. Razdelitev na odlomke. Daljše dokumente razdeli na manjše vsebinske enote. Pri tem naj ohrani naslove, povezave med odstavki in pomembne opombe.
3. Indeksiranje. Vsebino pripravi za iskanje. Pogosto uporabi vektorske predstavitve oziroma embeddings, ki pomagajo prepoznati pomensko podobnost.
4. Iskanje ob vprašanju. Izbere relevantne odlomke, do katerih ima uporabnik dovoljen dostop. Iskanje je lahko ključno-besedno, vektorsko ali hibridno.
5. Ponovno razvrščanje. Izbrane rezultate lahko dodatno razvrsti po relevantnosti. Ta korak se pogosto imenuje reranking.
6. Priprava odgovora. Model prejme vprašanje in izbrane odlomke ter sestavi odgovor. Dobro zasnovana rešitev omogoči tudi preverjanje uporabljenih virov.

Zakaj samo pomenska podobnost ni dovolj?

Vprašanje »Kako uredim delo od doma?« je pomensko povezano s pravilnikom o delu na daljavo, čeprav se besede razlikujejo. Pri iskanju točne oznake rezervnega dela pa je lahko pomembnejše dobesedno ujemanje. Hibridno iskanje združuje oba pristopa.

Pozornost zahteva tudi razdelitev dokumentov. Če je izjema zapisana pod tabelo, sistem pa jo loči od pripadajočega pravila, lahko pripravi nepopoln odgovor. Pri slovenski dokumentaciji preizkusite še šumnike, sklanjatve, kratice in mešanico slovenskih ter angleških izrazov.

V čem se RAG razlikuje od običajnega klepeta in dodatnega učenja?

RAG je namenjen uporabi zunanjega znanja med pripravo odgovora, dodatno učenje pa spreminjanju parametrov modela. Pristopa rešujeta različne težave in se lahko dopolnjujeta.

Meja med uporabniškimi izkušnjami ni vedno očitna. Tudi klepetalnik, ki omogoča nalaganje datotek, lahko v ozadju uporablja RAG. Zato ponudnika vprašajte, kako izbira vsebino, obravnava dolge dokumente in posodablja indeks.

Če se vaši ceniki ali pravilniki pogosto spreminjajo, je praviloma smiselneje urediti dostop do aktualnih virov kot model ob vsaki spremembi dodatno učiti. Za analizo enega kratkega dokumenta pa je lahko ročna priloga povsem dovolj.

Pri izbiri ne iščite najzahtevnejše arhitekture, temveč najpreprostejšo rešitev, ki zanesljivo pokrije nalogo.

Kje RAG prinaša največ koristi slovenskim podjetjem?

RAG je posebej uporaben tam, kjer zaposleni pogosto iščejo odgovore v razpršeni dokumentaciji. Najboljši začetni primeri imajo jasne vire, omejen obseg in odgovorno osebo za preverjanje vsebine.

Spodnji primeri so ponazoritve uporabe, ne navedbe dejanskih strank ali doseženih rezultatov.

Kadrovski pravilniki in uvajanje zaposlenih

Zaposleni v ljubljanskem storitvenem podjetju vpraša: »Kako oddam zahtevek za izobraževanje?« Sistem poišče interni pravilnik, navodila in obrazec ter povzame postopek.

Odgovor mora razlikovati med internimi pravili in zakonskimi zahtevami. Če dokument ne določa roka odobritve, ga AI ne sme dodati na podlagi običajne prakse drugih podjetij.

Tehnična podpora in servis

Serviser proizvodnega podjetja na Štajerskem išče postopek odprave napake na določeni različici naprave. RAG lahko poveže vprašanje s servisnimi navodili in ustreznim tehničnim obvestilom.

Odločilni so model naprave, različica in veljavnost navodil. Napačen, čeprav pomensko podoben priročnik je lahko nevarnejši od odgovora, da podatkov ni dovolj. Pri varnostno pomembnih posegih ostajata nujna preverjanje izvirnih navodil in strokovna presoja.

Prodaja in priprava ponudb

Prodajna ekipa lahko išče potrjene opise storitev, standardne pogoje in odgovore na vprašanja naročnikov. Sistem pomaga pripraviti osnutek, zaposleni pa preveri veljavnost ponudbe in morebitne izjeme.

RAG sam po sebi ne zagotavlja aktualne zaloge, cen ali statusa naročila. Za takšna vprašanja je pogosto potrebna dodatna povezava z ERP ali CRM, ne zgolj iskanje po dokumentih.

Projektno znanje

Projektna pisarna lahko poišče pretekle odločitve, zahteve naročnika in dogovorjene spremembe. Pri tem je pomembno razlikovati med predlogom, zapisnikom in dokončno potrditvijo. Zadnja naložena datoteka namreč ni nujno veljavna odločitev.

Ali RAG prepreči halucinacije in napačne odgovore?

RAG lahko zmanjša neutemeljene odgovore, vendar jih ne odpravi. Napaka nastane, če sistem poišče napačen vir, spregleda izjemo ali pridobljeno vsebino napačno razloži.

Pogoste težave so:

• Zastarel dokument: sistem uporabi prejšnjo različico pravilnika.
• Manjkajoči kontekst: najde pravilo, ne pa pripadajoče izjeme.
• Napačna uporaba: določilo za eno poslovno enoto predstavi kot splošno.
• Navidezna sledljivost: navede dokument, ki konkretne trditve ne podpira.
• Nepopoln zajem: pri pretvorbi PDF izgubi del tabele ali opombo.

Zato mora sistem znati povedati: »V dostopnih virih tega podatka nisem našel.« To ni slabost, temveč pomemben znak ustrezno omejenega odgovarjanja. Kadar se viri razlikujejo, naj opozori na neskladje, namesto da ga neopazno razreši sam.

Kako preverite kakovost?

Ločeno preverjajte iskanje in odgovor. Najprej ugotovite, ali je sistem našel pravi odlomek. Nato ocenite, ali odgovor pravilno povzema vsebino in ali navedeni vir dejansko podpira zapisane trditve.

V testno zbirko vključite običajna vprašanja, vprašanja z izjemami in vprašanja brez odgovora v dokumentaciji. Dodajte tudi primere, kjer bi moral sistem zahtevati pojasnilo, na primer datum, oddelek ali oznako izdelka.

Če zamenjate model, način razdelitve dokumentov ali iskalno nastavitev, preizkus ponovite. Bolj tekoče napisan odgovor še ne pomeni boljšega rezultata.

Kako zagotovite varnost podatkov in pravice dostopa?

Varen RAG mora upoštevati pravice uporabnika že pri izbiri virov, ne šele pri prikazu odgovora. Dokument, ki ga zaposleni ne sme videti, ne sme postati skrita podlaga njegovega odgovora.

Pred uvedbo preverite celoten tok podatkov: izvorno zbirko, indeks, vektorske predstavitve, pozive, odgovore in dnevnike. Tudi iskalni indeks lahko vsebuje občutljive podatke, zato potrebuje ustrezno zaščito in pravila brisanja.

Osnovni kontrolni seznam vključuje:

• Dostop: ali se dovoljenja iz izvornih sistemov ustrezno prenesejo in preverjajo ob poizvedbi?
• Spremembe: kako hitro začne veljati odvzem dostopa ali izbris dokumenta?
• Prenos: kateri podatki se pošljejo ponudniku modela in kje se obdelujejo?
• Hramba: koliko časa ostanejo pozivi, odgovori, indeksi in dnevniki?
• Namen: ali je obdelava osebnih podatkov potrebna in pravno utemeljena?
• Nadzor: kdo lahko pregleduje uporabo in odloča o incidentih?

Posebej pomembno: poziv lahko vsebuje izseke internih dokumentov. Če se model izvaja zunaj vašega omrežja, lahko ti izseki zapustijo omrežje, čeprav izvirna datoteka ostane pri vas. Lokacija dokumentne zbirke zato sama ne pove, kje poteka obdelava njene vsebine.

Tveganje predstavljajo tudi zlonamerna navodila v dokumentih, znana kot prompt injection. Sistem mora pridobljeno vsebino obravnavati kot podatke, ne kot navodila za spreminjanje pravil ali razkrivanje informacij. Varovala pomagajo, vendar ne nadomestijo omejevanja dostopa in varnostnih preizkusov.

Pri WorkenAI so na voljo oblačna, hibridna in povsem lokalna namestitev. Za presojo arhitekture preglejte informacije o varnosti, izraze BYOK in guardrails pa pojasnjuje slovar. Sama uporaba RAG ne zagotavlja skladnosti; širši okvir predstavlja članek EU AI Act: kaj Akt o umetni inteligenci pomeni za vaše podjetje.

Kako začnete uvajati RAG in merite njegovo vrednost?

Začnite z enim preverljivim primerom uporabe, ne s povezovanjem vseh dokumentov podjetja. Pilot naj pokaže, ali zaposleni hitreje pridejo do uporabnega odgovora in ali sistem spoštuje dogovorjene omejitve.

Praktičen vrstni red je naslednji:

1. Izberite nalogo. Določite ponavljajoče se vprašanje, ciljno skupino in meje uporabe.
2. Uredite vire. Odstranite podvojene dokumente, označite veljavnost in določite lastnike vsebine.
3. Določite dostop. Preverite dovoljene in prepovedane vpoglede za različne uporabniške vloge.
4. Pripravite testna vprašanja. Vključite pričakovane odgovore, ustrezne vire in primere, kjer odgovor ni mogoč.
5. Preizkusite uporabo. Opazujte dejansko delo in beležite napake, ne le zadovoljstva z obliko odgovora.
6. Določite pogoje za širitev. Vnaprej opredelite sprejemljivo kakovost, stroške in obvezne varnostne preizkuse.

Merite pravilnost odgovorov, ustreznost virov, uspešnost zavrnitve pri manjkajočih podatkih in čas do uporabnega rezultata. Pri stroških upoštevajte pripravo ter osveževanje indeksov, iskanje, uporabo modela in vzdrževanje. Primerjajte tudi delo s pomočnikom z obstoječim postopkom brez njega.

Kako se v tak pristop vključuje WorkenAI?

WorkenAI združuje RAG, dostop do različnih modelov in nadzor uporabe v skupnem delovnem okolju. Podpira dokumentne vire, kot so Google Drive, SharePoint, OneDrive in Confluence, ter nalaganje datotek. To omogoča delo z internim znanjem brez vezanosti na en sam model.

Za upravljanje so relevantni vloge, varovala, revizijska sled in proračuni na ravni podjetja, ekipe ter posameznika. Pred uvedbo vseeno preverite konkretno obravnavo dovoljenj iz povezanega vira, osveževanje indeksa in zahtevano namestitev. Obstoj povezave z dokumentnim sistemom še ne potrjuje vseh zahtev vašega primera uporabe.

Dodatna pojasnila poiščite med pogostimi vprašanji, možnosti paketov in aktualne pogoje pa preverite v razdelku s cenami. Za organizacijski del je uporaben vodnik za uvedbo umetne inteligence v podjetju.

Zaključek

RAG omogoča, da AI odgovarja na podlagi znanja vašega podjetja, vendar njegovo vrednost določajo urejeni viri, kakovost iskanja in nadzor dostopa. Najboljša rešitev ni tista, ki odgovori na vse, temveč tista, ki ponudi preverljiv odgovor in jasno prepozna svoje meje.

Za prvi korak izberite omejeno zbirko dokumentov in vprašanja, pri katerih znate oceniti pravilnost. Nato preverite, ali rešitev zaposlenim dejansko pomaga. Če iščete skupno okolje za interno znanje, različne modele in nadzor uporabe, si oglejte WorkenAI ter njegove možnosti primerjajte z zahtevami svojega podjetja.