Lokalni LLM ali oblak: kaj res zahteva zakonodaja?

Vprašanje lokalni llm ali oblak ni predvsem vprašanje strežnikov, temveč dokazovanja, da podatke uporabljate zakonito in varno. Za večino običajnih poslovnih uporab ne velja splošna zakonska zahteva, da mora jezikovni model delovati v vašem podjetju.

To pa ne pomeni, da je vsaka oblačna storitev primerna. Slovenski računovodski servis, proizvodno podjetje in zdravstveni zavod imajo različne podatke, tveganja in obveznosti. Enaka naročnina na AI orodje zato ni nujno ustrezna za vse tri.

Pravilna odločitev se začne pri namenu uporabe, nadaljuje pri dejanskih podatkovnih tokovih in konča pri dokazilih. Oznake »EU oblak«, »zasebni AI« ali »lokalni model« same po sebi niso dokaz skladnosti.

Lokalni LLM ali oblak: ali zakon predpisuje lokacijo modela?

GDPR in Akt o umetni inteligenci ne določata splošnega pravila, da mora podjetje uporabljati lokalni model. Zahteve se nanašajo predvsem na obdelavo podatkov, tveganja sistema, odgovornosti in zaščitne ukrepe.

Pomembno je ločiti tri vrste omejitev:

• Zakonska zahteva: izhaja iz konkretnega predpisa, ki velja za vašo organizacijo, podatke ali dejavnost.
• Pogodbena zahteva: naročnik lahko omeji zunanje izvajalce, lokacije obdelave ali posredovanje poslovnih skrivnosti.
• Interna odločitev: podjetje lahko zaradi tveganj določi strožja pravila, kot jih neposredno zahteva zakon.

Če slovenski dobavitelj razvija izdelek za tujega industrijskega naročnika, mu pogodba lahko prepoveduje pošiljanje razvojnih načrtov zunanjim AI ponudnikom. To je pomembna omejitev, ni pa dokaz, da zakon vsem proizvodnim podjetjem prepoveduje oblak.

Tudi suverenost podatkov ni samo naslov podatkovnega centra. Vključuje nadzor nad dostopi, ključi, podizvajalci, uporabo podatkov, izvozom in izbrisom ter pravnim okoljem ponudnika. Lastništvo strežnika ne odpravi vseh zunanjih odvisnosti, če ima oddaljeni vzdrževalec dostop do njega.

Od ponudnika ali svetovalca zato zahtevajte konkreten odgovor: kateri predpis, člen ali pogodbena določba omejuje predlagano rešitev? Trditev »zaradi GDPR morate imeti vse lokalno« brez nadaljnje razlage ni dovolj dobra podlaga za naložbo.

Kaj GDPR dejansko zahteva pri uporabi LLM?

GDPR ureja obdelavo osebnih podatkov, ne izbire med lastnim strežnikom in oblakom. Za skladnost potrebujete ustrezen namen, pravno podlago, omejen obseg podatkov in varnostne ukrepe, primerne tveganju.

Pri AI projektu preverite predvsem naslednje obveznosti:

• Namen in pravna podlaga: zakaj podatke obdelujete in na kateri podlagi iz 6. člena GDPR? Pri posebnih vrstah podatkov potrebujete tudi ustrezen pogoj iz 9. člena.
• Najmanjši obseg: modelu ne pošiljajte celotne kadrovske mape, če za nalogo zadostuje kratek izvleček.
• Razmerje s ponudnikom: kadar ponudnik nastopa kot obdelovalec, potrebujete ureditev po 28. členu GDPR in pregled podobdelovalcev.
• Varnost in hramba: določite upravičene uporabnike, roke izbrisa, zaščito dnevnikov ter odzivanje na incidente.
• Pravice posameznikov: zagotovite ustrezno obveščanje in izvedljive postopke za uveljavljanje pravic.

Ali morajo osebni podatki ostati v EU?

GDPR ne prepoveduje vseh prenosov zunaj Evropskega gospodarskega prostora. Zanje veljajo pogoji iz poglavja V: denimo ustrezna odločba o ustreznosti ali ustrezni zaščitni ukrepi, kot so standardne pogodbene klavzule. Kadar je potrebno, ocenite tudi okoliščine prenosa in dodatne ukrepe.

Gostovanje v EU zato ni konec preverjanja. Ugotoviti morate, kdo lahko do podatkov dostopa iz tretjih držav ter kam gredo varnostne kopije, diagnostični podatki in zahtevki podpori. Lastništvo ponudnika samo zase še ne poda celotnega odgovora.

Ocena učinka na varstvo podatkov, DPIA, je potrebna, kadar je verjetno veliko tveganje za pravice in svoboščine posameznikov, ne avtomatično pri vsakem klepetalniku. Lokalna namestitev te obveznosti ne odpravi.

Podrobnejšo razlago najdete v članku GDPR in umetna inteligenca: varna uporaba osebnih podatkov. Primarna podlaga je besedilo GDPR.

Kaj dodajo Akt o UI in sektorska pravila?

Akt o UI obveznosti veže na vlogo organizacije in uporabo sistema, ne samo na njegovo lokacijo. Lokalni sistem za ocenjevanje kandidatov je lahko regulativno zahtevnejši od oblačnega pomočnika za pisanje opisov izdelkov.

Podjetje, ki uporablja kupljeno rešitev, je praviloma uvajalec. Če sistem razvije, ga bistveno spremeni ali spremeni njegov namen, se lahko njegova vloga in obveznosti spremenijo. Samostojno gostovanje modela še ne odgovori na vprašanje, kdo je ponudnik posameznega sistema.

V praksi preverite:

• ali je predvidena uporaba prepovedana;
• ali sistem spada med visokotvegane in katere obveznosti zanj veljajo;
• kakšen človeški nadzor in dokumentacijo potrebujete;
• ali morate uporabnika obvestiti o interakciji z AI oziroma razkriti določene umetno ustvarjene vsebine;
• kako boste zagotovili ustrezno AI pismenost zaposlenih.

Obveznosti za visokotvegane sisteme niso avtomatično obveznosti vsakega poslovnega klepeta. Pri uporabi rokov preverite veljavno besedilo in sprejete spremembe; napovedana sprememba zakonodaje še ni veljaven odlog.

Za orientacijo uporabite vodnik o Aktu o umetni inteligenci za podjetja, partnerski pregled EU AI Act in uradno besedilo uredbe.

Dodatne omejitve lahko izhajajo iz ZVOP-2, sektorskih predpisov, pravil o zaupnosti in pogodbenih obveznosti. DORA pri zajetih finančnih subjektih poudarja obvladovanje tveganj zunanjih ponudnikov IKT, pogodbe in odpornost; ne pomeni splošne prepovedi oblaka. Pri zdravstvu, javnem sektorju ali tajnih podatkih je potrebna posebej skrbna presoja konkretnega primera.

Kdaj izbrati oblak, hibridno AI ali on-prem AI?

Izberite najpreprostejšo arhitekturo, ki dokazljivo izpolni vaše zahteve. Več lokalne infrastrukture praviloma pomeni več neposrednega nadzora, vendar tudi več operativnih nalog.

Ponazorilni slovenski primeri:

• Turistično podjetje na Obali: priprava prevodov javnih opisov nastanitev je primeren kandidat za oblak. Seznami gostov in podatki iz rezervacij zahtevajo ločeno presojo.
• Razvojna ekipa na Gorenjskem: za neobjavljene tehnične načrte je lahko ustreznejši lokalni model, zlasti ob pogodbeni prepovedi zunanje obdelave.
• Računovodski servis v Mariboru: hibridna rešitev lahko lokalno obdeluje dokumente, zunaj pa pripravlja besedila na podlagi dovolj zmanjšanih podatkov. Najprej je treba preveriti, ali pozivi še vsebujejo osebne podatke.

Strošek primerjajte celovito: poleg licence ali porabe vključite strojno opremo, elektriko, administracijo, varnost, preizkušanje kakovosti in nedosegljivost. Lokalni model ni nujno cenejši, oblak pa ne nujno dražji. Več operativnih meril obravnava članek Lokalni LLM: kdaj se splača AI na lastnih strežnikih.

Ali pri hibridni AI podatki res ostanejo doma?

Pri hibridni arhitekturi lahko izvorni dokument ostane lokalno, njegova vsebina pa vseeno zapusti omrežje. Poziv je prav tako podatek, tudi kadar vsebuje samo nekaj odstavkov iz dokumenta.

Tipičen sistem RAG lokalno poišče relevantne odlomke in jih doda vprašanju, ki ga prejme model. Če model deluje v oblaku, prejme tudi te odlomke. Razlika med »ne pošljemo datoteke« in »ne pošljemo njene vsebine« je zato bistvena.

Predstavljajte si vprašanje: »Povzemite odprte obveznosti stranke iz priložene pogodbe.« Če sistem zunanjemu modelu pošlje ime, naslov in finančne določbe, je prišlo do zunanje obdelave teh podatkov, čeprav PDF ostane na lokalnem disku.

Preverite celotno verigo:

1. Kje potekata prepoznavanje besedila in priprava vektorskih predstavitev?
2. Kateri odlomki se vključijo v poziv?
3. Ali se pošiljata tudi zgodovina pogovora in vsebina prilog?
4. Kje nastajajo dnevniki, meritve in varnostne kopije?
5. Ali rezervni model ali spletno iskanje odpreta dodatno podatkovno pot?

BYOK pomeni uporabo lastnega API ključa, ne lokalnega izvajanja modela. Tudi šifriran prenos ne pomeni, da ponudnik med obdelavo ne prejme vsebine.

Odstranitev imena prav tako ni nujno anonimizacija. Če je osebo mogoče prepoznati iz drugih podatkov ali s povezovalno tabelo, gre lahko še vedno za osebne podatke. Za tehnično ozadje preberite razlago RAG nad podatki podjetja.

Kako odločitev preverite v sedmih korakih?

Namestitev izberite po dokumentirani presoji konkretne uporabe, ne po splošni oznaki ponudnika. Rezultat naj bo kratka odločitev z odgovorno osebo, pogoji uporabe in dokazili.

1. Opišite nalogo. Ločite pripravo osnutkov od odločanja o ljudeh. Zapišite, kdo preveri rezultat in kaj se zgodi ob napaki.
2. Razvrstite podatke. Opredelite javne, interne in zaupne informacije ter osebne podatke. Posebej označite zdravstvene podatke, poslovne skrivnosti in pogodbene omejitve.
3. Narišite podatkovni tok. Vključite aplikacijo, model, iskalnik, OCR, podporo, dnevnike in rezervne storitve. Seznam strežnikov brez tokov ni dovolj.
4. Preverite pravne podlage in pogodbe. Uredite vloge, obdelovalce, podobdelovalce, lokacije, prenose, roke hrambe, izbris ter uporabo podatkov za izboljševanje storitve.
5. Ocenite tveganja. Presodite potrebo po DPIA in razvrstitev po Aktu o UI. Vključite pravno službo, informacijsko varnost in pooblaščeno osebo za varstvo podatkov, kjer je imenovana.
6. Preizkusite ukrepe. Na sintetičnih podatkih preverite dovoljenja, maskiranje, izvoz, izbris in blokado nedovoljenih zunanjih klicev. Preizkusite tudi manipulativna navodila v dokumentih.
7. Odobrite omejen pilot in spremljanje. Določite dovoljene naloge, uporabnike, odgovorno osebo, merila uspeha in datum ponovnega pregleda.

Dokazila naj vključujejo pogodbo o obdelavi, seznam podobdelovalcev, opis arhitekture, nastavitve hrambe in rezultate preizkusov. Sprememba ponudnika modela ali vključitev nove funkcije lahko zahteva novo presojo.

Za občutljiv dokument brez jasnih odgovorov ne iščite najhitrejše izjeme. Do razjasnitve uporabite sintetičen primer ali že odobreno okolje. Tako pilot napreduje, ne da bi postal nenadzorovan prenos poslovnih podatkov.

Kako WorkenAI podpira izbrano arhitekturo?

WorkenAI omogoča oblačno, hibridno in lokalno namestitev ter skupno upravljanje uporabe modelov. Te možnosti podpirajo izvajanje pravil, ne nadomestijo pa pravne presoje ali odgovornosti organizacije.

V hibridni izvedbi lahko aplikacija in podatkovna shramba ostaneta na vaši infrastrukturi, model pa uporabljate prek lastnega ključa ali prehoda ponudnika. Pri tem je treba pregledati vsebino odhodnih pozivov: vanje vključeni odlomki so še vedno podatki, poslani modelu.

Pri popolni lokalni izvedbi na lastni infrastrukturi delujejo aplikacija, podatki in model, mogoča je tudi omrežno izolirana postavitev. Za zahtevo »nič ne sme zapustiti omrežja« preverite tudi integracije, posodobitve in podporne postopke konkretne namestitve.

WorkenAI vključuje upravljanje dostopov, proračune, revizijsko sled in varovala za zaznavanje osebnih podatkov ter poskusov manipulacije navodil. Samodejna varovala zmanjšujejo tveganje, niso pa zagotovilo, da prepoznajo vsak občutljiv podatek ali napad. Tudi revizijske dnevnike morate ustrezno zaščititi in jim določiti rok hrambe.

Pred izbiro preglejte varnostne informacije, pogosta vprašanja in slovar pojmov. Nato zahtevajte potrditev arhitekture in pogodbenih pogojev za svoj primer uporabe.

Zaključek

Odločitev med lokalnim LLM in oblakom naj temelji na zahtevah konkretne naloge, ne na mitu, da je ena možnost avtomatično skladna. Za nekatera opravila bo primeren oblak, za druga hibridna AI, za najstrožje omejitve pa popolnoma lokalna izvedba.

Najprej določite dovoljene podatkovne tokove, nato izberite tehnologijo in preverite delovanje zaščit. Če primerjate možnosti uvedbe, si oglejte WorkenAI in informacije o paketih ter jih ocenite z istim kontrolnim seznamom kot druge ponudnike.

Članek je informativen in ni pravno mnenje. Za regulirane ali občutljive uporabe preverite veljavne predpise in konkretne pogodbe.