GDPR umetna inteligenca: varna uporaba osebnih podatkov

Iskalna zveza »gdpr umetna inteligenca« odpira zelo praktično vprašanje: ali smete v AI pomočnika vnesti pogodbo, življenjepis ali elektronsko sporočilo stranke? Odgovor ni splošni da ali ne. Odvisen je od namena, vsebine podatkov, izbranega orodja in zaščitnih ukrepov.

Najpogostejša napaka je, da podjetje preveri samo, ali ponudnik podatke uporablja za učenje modela. To je pomembno, vendar ne odgovori na vprašanja o zakonitosti obdelave, dostopih, hrambi, pravicah posameznikov in prenosih podatkov.

Spodnji vodnik povezuje pravila GDPR z vsakdanjim delom slovenskih podjetij. Za širši organizacijski okvir si oglejte tudi vodnik za uvedbo umetne inteligence v podjetju. Članek je splošno informativen in ne nadomešča pravnega nasveta za konkretno obdelavo.

GDPR umetna inteligenca: kdaj se uporabljajo pravila?

GDPR se uporablja, kadar z AI obdelujete podatke o določeni ali določljivi fizični osebi. To velja za vnos podatkov, njihovo shranjevanje, posredovanje modelu in uporabo njegovih odgovorov.

Osebni podatek ni samo EMŠO. Lahko je službeni elektronski naslov, zapis o reklamaciji, podatek o plači ali kombinacija delovnega mesta, kraja in dogodka, po kateri prepoznate zaposlenega. Podatki o pravni osebi sami po sebi praviloma niso osebni podatki, podatki o njenih kontaktnih osebah pa lahko so.

Preglejte celotno pot obdelave:

• Vhod: pozivi, priponke, prepisi sestankov in dokumenti iz povezanih map.
• Obdelava: izbrani model, povezane storitve in dostopi podpornega osebja.
• Izhod: povzetki, ocene, priporočila in iz njih nastali dokumenti.
• Spremljajoči zapisi: zgodovina pogovorov, dnevniki, varnostne kopije in uporabniški računi.

Tudi napačna trditev, ki jo AI ustvari o prepoznavni osebi, je lahko osebni podatek. Zato skladnost vključuje točnost in popravljanje rezultatov, ne samo preprečevanja razkritij.

Anonimizacija ni isto kot zamenjava imena

Če ime zamenjate z oznako »Zaposleni 17«, povezavo do osebe pa ohranite, gre praviloma za psevdonimizacijo. GDPR še vedno velja. Tudi brez povezovalne tabele lahko identiteto razkrijejo okoliščine.

Resnično anonimizirani podatki ne omogočajo identifikacije z razumno verjetnimi sredstvi. Pri majhni ekipi lahko opis »edina računovodkinja v poslovalnici« razkrije osebo, čeprav ste odstranili ime in priimek.

Katero pravno podlago potrebujete za uporabo AI?

Za vsak namen obdelave osebnih podatkov morate določiti ustrezno pravno podlago. Uporaba AI ne ustvari nove pravne podlage in ne razširi samodejno obstoječe.

Med podlagami iz 6. člena GDPR so izvajanje pogodbe, zakonska obveznost, zakoniti interesi in privolitev. Izbira je odvisna od okoliščin, ne od tega, katera možnost je za podjetje najpreprostejša.

Pri pripravi odgovora na reklamacijo je lahko relevantno izvajanje pogodbe, vendar mora biti obdelava objektivno potrebna. Dejstvo, da je AI priročen, še ne pomeni, da mu smete posredovati celotno zgodovino stranke. Pri zakonitem interesu dokumentirajte interes, potrebnost obdelave in tehtanje s pravicami posameznika.

Privolitev ni univerzalna rešitev. Biti mora prostovoljna, specifična, informirana in nedvoumna. V delovnem razmerju je zaradi neenakosti med delodajalcem in zaposlenim pogosto problematična.

Za posebne vrste osebnih podatkov, na primer zdravstvene podatke ali članstvo v sindikatu, poleg podlage po 6. členu potrebujete tudi ustrezen pogoj po 9. členu. Podatki o kazenskih obsodbah imajo ločeno ureditev. Upoštevajte tudi ZVOP-2 in relevantne področne predpise.

Pred uvedbo odgovorite na štiri vprašanja:

1. Kaj točno želimo doseči?
2. Ali lahko cilj dosežemo brez osebnih podatkov?
3. Ali je predvidena uporaba združljiva z namenom njihovega zbiranja?
4. Ali smo posameznikom razumljivo pojasnili obdelavo, prejemnike, hrambo in njihove pravice?

Splošna navedba »uporabljamo sodobne tehnologije« sama po sebi ne zagotovi ustrezne preglednosti.

Kaj morate preveriti pri ponudniku AI?

Preverite dejanske pogodbene pogoje in podatkovne tokove izbrane storitve, ne samo oznake »poslovno« ali »GDPR skladno«. Različni paketi istega ponudnika imajo lahko različne nastavitve, obveznosti in namene uporabe podatkov.

Vaše podjetje je običajno upravljavec, kadar določa namen in sredstva obdelave. Ponudnik je lahko obdelovalec, kadar deluje po vaših navodilih, za nekatere lastne namene pa tudi samostojni upravljavec. Vloge se presojajo po dejanskem delovanju, ne zgolj po naslovu pogodbe.

Če pride do prenosa v tretjo državo, preverite ustrezen mehanizem po poglavju V GDPR: na primer veljavno odločbo o ustreznosti ali standardne pogodbene klavzule, skupaj s potrebnimi presojami in dopolnilnimi ukrepi.

»Brez učenja na vaših podatkih« ne pomeni »brez hrambe« ali »brez prenosa«. Za dodatna vprašanja pri izbiri poslovnega klepetalnika preberite kaj preveriti pred uvedbo ChatGPT za podjetja.

Kako tehnično zaščitite osebne podatke pri uporabi AI?

Najbolj učinkovita zaščita je, da model prejme samo podatke, ki jih za nalogo res potrebuje. Temu dodajte omejene dostope, varnostne nastavitve, preverjanje rezultatov in nadzorovano hrambo.

Za praktično varstvo osebnih podatkov pri uporabi AI uvedite več dopolnjujočih se ukrepov:

• Odstranite imena, kontakte in identifikatorje, kadar niso potrebni.
• Celotno datoteko nadomestite z relevantnim odlomkom ali povzetkom.
• Za testiranje uporabljajte sintetične, ne kopiranih produkcijskih podatkov.
• Ločite dostop do kadrovskih, finančnih in drugih občutljivih vsebin.
• Določite dovoljene modele in povezave z zunanjimi storitvami.
• Zaščitite račune, ključe API in administratorske dostope.
• Omejite hrambo pogovorov in dnevnikov glede na dokumentiran namen.

Kaj lahko in česa ne morejo varovala?

Varovala oziroma guardrails lahko zaznavajo in zakrivajo osebne podatke ter blokirajo določene vsebine ali poskuse zlonamernih navodil. Pomen izrazov najdete v slovarju WorkenAI.

Noben detektor ni nezmotljiv. Preizkusite ga na slovenskih imenih, sklonih, EMŠO, telefonskih številkah in podatkih v tabelah. Preverite tudi napačne zaznave ter primere, ko identiteto razkriva kontekst. Samodejno zakrivanje ni dokaz, da je vsebina pravno anonimizirana.

Poziv lahko vsebuje odlomke vaših dokumentov

Pri povezavi AI z interno bazo znanja se izbrani odlomki lahko dodajo pozivu in pošljejo modelu. Zato trditev »iz omrežja odide samo poziv« ne pomeni nujno, da ga ne zapustijo osebni podatki.

Pri uporabi RAG nad podatki podjetja preverite dovoljenja pri iskanju in sestavljanju odgovora. Zaposleni ne sme dobiti kadrovskih informacij zato, ker jih je sistem našel v preširoko dostopni mapi. Tudi vektorske predstavitve dokumentov niso samodejno anonimne.

Kako je varna uporaba videti v slovenskih podjetjih?

Varnejši pristop običajno pomeni preoblikovanje naloge, ne zgolj izbire drugega modela. AI naj dobi dovolj informacij za koristno pomoč, vendar ne celotne evidence posameznika.

Naslednji primeri so ponazoritve, ne opisi konkretnih strank.

Računovodski servis: osnutek pojasnila stranki

Računovodja želi pojasniti razliko med dvema postavkama na obračunu. Namesto nalaganja celotnega obračuna z imenom, davčno številko in bančnim računom pripravi opis vprašanja brez identifikatorjev. Če konkretni zneski niso pomembni, uporabi izmišljene.

AI pripravi osnutek, računovodja pa preveri pravilnost in končne podatke doda v odobrenem poslovnem sistemu.

Trgovsko podjetje: odgovor na reklamacijo

Podporna ekipa potrebuje vljuden odgovor o zamudi dostave. Modelu posreduje vrsto težave, stanje naročila in predlagano rešitev, ne pa naslova kupca, telefonske številke in celotnega dopisovanja.

Pred pošiljanjem zaposleni preveri dejstva, obljubljene roke in skladnost s pravili podjetja. Izmišljena obljuba AI lahko povzroči poslovno težavo tudi brez razkritja osebnih podatkov.

Kadrovska služba: pomoč pri zaposlovanju

AI lahko pomaga sestaviti vprašanja za razgovor iz opisa delovnega mesta, brez življenjepisov kandidatov. Razvrščanje kandidatov na podlagi osebnih podatkov pa zahteva bistveno temeljitejšo presojo zakonitosti, diskriminacijskih tveganj in človeškega nadzora.

Pri izključno avtomatiziranih odločitvah s pravnimi ali podobno pomembnimi učinki se uporablja posebna ureditev 22. člena GDPR. Človeški pregled mora biti vsebinski, ne zgolj potrditev priporočila. Dodatne obveznosti lahko izhajajo tudi iz Akta o umetni inteligenci; skladnost z njim ne nadomesti GDPR.

Kako uvedete postopek skladnosti in ukrepate ob incidentu?

Začnite z omejenim primerom uporabe, dokumentirajte presojo in šele nato razširite uporabo. Vključite odgovorno osebo za proces, IT, pravno podporo in pooblaščeno osebo za varstvo podatkov, kjer je imenovana.

Priporočeno zaporedje:

1. Popišite uporabo. Zabeležite orodje, namen, uporabnike, kategorije podatkov in prejemnike.
2. Presodite zakonitost. Določite pravno podlago, potrebnost podatkov in način obveščanja posameznikov.
3. Preverite ponudnike. Uredite vloge, pogodbe, podobdelovalce in morebitne prenose.
4. Ocenite tveganje. Ugotovite, ali je potrebna ocena učinka v zvezi z varstvom podatkov oziroma DPIA.
5. Nastavite zaščito. Določite dostope, dovoljene vire, varovala, hrambo in pravila človeškega pregleda.
6. Preizkusite postopek. S sintetičnimi podatki preverite razkritja, napačne odgovore, izbris in omejitve dostopa.
7. Usposobite zaposlene. Pojasnite dovoljene vnose, prepovedane primere in prijavo napak.
8. Redno preverjajte spremembe. Zamenjava modela, povezava nove mape ali sprememba pogojev lahko zahteva novo presojo.

DPIA ni obvezna za vsako uporabo AI. Potrebna je, kadar je verjetno veliko tveganje za pravice in svoboščine posameznikov, na primer pri določenih oblikah obsežnega profiliranja ali obdelave posebnih vrst podatkov. Če po ukrepih ostane veliko tveganje, je lahko potrebno predhodno posvetovanje z nadzornim organom.

Pravice posameznikov in odziv na napake

Vedeti morate, kje poiskati osebne podatke in kako izvesti ustrezno zahtevo za dostop, popravek ali izbris. Zahteve praviloma obravnavate v enem mesecu; GDPR pod določenimi pogoji dopušča podaljšanje.

Če zaposleni v neodobreno orodje vnese osebne podatke, dogodek takoj interno prijavite, omejite nadaljnjo obdelavo in ocenite posledice. Če gre za kršitev varstva osebnih podatkov, jo dokumentirajte. Upravljavec jo prijavi Informacijskemu pooblaščencu brez nepotrebnega odlašanja in, kadar je izvedljivo, v 72 urah po seznanitvi, razen če ni verjetno tveganje za pravice in svoboščine. Pri velikem tveganju je praviloma potrebno tudi obvestilo prizadetim posameznikom.

Kako WorkenAI podpira nadzorovano uporabo AI?

WorkenAI združuje uporabo modelov, dokumentnih virov in pravil dostopa v skupnem delovnem okolju. Njegove funkcije lahko pomagajo izvajati organizacijska pravila, vendar skladnost ostaja odvisna od vaše konkretne uporabe.

Po opisu platforme so na voljo:

• zaznavanje in anonimizacija osebnih podatkov v besedilu ter lastna pravila za zakrivanje ali blokiranje;
• varovala proti zlonamernim navodilom in poskusom obhoda pravil;
• vloge ter upravljanje dostopov po ekipah in projektih;
• revizijska sled uporabe modelov in izvoz podatkov za pregled;
• oblačna, hibridna in lokalna namestitev.

WorkenAI navaja obdelavo v EU in da se podatki ne uporabljajo za učenje modelov. Za izbrano konfiguracijo vseeno preverite pogodbeni obseg teh zagotovil, lokacije obdelave in pogoje ponudnika modela.

Pri hibridni namestitvi aplikacija in podatkovna zbirka ostaneta na vaši infrastrukturi, poziv pa se pošlje izbranemu ponudniku. Preglejte zato tudi njegovo vsebino. Pri povsem lokalni namestitvi lahko tudi model deluje znotraj vašega omrežja, vendar s tem ne izginejo obveznosti glede pravne podlage, dostopov in hrambe.

Podrobnosti preverite na strani Varnost in v pogostih vprašanjih. WorkenAI ni potrdilo o skladnosti in ne nadzoruje uporabe AI orodij zunaj svojega okolja.

Zaključek

Varna uporaba AI z osebnimi podatki temelji na jasnem namenu, zakonitosti in preverljivih ukrepih. Nobena nastavitev ali oznaka ponudnika ne nadomesti razumevanja, kateri podatki se obdelujejo in zakaj.

Začnite z eno omejeno nalogo: zmanjšajte podatke, preverite ponudnika, določite odgovorno osebo in preizkusite zaščito. Šele nato vključujte zahtevnejše procese.

Če želite takšno uporabo podpreti z enotnim delovnim okoljem, si oglejte WorkenAI. Za načrtovanje uvedbe preverite tudi informacije o paketih in cenah, predvsem pa izberite način namestitve in nadzora, ki ustreza vašim podatkom in obveznostim.