Pravo EU o vsebinah, ustvarjenih z UI: odgovornost, označevanje in preglednost za mednarodna spletišča

Uvod v ureditev EU za vsebine, ustvarjene z UI

Evropska unija je z aktom o umetni inteligenci (Uredba 2024/1689) vzpostavila celovit pravni okvir za umetno inteligenco, ki vpliva tudi na vsebine, ustvarjene z UI. Za upravljavce mednarodnih spletišč je to pomembno, saj so besedila, ustvarjena ali prevedena s pomočjo UI, lahko predmet določenih obveznosti glede preglednosti in označevanja. Akt o umetni inteligenci temelji na pristopu, ki temelji na tveganju: glede na področje uporabe UI (npr. klepetalni roboti, generiranje vsebin, prevajanje) veljajo različne zahteve. Osrednja obveznost je jasno navesti, da je vsebino ustvarila ali obdelala UI – če to uporabniku ni očitno.

Že pred aktom o umetni inteligenci so v pravu EU veljali predpisi o odgovornosti za izdelke (Direktiva 85/374/EGS) ter Splošna uredba o varstvu podatkov (GDPR), ki so lahko uporabni tudi za besedila, ustvarjena z UI. Nova je izrecna obveznost označevanja vsebin, ustvarjenih z UI, ki je določena v členu 50 akta o UI. Ta velja zlasti za besedila, namenjena prejemanju s strani fizičnih oseb – kot so objave v blogih, opisi izdelkov ali komunikacija s strankami. Če so take vsebine na mednarodnem spletišču na voljo v več jezikih EU, mora biti oznaka prisotna v vsaki jezikovni različici.

Za prakso lokalizacije to pomeni: pri ustvarjanju vsebin s pomočjo UI je treba v poteku dela predvideti oznako, ki se lahko kasneje uporabi pri označevanju. Akt o UI pa konkretno izvedbo prepušča nacionalnim organom ali delegiranim aktom. Doslej ni enotne oblike označevanja na ravni EU; običajna izvedba je navedba, kot je „To besedilo je bilo ustvarjeno s podporo UI“ ali ustrezna ikona. Pri strojnem prevajanju s popravki UI v praksi zadostuje navedba uporabe orodij UI, če celoten vtis besedila ni zavajajoče verjeten. Priporočamo, da svoje postopke preveri odvetnik ali odvetnica s specializacijo na področju IT prava, saj je pravna situacija dinamična.

Pravni okvir: AI Act in relevantne uredbe

AI Act (Uredba 2024/1689) je v veljavi od avgusta 2024 in se postopoma uveljavlja: večina določb začne veljati avgusta 2026. Za vsebine, ki jih ustvari UI, so še posebej pomembne obveznosti glede preglednosti iz člena 50. V skladu s tem morajo ponudniki in upravljavci sistemov UI, ki ustvarjajo vsebine, razkriti, kadar so vsebine predstavljene fizičnim osebam. Oznaka mora biti za uporabnika prepoznavna in ne sme biti zavajajoča. Poleg tega je treba upoštevati zahteve AI Acta za visoko tvegane sisteme UI, če se UI uporablja na področjih, kot so kritična infrastruktura ali dostop do izobraževanja. Vendar večina generativnih besedilnih UI ne spada v to kategorijo, razen če se uporabljajo za varnostno pomembne namene.

Poleg AI Acta so pomembne še druge uredbe EU: Splošna uredba o varstvu podatkov (GDPR, Uredba 2016/679) pri osebnih podatkih v besedilih UI; Direktiva o odgovornosti za proizvode (85/374/EGS) za škodo, ki jo povzročijo vsebine, ustvarjene z UI; ter Uredba o digitalnih storitvah (DSA, Uredba 2022/2065), ki platforme zavezuje k večji preglednosti priporočilnih algoritmov – tudi če temeljijo na UI. Za mednarodna spletna mesta v EU je pomembna tudi uredba eIDAS (2014/910), kadar naj bi besedila, ustvarjena z UI, imela pravne učinke. Uredba o odgovornosti za UI (Direktiva 2024/...) je še v zakonodajnem postopku.

V praksi to pomeni: Če za svojo večjezično spletno trgovino uporabljate UI za opisovanje izdelkov, morate v vsaki jezikovni različici navesti, da je bila uporabljena UI. Izjema je, če so bile vsebine izključno uredniško pregledane in bistveno predelane – potem se lahko delež UI šteje za nebistvenega. Upoštevajte: dokazno breme za bistvenost je na upravljavcu. Priporočamo, da pripravite interno smernico, ki določa, pri kateri vrsti uporabe UI je potrebna oznaka. To smernico je treba redno prilagajati pravnim spremembam. Za to poiščite pravni nasvet, saj se razlaga predpisov s strani nacionalnih nadzornih organov lahko razlikuje.

Vprašanja odgovornosti pri besedilih, ki jih ustvari UI

Odgovornost za vsebine, ki jih ustvari UI, v EU urejajo obstoječa pravila o odgovornosti za proizvode in splošno deliktno pravo. V skladu z Direktivo o odgovornosti za proizvode (85/374/EGS) je lahko odgovoren proizvajalec izdelka s napako – besedila, ustvarjena z UI, so digitalni izdelek. Vsebina je pomanjkljiva, če ne nudi varnosti, ki jo je mogoče pričakovati ob upoštevanju vseh okoliščin. Pri besedilih je napaka lahko na primer napačen zdravstveni podatek ali zavajajoč opis izdelka, ki povzroči škodo. Ponudnik sistema UI in upravljavec spletnega mesta sta lahko odgovorna solidarno, odvisno od tega, kdo je objavil vsebino.

Poleg tega velja splošno načelo krivde: kdor objavi besedilo, ustvarjeno z UI, brez pregleda, lahko ravna malomarno, če je besedilo očitno napačno ali zavajajoče. GDPR nastopi, če besedila UI vsebujejo osebne podatke, na primer v samodejno ustvarjenih ocenah strank. Tu grozijo globe do 20 milijonov evrov ali 4 % letnega prometa. Odgovornost se lahko zmanjša z uporabo »UI s človeškim nadzorom« – torej če urednik pred objavo pregleda in popravi besedilo. Praksa kaže, da skrben končni človeški pregled znatno zmanjša tveganje odgovornosti.

Za mednarodna spletna mesta z več jezikovnimi različicami se tveganje poveča: vsebina z napako v enem jeziku ima lahko pravne posledice v vseh državah članicah EU, če je tam dostopna. Zato priporočamo, da za vsako jezikovno različico opravite ločen pravni pregled vsebine, ustvarjene z UI, ali vzpostavite enotno zagotavljanje kakovosti, ki zajema vse jezike. Dokumentirajte korake pregleda, da boste v sporu lahko dokazali, da ste izpolnili svojo dolžnost skrbnega ravnanja. Upoštevajte: vprašanja odgovornosti še niso dokončno sodno razjasnjena; tukaj predstavljena načela temeljijo na veljavnih predpisih EU in sodni praksi. Zato naj vašo oceno tveganja opravi odvetnik ali odvetnica.

Obveznosti označevanja vsebin, ustvarjenih z umetno inteligenco

Akt EU o umetni inteligenci določa, da morajo biti vsebine, ustvarjene z umetno inteligenco, jasno označene kot take, če so namenjene javnosti. To zlasti velja za besedila, slike, avdio in video material, ki so jih ustvarili ali obdelali sistemi umetne inteligence. Cilj je zaščititi uporabnike pred zavajanjem in zagotoviti preglednost glede izvora vsebin. Označba mora biti neposredno prepoznavna in trajna, na primer z navedbo, kot je »Vsebina, ustvarjena z umetno inteligenco«, ali standardizirano ikono. Za mednarodna spletna mesta velja: označba mora biti v vseh jezikih ponujenih državnih različic – zgolj angleška označba ne zadostuje, če je stran prikazana v nemščini, francoščini ali poljščini.

V praksi to pomeni, da morajo upravljavci večjezičnih spletnih mest prilagoditi svoje sisteme za upravljanje vsebin. Na primer, pod vsak članek ali opis izdelka, ustvarjen z umetno inteligenco, se lahko samodejno doda opozorilo. Pri tem je treba paziti, da označba ni skrita v nogah, ampak se prikaže neposredno ob vsebini. Pri dinamičnih vsebinah, kot so klepetalni roboti ali personalizirana priporočila, je treba v uporabniški vmesnik vključiti opozorilo. Označba mora biti tudi dostopna, na primer z metapodatkovno oznako, ki jo lahko preberejo bralniki zaslona.

Pravno je treba upoštevati, da bodo natančne zahteve še opredeljene z delegiranimi akti. Do dokončne določitve pa upravljavci ravnajo previdno, če pregledno označijo vse vsebine, ustvarjene z umetno inteligenco. Priporočljiva je enotna strategija označevanja v vseh jezikovnih različicah, da se izognemo jezikovno specifičnim napakam. Vzorec besedila je lahko: »To besedilo je bilo ustvarjeno s pomočjo umetne inteligence.« Ta stavek je treba vključiti v delovni tok prevajanja za vsak posamezen jezik. Za praktično izvedbo se lahko uporabi vtičnik ali vmesna programska oprema, ki samodejno nastavi označbo. Upoštevajte: obveznost označevanja velja tudi za prevode, ustvarjene z umetno inteligenco, če ciljnega besedila ni bistveno pregledal človek.

Priporočilo za ukrepanje: Izvedite revizijo vseh vsebin, ustvarjenih z umetno inteligenco na vašem spletnem mestu, in preverite vidnost označbe v vseh jezikovnih različicah. Uporabite centralno predlogo, ki je vključena v predlogo spletnega mesta. Dokumentirajte, kako izvajate označevanje – to lahko v spornem primeru služi kot dokaz. V primeru negotovosti se posvetujte z odvetnikom, specializiranim za pravo EU, saj se predpisi še oblikujejo.

Zahteve glede preglednosti do uporabnikov

Poleg zgolj označevanja Akt EU o umetni inteligenci od upravljavcev mednarodnih spletnih mest zahteva, da uporabnike obvestijo o delovanju in omejitvah uporabljenih sistemov umetne inteligence. To vključuje podatke o namenu umetne inteligence, vrsti uporabljenih podatkov in možnosti, da uporabniki izpodbijajo ali popravijo izhod, ustvarjen z umetno inteligenco. Obveznosti glede preglednosti so še posebej pomembne, če imajo vsebine, ustvarjene z umetno inteligenco, pravne ali zdravstvene posledice – na primer pri samodejno ustvarjenih splošnih pogojih poslovanja ali zdravniških nasvetih. V takih primerih je treba jasno navesti, da človek vsebin ni preveril in da ni mogoče prevzeti odgovornosti za njihovo pravilnost.

Za večjezična spletna mesta se pojavljajo posebni izzivi: obvestila o preglednosti morajo biti ne le prevedena, ampak tudi kulturno prilagojena. Medtem ko se v Nemčiji pričakuje stvaren, informativen ton, druge države dajejo večji pomen slikovnim prikazom. Dobra praksa je vzpostavitev namenske »strani o preglednosti umetne inteligence«, ki je povezana v vseh jezikovnih različicah. Na njej so lahko podrobne informacije o uporabljenih modelih umetne inteligence, podatkih za usposabljanje in morebitnih tveganjih pristranskosti. Poleg tega je treba vključiti mehanizem za povratne informacije, prek katerega lahko uporabniki opozorijo na napake ali neprimerne vsebine.

V praksi je priporočljivo, da se informacije o preglednosti strukturirajo na treh ravneh: kratek povzetek v kontekstu vsebine (npr. »Ta ocena je bila samodejno ustvarjena«), povezana podrobna stran s tehničnim ozadjem in preprost kontaktni obrazec za dodatna vprašanja. Pri dinamičnih sistemih umetne inteligence, kot so klepetalni roboti, je pomembno, da uporabnik kadar koli prepozna, da komunicira s strojem – na primer z avatarjem ali stalnim prikazom »Asistent umetne inteligence«. Obveznosti glede preglednosti veljajo tudi za prevajanje vsebin, ustvarjenih z umetno inteligenco: če uporabljate strojne prevode, morate jasno navesti, da besedila ni pregledal človeški prevajalec, če je to dejstvo.

Priporočilo za ukrepanje: Oblikujte smernico o preglednosti, ki je zavezujoča za vse jezikovne različice. Implementirajte tehnične rešitve, ki uporabnika proaktivno obveščajo, na primer z namigi ali pojavnimi okni ob prvem obisku območja, ustvarjenega z umetno inteligenco. Preizkusite razumljivost opozoril na ciljnih trgih, na primer s kratkimi anketami. Upoštevajte: bolj pregledno kot komunicirate, manjše je tveganje za opozorila ali izgubo zaupanja. Pravno skladnost svojih ukrepov glede preglednosti preverite pri odvetniku, ki pozna nacionalno pravo ciljnih držav.

Posebnosti za mednarodna spletišča

Mednarodna spletišča niso podvržena le EU AI Actu, temveč tudi nacionalnim izvedbenim predpisom in morebitnim dodatnim zahtevam v tretjih državah. Medtem ko AI Act kot uredba EU velja neposredno, lahko posamezne države članice sprejmejo strožje zahteve glede preglednosti. Poleg tega morajo upravljavci pri uporabi vsebin, ustvarjenih z umetno inteligenco, upoštevati avtorsko pravo, konkurenčno pravo in Splošno uredbo o varstvu podatkov (GDPR). Pri lokalizaciji je zato ključno upoštevati regulacijo umetne inteligence na vsakem ciljnem trgu – kar presega zgolj prevod pravnih obvestil.

Praktičen problem: besedilo, ustvarjeno z umetno inteligenco, ki je v Nemčiji dovoljeno z označbo, bi lahko v Franciji veljalo za zavajajoče, če označba ni dovolj poudarjena. Ali pa bi v Italiji določena formulacija lahko bila interpretirana kot oglaševanje, ki ga je treba posebej označiti. Zato je nujno, da procesi lokalizacije vključujejo ne le jezikovne, ampak tudi pravne presoje. Za vsako jezikovno različico je treba pridobiti lokalno pravno svetovanje, ali označba umetne inteligence in obvestila o preglednosti ustrezajo tamkajšnjim zahtevam. Osrednje sklicevanje na pravo EU ne zadostuje, če nacionalno sodišče zahteva bolj specifično formulacijo.

Tehnično je priporočljivo uporabiti konfigurabilen sistem pravil, ki glede na jezik in državo prikazuje različne označevalne in preglednostne tekste. Tako se lahko položaj obvestila razlikuje: medtem ko je na Nizozemskem običajen pas na vrhu strani, na Poljskem pričakujejo pojavno okno po prvem drsenju. Tudi barva in velikost označbe sta lahko kulturno občutljivi. Pomembno je, da označba ne izgine zaradi odzivnega oblikovanja na mobilnih napravah. Poleg tega morate predvideti sistem za redne posodobitve, saj se pravno stanje v državah EU lahko hitro spremeni.

Priporočilo: vključite preverjanje skladnosti v svoj potek lokalizacije. Za vsak pomemben trg najemite pravnega svetovalca, ki bo ocenil aktualne predpise o umetni inteligenci. Uporabljajte sistem za upravljanje vsebin s funkcijo skupin držav za upravljanje specifičnih nastavitev. Sprejete ukrepe dokumentirajte v priročniku o skladnosti. Načrtujte čas za prilagoditve, če bodo sprejeti novi nacionalni predpisi. In predvsem: preizkusite označbe in obvestila o preglednosti na vseh ciljnih trgih z resničnimi uporabniki, da zagotovite sprejemljivost in razumljivost. Le tako se boste izognili pravnim sporom in ohranili zaupanje svojih mednarodnih ciljnih skupin.

Praktična izvedba zahtev glede preglednosti

Označevanje vsebin, ustvarjenih z umetno inteligenco, je po AI Actu obvezno, če so namenjene fizičnim osebam. V praksi to pomeni, da morate na svojem mednarodnem spletišču jasno označiti, ali so besedila, slike ali videi ustvarjeni strojno. Preprosta rešitev je prikaz dobro vidne oznake, kot je »Ustvarjeno z umetno inteligenco« ali »S podporo umetne inteligence«. Ta oznaka ne sme biti skrita ali prisotna le v izvorni kodi, ampak mora biti nameščena neposredno v vidnem območju – na primer nad vsebino ali kot del noge. Upoštevajte, da mora biti označevanje izvedeno v vseh jezikih vašega spletišča, saj uredba EU velja za vse jezike EU. Zato pri lokalizaciji uporabite ustrezne prevode oznake.

Drugi korak je razkritje uporabe umetne inteligence v splošnih pogojih poslovanja (SPP) ali v ločeni izjavi o preglednosti. V njej opišite, katere vsebine so ustvarjene z umetno inteligenco, kateri podatki so bili uporabljeni in ali poteka človeški pregled. To gradi zaupanje in zmanjšuje tveganje opominov. Poskrbite, da je ta izjava na voljo v vseh ustreznih pravnih jezikih. Za izvedbo je priporočljivo vzpostaviti osrednjo nadzorno ploščo preglednosti, ki povzema uporabo umetne inteligence na vašem spletišču in je dostopna prek povezave v nogi.

Tehnično lahko vsebine, ustvarjene z umetno inteligenco, označite prek metapodatkov, npr. v glavi HTML ali v strukturah JSON-LD. To je koristno predvsem za sledljivost s strani nadzornih organov. Vendar to ne nadomešča uporabniku vidne oznake. Praktični nasvet: uvedite notranji kontrolni seznam, ki pred objavo vsake vsebine, ustvarjene z umetno inteligenco, preveri označevanje. Za večjezična spletišča uporabite sistem za upravljanje prevodov (TMS), ki samodejno prevede in vstavi oznake v ciljne jezike. Pravno je treba upoštevati, da so zahteve še v razvoju; za vašo specifično situacijo poiščite pravno svetovanje. S strukturirano izvedbo se boste izognili neprijetnim presenečenjem in zagotovili skladnost vašega mednarodnega spletišča.

Lokalizacija pravno skladnih besedil UI

Lokalizacija vsebin, ustvarjenih z UI, za mednarodna spletišča prinaša posebne izzive, saj ne obstajajo le jezikovne, temveč tudi pravne razlike med državami članicami EU. Besedilo UI, ki je v Nemčiji pravno skladno, je lahko v Franciji ali na Poljskem ocenjeno drugače. Zato morate pri lokalizaciji vedno upoštevati nacionalne izvedbe AI Act ter druge nacionalne predpise, kot so francoski 'Loi pour une République numérique' ali nemški 'Gesetz gegen den unlauteren Wettbewerb' (UWG). V praksi to pomeni: sodelujte s prevajalsko agencijo, ki pozna pravne zahteve v ciljnih državah. Vsebin UI ne dajte le prevesti, temveč tudi pravno preveriti, zlasti kadar gre za izključitve odgovornosti, impresum ali izjave o varstvu podatkov.

Konkreten postopek: ustvarite slogovni vodnik za vsebine UI, ki določa, katere formulacije so dovoljene in katere ne. Na primer, besedila, ustvarjena z UI, ne smejo vsebovati zavajajočih trditev ali ustvarjati vtisa človeškega ustvarjanja. Slogovni vodnik mora za vsako ciljno državo vključevati posebne pravne zahteve – glede označevanja oglasov ali privolitve za prilagojene vsebine. Ta vodnik nato upoštevajo tako prevajalci kot modeli UI. Orodjsko lahko uvedete procese naknadnega urejanja: po prevodu UI človeški urednik preveri, ali so izpolnjene vse pravne zahteve. Izkušnje kažejo, da je to najvarnejša pot za zagotavljanje skladnosti čez meje.

Bodite pozorni tudi na kulturne razlike: v nekaterih državah je jasno označevanje vsebin UI zaželeno, v drugih povzroča nezaupanje. Ustrezno prilagodite umestitev in formulacijo oznak, ne da bi pri tem znižali zakonske minimalne zahteve. Preverjen model je centralno ustvarjanje pravno skladnih predlog v izvirnem jeziku, ki se nato lokalizirajo. Te predloge vsebujejo vse potrebne klavzule, oznake in izjave o omejitvi odgovornosti, ki jih glede na državo dopolnite ali prilagodite. Vse spremembe dokumentirajte na pregleden način. Ker je pravno stanje dinamično, priporočam redno revizijo lokaliziranih vsebin UI – vsaj enkrat letno ali ob spremembah ustreznih zakonov. S to strategijo zagotovite, da vaša mednarodna spletišča ustrezajo zahtevam EU in da so tveganja čim manjša.

Upravljanje tveganj pri vsebinah UI

Uporaba vsebin, ustvarjenih z UI, na mednarodnih spletiščih prinaša različna tveganja: od kršitev avtorskih pravic prek napačnih informacij do kršitev obveznosti označevanja. Sistematično upravljanje tveganj je zato nujno. Začnite z inventuro vseh vsebin UI na vašem spletišču in dokumentirajte, katera besedila, slike ali videoposnetki so bili ustvarjeni strojno. Vsak element ocenite glede na morebitna tveganja, kot so zavajanje, diskriminacija ali pravne kršitve. Preprosta matrika je lahko v pomoč: združite verjetnost škode z njeno resnostjo. Osredotočite se na področja visokega tveganja, npr. opise izdelkov, zdravstvene informacije ali finančne vsebine. Za te področja vzpostavite stroge človeške postopke preverjanja.

Tehnični ukrepi dopolnjujejo to oceno: uporabite filtre, ki zaznavajo tipične napake modelov UI, kot so halucinacije ali neskladja. Usposobite svojo ekipo za ravnanje z izhodi UI – vedeti morajo, na kaj biti pozorni. Uvedite načelo štirih oči: vsako vsebino UI pred objavo preverita dve osebi. Ena oseba preveri jezikovno in vsebinsko pravilnost, druga pa pravno skladnost. Ta preverjanja morajo potekati v vseh lokalnih jezikih, zato je potrebno večjezično osebje ali sodelovanje z lokalnimi strokovnjaki. Vse korake preverjanja dokumentirajte, da boste v primeru spora lahko dokazali, da ste izpolnili svojo dolžnost skrbnosti.

Drugi gradnik je redno spremljanje objavljenih vsebin. Uporabite orodja za spremljanje, da pravočasno odkrijete pritožbe ali opozorila. Vzpostavite notranji postopek eskalacije, če je vsebina UI izpodbijana. Hitro ukrepajte: problematične vsebine nemudoma odstranite ali popravite in obvestite prizadete uporabnike. Poleg tega pripravite krizni načrt za primer večje kršitve. Upoštevajte: odgovornost za vsebine UI nosi upravljavec spletišča, ne model UI. Zato je celovita preventiva ključnega pomena. Pooblastite se za pravno svetovanje, da zmanjšate tveganja odgovornosti, zlasti pri čezmejnih zadevah. S strukturiranim upravljanjem tveganj ne ustvarite le pravne varnosti, temveč tudi dolgoročno izboljšate kakovost vsebin.

Dokumentacija in obveznosti dokazovanja

V okviru EU AI Act in dopolnilnih uredb so upravljavci sistemov UI, ki ustvarjajo vsebine, zavezani k obsežni dokumentaciji in obveznostim dokazovanja. To zlasti zadeva podjetja, ki uporabljajo UI prevedena ali UI ustvarjena besedila na mednarodnih spletnih straneh. Dokazati morajo, kateri modeli UI so bili uporabljeni, kako so bili usposobljeni (npr. kateri viri podatkov, različice) in kakšna je logika odločanja za izhodi. Za prakso lokalizacije to pomeni: vodite centralni register vseh uporabljenih orodij UI, vključno s proizvajalcem, številko modela, podatki o usposabljanju (če so znani) in področjem uporabe. Dokumentirajte tudi korake preverjanja – na primer ročne popravke s strani maternih govorcev ali rezultate avtomatiziranega zagotavljanja kakovosti.

Obveznosti dokazovanja se razširjajo na razkritje nacionalnim nadzornim organom. V primeru pregleda morate v kratkem roku (npr. 30 dni) dokazati, da vaše UI ustvarjene vsebine izpolnjujejo zahteve glede preglednosti in označevanja. Konkretno AI Act pri visoko tveganih sistemih UI zahteva podrobno tehnično dokumentacijo, ki zadeva tudi temeljne pravice. Čeprav čisto generiranje besedil pogosto ni uvrščeno med visoko tveganje, bi morali za vse vsebine UI vzpostaviti dokazljive protokole – po možnosti v sistemu, odpornem na revizijo. Zabeležite datum, pozive, izhode, izvedena preverjanja in morebitne spremembe. Tako ustvarite neprekinjeno verigo.

V praksi se je izkazalo, da je dokumentacijo koristno tesno povezati s postopkom lokalizacije. Na primer, v svoj sistem za upravljanje prevodov (TMS) lahko vključite polja metapodatkov za izvor UI in status preverjanja. Priporočljive so tudi redne revizije s strani notranje ali zunanje institucije za zgodnje odkrivanje vrzeli. Upoštevajte: obveznost dokumentacije ne velja le za prvotno ustvarjanje, ampak tudi za posodobitve in naknadne obdelave. Zato hranite vse različice. To je še posebej pomembno, če vsebine objavljate v več jezikih – vsaka jezikovna različica potrebuje ločena dokazila.

Pravno obvestilo: Natančne zahteve se razlikujejo glede na primer uporabe in nacionalno izvedbo. Ta prispevek ne nadomešča nasveta odvetnika. Dokumentacijsko prakso preverite individualno, zlasti pri čezmejnih spletnih mestih.

Sankcije in izvrševanje

EU AI Act predvideva stopenjski sistem sankcij, ki se uporablja pri kršitvah obveznosti preglednosti in označevanja za UI ustvarjene vsebine. Izvrševanje je v pristojnosti nacionalnih organov za nadzor trga držav članic – v Nemčiji na primer Zvezne agencije za omrežja ali deželnih pooblaščencev za varstvo podatkov. Za podjetja, ki upravljajo mednarodne spletne strani z besedili UI, je višina glob še posebej pomembna: lahko znaša do 3 % svetovnega letnega prometa ali 15 milijonov evrov – odvisno od tega, kateri znesek je višji. Pri visoko tveganih sistemih UI je možno celo do 7 % oziroma 35 milijonov evrov.

Primeri kaznivih kršitev: opustitev označevanja UI ustvarjenih vsebin (npr. manjkajoča opomba "UI prevedeno"), nezadostna preglednost do uporabnikov (npr. če ni jasno, da je klepetalni robot UI) ali odsotnost dokumentacije v skladu s čl. 12 AI Act. Zavajajoče navedbe o kakovosti ali izvoru vsebin so prav tako lahko kaznovane. V praksi se kaže, da organi vse bolj ciljno nadzorujejo – na primer pri večjih novičarskih portalih ali e-poslovnih platformah z avtomatiziranimi opisi izdelkov. Kršitev lahko povzroči ne le denarne kazni, ampak tudi odredbo za odstranitev vsebin ali začasno ustavitev delovanja programske opreme UI.

Da bi se izognili sankcijam, morate redno izvajati in dokumentirati preverjanja skladnosti. Uporabite kontrolne sezname, usklajene z AI Act, in usposobite svoje zaposlene – zlasti tiste, ki so zadolženi za lokalizacijo in objavljanje vsebin. Pri čezmejnih spletnih straneh je treba upoštevati, da lahko vsak nacionalni organ deluje samostojno. Zato je priporočljivo, da za usklajevanje skladnosti v celotni EU najamete pravnega strokovnjaka. Izvrševanje bo olajšano z načrtovano podatkovno zbirko EU za sisteme UI, v katero morajo upravljavci registrirati visoko tvegane UI – čeprav čisti generatorji besedil večinoma ne spadajo vanjo, spremljajte razvoj.

Pravno obvestilo: navedeni okviri sankcij temeljijo na trenutnem osnutku AI Act; končna različica se lahko razlikuje. Posvetujte se z odvetnikom, da ocenite konkretna tveganja za vaše podjetje. Ta prispevek ne nadomešča individualnega pravnega svetovanja.

Izjeme in posebnosti panog

Zakon EU o umetni inteligenci (AI Act) določa določene izjeme iz področja uporabe. Sistemi umetne inteligence, ki se uporabljajo izključno v raziskovalne ali razvojne namene in niso dani v promet, so oproščeni številnih obveznosti. Tudi zasebna, nekomercialna uporaba orodij umetne inteligence za ustvarjanje besedil – na primer za osebno korespondenco – ne spada pod ureditev. Vendar so te izjeme za spletna mesta z mednarodnim dosegom večinoma nepomembne, saj gre za komercialne vsebine. Druga izjema zadeva sisteme umetne inteligence, ki so bili v uporabi že pred začetkom veljavnosti AI Act: zanje veljajo prehodna obdobja, katerih dolžina se razlikuje glede na razred tveganja. Pri čistih generatorjih besedil brez visoke stopnje tveganja se običajno dodelita dve do tri leta po začetku veljavnosti.

Posebnosti panog se pojavljajo predvsem v reguliranih sektorjih. Besedila, ki jih ustvari umetna inteligenca v zdravstvu, so dodatno podvržena zahtevam Uredbe o medicinskih pripomočkih (MDR) ali Splošne uredbe o varstvu podatkov (GDPR). Samodejno ustvarjeno pismo bolniku ne sme biti samo označeno kot ustvarjeno z umetno inteligenco, ampak mora izpolnjevati tudi določene medicinske standarde. V finančnem sektorju veljajo posebne obveznosti glede preglednosti v skladu z direktivo MiFID II, na primer pri izdajanju naložbenih priporočil, ki jih ustvari umetna inteligenca. Za mednarodno delujoča spletna mesta to pomeni, da morajo upoštevati ne le AI Act, ampak tudi sektorsko specifične predpise vsake ciljne panoge. Pavšalna oznaka potem ne zadostuje.

Za prakso lokalizacije to pomeni: Najprej preverite, ali vaše podjetje deluje v regulirani panogi. Če je tako, poskrbite, da vaše vsebine, ustvarjene z umetno inteligenco, izpolnjujejo višje zahteve – na primer z dodatnimi ročnimi pregledi s strani strokovnega osebja in obsežnejšo dokumentacijo. Tudi če izjeme veljajo, ne smete opustiti preglednosti: v praksi uporabniki vedno bolj pričakujejo poštenost pri uporabi umetne inteligence. Prostovoljno opozorilo, kot je »To besedilo je bilo strojno prevedeno in ga je pregledal človek«, lahko ustvari zaupanje in predvidi poznejše regulativne zahteve.

Pravno obvestilo: Izjeme in panoge specifična pravila so zapletena in so predmet nacionalne ureditve. Posvetujte se z odvetnikom, specializiranim za IT pravo, da zagotovite, da je vaše spletno mesto v skladu s predpisi v vseh državah EU. Ta prispevek služi le kot prva informacija.

Prihodnji razvoj in trendi skladnosti

Razvoj prava EU na področju vsebin, ustvarjenih z umetno inteligenco, ostaja dinamičen. Po sprejetju AI Act se kažejo nadaljnje podrobnosti, zlasti z delegiranimi akti in smernicami urada za umetno inteligenco. Podjetjem, ki upravljajo mednarodna spletna mesta, je priporočljivo spremljati dogajanja na ravni EU in v posameznih državah članicah. V praksi se kaže, da nacionalni nadzorni organi dajejo različne poudarke – na primer pri razlagi obveznosti glede preglednosti ali odgovornosti pri prevodih z umetno inteligenco. Vzporedno narašča pritisk civilne družbe in potrošniških organizacij, ki zahtevajo jasne oznake.

Jasen trend gre v smeri standardiziranih metapodatkov za vsebine, ustvarjene z umetno inteligenco. Tehnične delovne skupine razvijajo formate, ki vsebujejo strojno berljive informacije o uporabi umetne inteligence v prevodih. Takšni standardi olajšajo avtomatizirano preverjanje z orodji za skladnost. Poleg tega je pričakovati, da bodo revizije in certifikacije sistemov umetne inteligence – podobno kot pri upravljanju kakovosti – postale običajna praksa. Podjetja bi morala zato pravočasno vzpostaviti notranje procese, ki omogočajo popolno dokumentacijo podatkov o usposabljanju, algoritmov in korakov preverjanja. To zadeva tudi uporabo velikih jezikovnih modelov za lokalizacijo.

Drugi vidik je usklajevanje kazni in mehanizmov izvrševanja. AI Act predvideva stopenjske globe, vendar se konkretna uporaba razlikuje. Izkušnje kažejo, da nadzorni organi dajejo poudarek sorazmernosti – kdor lahko dokaže, da je sprejel vse razumne ukrepe, se lahko izogne nižjim sankcijam. Zato je priporočljiva uvedba sistema upravljanja skladnosti za vsebine, ustvarjene z umetno inteligenco. Ta naj se redno prilagaja novim pravnim razlagam, na primer ko Sodišče Evropske unije izda prve sodbe o preglednosti umetne inteligence.

Priporočilo za ukrepanje: Vzpostavite notranji sistem zgodnjega opozarjanja, ki vas obvešča o spremembah ureditve EU in nacionalnih posebnostih. Investirajte v prilagodljive tehnologije, ki omogočajo naknadno označevanje ali spreminjanje metapodatkov. Načrtujte redna usposabljanja za svoje ekipe za lokalizacijo, da povečate ozaveščenost o zahtevah glede skladnosti. Tesno sodelovanje s pravnimi svetovalci, specializiranimi za pravo umetne inteligence, je nepogrešljivo za strateško usmeritev.

Kontrolni seznam za pravno varno lokalizacijo

Pravno varna lokalizacija vsebin, ustvarjenih z umetno inteligenco, zahteva sistematične korake preverjanja. Uporabite ta kontrolni seznam kot smernico, vendar ga prilagodite svojemu konkretnemu primeru uporabe. Končno izvedbo vedno prepustite svojemu pravnemu oddelku ali specializiranemu odvetniku za IT-pravo.

1. Popis stanja in ocena tveganja: Identificirajte vse vsebine na svojem spletnem mestu, ki so v celoti ali delno ustvarjene z umetno inteligenco. Zabeležite namen, uporabljene sisteme umetne inteligence in ciljne jezike. Ocenite tveganje v skladu z AI Act – zlasti ali bi lahko bile vsebine uvrščene med „visoko tveganje“ (npr. pri pravnih ali medicinskih temah). Preverite, ali prevod z umetno inteligenco služi kot edini vir ali ga pregleda človek.

2. Preglednost in označevanje: Zagotovite, da so vse vsebine, ustvarjene z umetno inteligenco, jasno označene. To lahko storite z opombo na koncu besedila ali z ločeno stranjo s pojasnili o uporabi umetne inteligence. Označba mora biti razumljiva v vsakem lokalnem jeziku in ne sme zavajati uporabnika. Preverite, ali vaša označba ustreza zahtevam AI Act in GDPR. Pri prevodih je treba dodatno navesti, ali in kako je potekal človeški nadzor kakovosti.

3. Določitev odgovornosti in zagotavljanje kakovosti: Pogodbeno določite, kdo je odgovoren za napačne prevode z umetno inteligenco – praviloma je to upravljavec spletnega mesta. Uvedite večstopenjske postopke preverjanja: avtomatizirane preizkuse verodostojnosti (npr. doslednost terminologije, brez napak pri pravnih izrazih) in ročne vzorce s strani maternih govorcev. Te preglede dokumentirajte na pregleden način, da boste v spornem primeru lahko dokazali skladnost.

4. Varstvo podatkov in zaupnost: Poskrbite, da storitve umetne inteligence, ki jih uporabljate, ne obdelujejo osebnih podatkov brez pravne podlage. Sklenite pogodbe o obdelavi podatkov, če uporabljate zunanje platforme umetne inteligence. Za občutljive vsebine (npr. komunikacijo s strankami) je priporočljiva uporaba lokalnih modelov, skladnih z varstvom podatkov.

5. Redno posodabljanje in spremljanje: Pravna podlaga in tehnični standardi se spreminjajo. Vsaj vsakih šest mesecev preverite, ali so vaše označbe in postopki še vedno ažurni. Izvajajte notranje revizije in beležite rezultate. Bodite v stiku s panožnimi združenji, da boste pravočasno izvedeli za nove smernice.

Priporočilo za ukrepanje: Začnite s pilotno lokalizacijo v jeziku z nizkim tveganjem odgovornosti. Preizkusite svoje postopke in ugotovite pomanjkljivosti. Šele po uspešni validaciji razširite na druge ciljne trge. Pravno varna lokalizacija ni enkraten projekt, temveč nenehen proces izboljšav.

Orodja in pripomočki za pravno varno lokalizacijo

Za pravno varno lokalizacijo vsebin, ustvarjenih z umetno inteligenco, so na voljo specializirana orodja, ki avtomatizirajo in dokumentirajo proces skladnosti. Prevajalski sistemi (TMS), kot so CAT-orodja s pravnimi vtičniki, lahko nameščajo in različicijo označbe. Pomembno je, da sistem ponuja celovito funkcijo revizijske sledi: vsak prevod se zabeleži s časovnim žigom, odgovornim pregledovalcem in uporabljenim motorjem umetne inteligence.

Za označevanje samega so priporočljive dinamične nadomestne oznake, ki samodejno odražajo pravni status vsebine. Na primer lahko ustvarite oznako, kot je [UI-prevod: Pregledano dne TT.MM.JJJJ], ki dokazuje skladnost z zahtevami glede preglednosti. Sodobni TMS omogočajo vključevanje zunanjih pravnih baz podatkov, ki glede na ciljni jezik predlagajo državno specifične formulacije.

Druga vrsta orodij so platforme za upravljanje umetne inteligence, ki upravljajo celoten življenjski cikel besedil, ustvarjenih z umetno inteligenco. Vsebine razvrščajo v razrede tveganja v skladu z AI Act in opozarjajo, če se besedilo izvozi brez človeškega pregleda. Te platforme pogosto vključujejo baze podatkov o predpisih označevanja v vseh jezikih EU in podpirajo ustvarjanje dokaznih dokumentov.

Za praktično delo so primerne tudi razširitve brskalnika, ki pregledujejo spletne strani za manjkajoče označbe umetne inteligence. Vključimo jih lahko v potek dela razvoja in pred objavo izvedejo samodejno preverjanje. Cenejša je uporaba kontrolnih seznamov v orodjih za vodenje projektov, ki pravno zavarujejo vsak korak lokalizacije.

Navsezadnje ne gre za najdražje orodje, temveč za dosledno uporabo. Preprost, a dosledno upoštevan sistem s potrditvenimi poteki dela in jasnimi odgovornostmi pogosto bolje izpolnjuje zahteve kot zapletena programska oprema, ki ni pravilno konfigurirana. Podjetja bi morala zato najprej opredeliti procese in nato izbrati ustrezno orodje. Naložba v takšne sisteme je upravičena, saj lahko napake pri skladnosti privedejo do znatnih sankcij – za to je treba poiskati pravno svetovanje.

Praktični primer: Izvedba korak za korakom za večjezično spletno stran

Recimo, da upravljate spletno trgovino v petih jezikih EU, katere opise izdelkov generira model umetne inteligence. Izvajanje zahtev glede preglednosti v skladu z AI Act poteka v šestih korakih.

Korak 1: Klasifikacija sistema. Ugotovite, ali vaš sistem UI spada v kategorijo „minimalno tveganje“ (običajno pri preprostem generiranju besedil). Ker je rezultat neposredno namenjen strankam, ga uvrstite med „zavezujoče za preglednost“. To uvrstitev dokumentirajte pisno.

Korak 2: Implementacija označevanja. Vsakemu opisu izdelka dodajte nevsiljivo, a vidno obvestilo, npr. „Ta opis je bil ustvarjen s pomočjo UI“. Postavite ga neposredno pod naslov ali kot ikono na koncu besedila. Poskrbite, da je obvestilo v prevodih v vsakem jeziku pravilno in pravno zanesljivo. Za vse jezikovne različice uporabite enotno predlogo, ki jo je preveril naravni govorec.

Korak 3: Dokumentacija. Ustvarite notranji zapisnik, ki vsebuje datum, uporabljeni model UI, namen generiranja in opravljeno označevanje. Ta zapisnik mora biti na voljo ob morebitnem pregledu.

Korak 4: Integracija v procese. Vključite označevanje v potek dela z vsebinami: vsako na novo generirano besedilo pred objavo preverite, ali je označba prisotna. Ta korak avtomatizirajte s preprostim skriptom, ki preverja prisotnost obvestila.

Korak 5: Zagotavljanje kakovosti in nadzor. Občasno preverite, ali označba ostane tudi po posodobitvah ali ročnih popravkih. Izvajajte redne revizije, najbolje četrtletno.

Korak 6: Povratne informacije uporabnikov in prilagoditve. Odzovite se na pripombe uporabnikov, ki se jim zdi označba moteča ali je ne razumejo. Prilagodite besedilo in postavitev, ne da bi ogrozili pravno veljavnost.

Ta postopek zahteva zmeren trud, vendar zagotavlja pravno varnost. Upoštevajte, da se natančne zahteve lahko razlikujejo glede na kategorijo tveganja; zato se posvetujte s pravnim svetovalcem, ki bo preveril trenutno pravno stanje za vaš specifičen sistem.