Umetna inteligenca je postala del vsakdanjega dela. Pomaga nam ustvarjati besedila, slike, klepetalnike (chat), video vsebine in različne avtomatizirane storitve. Z večjo uporabo pa prihaja tudi vprašanje: ali mora uporabnik vedeti, da je vsebino ustvarila oziroma spremenila umetna inteligenca?

Od 2. avgusta 2026 se začnejo uporabljati pomembne določbe Akta EU o umetni inteligenci (AI Act), povezane s transparentnostjo uporabe AI. Njihov namen je predvsem, da uporabnik lažje prepozna, kdaj komunicira z umetno inteligenco oziroma kdaj je vsebina umetno ustvarjena ali spremenjena. AI Act ne pomeni, da moramo vsako besedilo, ki smo ga napisali s pomočjo ChatGPT-ja in podobnih orodij, opremiti z oznako “napisala umetna inteligenca”. Pravila so precej bolj konkretna in se nanašajo predvsem na določene vrste AI sistemov, deepfake vsebine, vsebine javnega interesa in strojno berljivo označevanje AI-generirane vsebine.

Kdaj moramo uporabnika obvestiti?

Ena najbolj očitnih situacij so AI klepetalniki oz. chati. Če uporabnik neposredno komunicira s sistemom umetne inteligence, mora biti o tem obveščen, razen v primerih, ko je to zaradi okoliščin očitno. Namen je precej preprost: uporabnik mora vedeti, ali se pogovarja s človekom ali strojem. To je pomembno predvsem pri storitvah, kjer AI posnema človeško komunikacijo. Če na spletni strani uporabljamo chatbot, zato ni več dovolj, da je videti kot običajen klepet – uporabniku moramo jasno povedati, da je na drugi strani AI.

Deepfake

Posebna pozornost je namenjena deepfake vsebinam. Gre za slike, zvok ali video, ki so ustvarjeni oziroma spremenjeni z umetno inteligenco tako, da bi lahko pri človeku ustvarili vtis, da prikazujejo resnično osebo, dogodek ali situacijo. Če takšno vsebino uporabljamo, jo je treba jasno označiti. Oznaka mora biti razumljiva in uporabniku vidna oziroma zaznavna – skrita strojno berljiva oznaka sama po sebi pri deepfake vsebinah ni dovolj. To je pomembna razlika. Metapodatek v datoteki ni enako kot vidna oznaka za uporabnika.

AI in vsebine javnega interesa

Pravila se dotikajo tudi AI-generiranih ali spremenjenih besedil o zadevah javnega interesa. Če je takšno besedilo namenjeno obveščanju javnosti in ni bilo pregledano s strani človeka oziroma ni bilo predmet uredniškega nadzora, mora biti jasno označeno kot AI-generirano ali AI-spremenjeno. To je precej bolj specifično, kot bi lahko sklepali iz splošne trditve, da “AI Act zahteva označevanje vsebin, ustvarjenih z AI”. Ni treba označiti vsakega članka, objave ali e-maila samo zato, ker nam je pri pisanju pomagala umetna inteligenca.

Strojno berljiva oznaka

Pri generativni umetni inteligenci obstaja še druga plat označevanja. Ponudniki AI sistemov morajo zagotoviti, da je AI-generirana oziroma AI-spremenjena vsebina označena v strojno berljivi obliki in da jo je mogoče zaznati kot umetno ustvarjeno ali spremenjeno, kolikor je to tehnično izvedljivo. To je pomembno predvsem zato, ker oznaka ni namenjena samo človeku. Sistem mora biti sposoben prepoznati informacijo, da je bila vsebina ustvarjena ali spremenjena z umetno inteligenco. Pri tem se uporabljajo oziroma razvijajo različni pristopi, na primer metapodatki, vodni žigi in druge tehnične metode označevanja.

Kaj to pomeni za običajnega uporabnika?

Za večino ljudi AI Act ne pomeni, da morajo pri vsaki uporabi ChatGPT-ja, generatorja slik ali drugega AI orodja dodajati posebno oznako. Veliko bolj pomembno je, kaj z ustvarjeno vsebino naredimo. Če z AI ustvarimo ilustracijo za zasebni projekt, je situacija drugačna kot takrat, ko z AI ustvarimo lažni video javne osebe in ga objavimo kot resničnega. Prav tako ni enako, če AI uporabimo kot pomoč pri pisanju članka, ali če brez človeškega pregleda ustvarimo besedilo o pomembni javni temi in ga objavimo kot informativno vsebino.

AI Act zato ni zgolj vprašanje “Ali sem uporabil AI?”, ampak predvsem “Kako sem AI uporabil in kako lahko to vpliva na uporabnika?”

Oznaka ni vedno enaka

Pri tem je pomembno razlikovati med transparentnostjo za uporabnika in tehničnim označevanjem vsebine. Pri deepfake vsebini mora biti uporabnik jasno obveščen, da je vsebina umetno ustvarjena ali spremenjena. Pri ponudnikih generativnih AI sistemov pa je zahtevano tudi strojno berljivo označevanje, ki omogoča zaznavanje AI vsebine. Gre torej za dva različna nivoja: človek mora razumeti → stroj mora biti sposoben zaznati.

Posebne ikone za označevanje AI-vsebin

Zakaj ravno 2. avgust 2026?

AI Act je bil sprejet že prej, vendar se njegove določbe uvajajo postopoma. 2. avgust 2026 je pomemben datum za pravila transparentnosti iz 50. člena, ki vključujejo tudi označevanje in razkrivanje nekaterih AI vsebin. Evropska komisija je julija 2026 objavila tudi smernice za njihovo praktično izvajanje. Za nekatere že obstoječe generativne AI sisteme velja omejeno prehodno obdobje za strojno označevanje, do 2. decembra 2026.

AI Act ne zahteva, da na vsako vsebino, pri kateri nam je pomagala umetna inteligenca, nalepimo velik napis “AI”. Bistvo novih pravil je predvsem transparentnost. Uporabnik mora vedeti, kdaj komunicira z AI in kdaj je lahko vsebina, ki jo vidi, umetno ustvarjena ali spremenjena – še posebej takrat, ko bi lahko zaradi tega verjel nečemu, kar ni resnično. Pri objavljanju AI vsebin zato velja preprosto pravilo: če lahko način uporabe AI pomembno vpliva na to, kako uporabnik razume vsebino, je transparentnost še toliko pomembnejša.

Celoten Akt EU o umetni inteligenci (Uredba (EU) 2024/1689) je precej obsežen, zato je ta članek zgolj praktičen povzetek in ne pravno svetovanje. Če je uporaba AI del poslovnega ali profesionalnega procesa, je zato smiselno preveriti konkretno situacijo in aktualne smernice, ne le splošnega povzetka.

Dodatne informacije:

• Akt EU o umetni inteligenci – uradno besedilo EU
• Za praktično razumevanje 50. člena so uporabne tudi smernice Evropske komisije o obveznostih transparentnosti, objavljene julija 2026.
• EU Icons for labelling AI-generated content