Ali Akt velja za nas, če uporabljamo samo klepetalnik?

Da, a v blažji obliki. Klepetalnik ali glasovni agent za stranke spada v omejeno tveganje, zato je vaša glavna obveznost preglednost: jasno povejte, da gre za AI. Za to stopnjo ni ugotavljanja skladnosti.

Kdaj začnejo pravila veljati?

V fazah. Prepovedi veljajo od februarja 2025, pravila za modele za splošne namene od avgusta 2025. Datum za načrtovanje pri večini podjetij je 2. avgust 2026, ko začnejo veljati obveznosti za visoko tveganje in pravila o preglednosti. AI z visokim tveganjem v izdelkih sledi 2. avgusta 2027.

Kdaj je sistem AI visoko tvegan?

Odloča namen uporabe, ne tehnologija. AI, ki odloča ali bistveno podpira odločitve o zaposlovanju, kreditih, bistvenih storitvah, medicinskih pripomočkih ali kritični infrastrukturi, je visoko tvegana. Isti model v podpornem klepetalniku ni.

Kakšne so kazni za neskladnost?

Do 35 milijonov EUR ali 7 % svetovnega letnega prometa za prepovedane prakse, do 15 milijonov EUR ali 3 % za kršitve pri visokem tveganju in preglednosti ter do 7,5 milijona EUR ali 1 % za zavajajoče podatke nadzornim organom.

Akt o umetni inteligenci za podjetja \ Vandri

Q: Kdo Akt izvaja v Sloveniji in na Hrvaškem?

V Sloveniji je AKOS enotna kontaktna točka, nadzor trga pa si delijo Informacijski pooblaščenec, Banka Slovenije, Agencija za zavarovalni nadzor in Tržni inšpektorat. Hrvaška svoje organe še imenuje prek delovne skupine pod Ministrstvom za pravosodje, upravo in digitalno preobrazbo.

Kaj Akt sploh je

Akt o umetni inteligenci (Uredba (EU) 2024/1689) je prvi celoviti zakon o umetni inteligenci na svetu. Veljati je začel 1. avgusta 2024 in se uporablja neposredno v vseh državah članicah, tudi v Sloveniji in na Hrvaškem. Na lokalni zakon torej ni treba čakati. Nacionalni predpisi le dodajo nadzorne organe in postopke.

Akt ne ureja AI glede na tehnologijo. Ureja jo glede na tveganje: za kaj se sistem uporablja in koga lahko prizadene.

Štiri stopnje tveganja, poenostavljeno

Akt vsako rabo AI razvrsti v eno od štirih stopenj.

Nesprejemljivo tveganje (prepovedano). Prakse, kot so družbeno točkovanje s strani oblasti, manipulativni sistemi, ki izkoriščajo ranljive ljudi, in večina biometrične identifikacije v realnem času na javnih mestih. Te prakse so prepovedane od 2. februarja 2025.
Visoko tveganje. AI pri zaposlovanju, vodenju zaposlenih, kreditnem ocenjevanju, dostopu do bistvenih storitev, v medicinskih pripomočkih in kritični infrastrukturi. Dovoljeno, a s strogimi obveznostmi pred uvedbo in med delovanjem.
Omejeno tveganje. Klepetalniki, glasovni agenti in generativne vsebine, namenjene ljudem. Tu je jedro preglednost.
Minimalno tveganje. Vse ostalo, od filtrov neželene pošte do internih orodij. Brez obveznosti, razen osnovne AI pismenosti ekipe.

Ključno spoznanje za običajno podjetje: vaša stopnja tveganja je odvisna od namena uporabe, ne od orodja. Isti jezikovni model je pri podpornem klepetalniku minimalno tveganje, pri sistemu za pregledovanje življenjepisov pa visoko.

Kam spada tipično slovensko podjetje

Večina podjetij danes uporablja glasovne agente za podporo strankam, klepetalnike na spletni strani ali internega asistenta, ki odgovarja iz dokumentov podjetja (RAG). V skoraj vseh teh primerih ste v omejenem ali minimalnem tveganju.

To je dobra novica. Pomeni, da vas ne čakajo ugotavljanje skladnosti in registracija. A omejeno tveganje ne pomeni nič obveznosti. Če vaš AI govori s strankami ali ustvarja vsebine, za vas veljajo pravila o preglednosti.

V visoko tveganje preidete šele, ko AI sprejema ali bistveno podpira odločitve o ljudeh na občutljivih področjih: kdo bo zaposlen, kdo dobi posojilo, kdo dostop do bistvene storitve. Če je to vaš primer, ga od prvega dne obravnavajte kot projekt skladnosti in vključite usposobljenega pravnika.

Obveznosti glede preglednosti, ki zadenejo večino podjetij

Od 2. avgusta 2026 člen 50 določa obveznosti razkritja, ki veljajo za običajno poslovno AI:

Ljudem povejte, da se pogovarjajo z AI. Če klepetalnik ali glasovni agent komunicira s človekom, mora ta vedeti, da gre za stroj, razen če je to očitno.
Označite vsebine, ustvarjene z AI. Sintetični zvok, slike, video in besedilo iz vaših sistemov morajo biti prepoznavni kot umetno ustvarjeni.
Označite globoke ponaredke in ustvarjeno besedilo, objavljeno za obveščanje javnosti, z ozkimi izjemami za umetnost, satiro in uredniški pregled.

Za klicni center ali spletnega asistenta je to preprosto. Kratka izgovorjena ali zapisana poved na začetku pogovora navadno zadostuje. Bistvo je, da to storite premišljeno in ne skrito.

Datumi, ki štejejo

Akt prihaja v fazah. To so preverjeni mejniki:

2. februar 2025: prepoved AI z nesprejemljivim tveganjem in obveznost AI pismenosti.
2. avgust 2025: pravila za modele za splošne namene, upravljanje in kazni.
2. avgust 2026: večina preostalih obveznosti, tudi za visoko tveganje po Prilogi III in pravila o preglednosti iz člena 50.
2. avgust 2027: AI z visokim tveganjem, vgrajena v regulirane izdelke (Priloga I), in starejši modeli za splošne namene morajo biti v celoti skladni.

Za večino podjetij je datum za načrtovanje 2. avgust 2026.

Koliko stane neskladnost

Kazni so odvisne od kršitve:

Do 35 milijonov EUR ali 7 % letnega svetovnega prometa za prepovedane prakse.
Do 15 milijonov EUR ali 3 % za kršitev obveznosti pri visokem tveganju, splošnih modelih ali preglednosti.
Do 7,5 milijona EUR ali 1 % za posredovanje napačnih ali zavajajočih podatkov nadzornim organom.

Uporabi se višji od obeh zneskov.

Kdo Akt izvaja v Sloveniji in na Hrvaškem

Slovenija je sprejela izvedbeni zakon (ZIUDHPUI), ki velja od 21. novembra 2025. AKOS je enotna kontaktna točka in vodi register sistemov z visokim tveganjem. Nadzor trga si delijo Informacijski pooblaščenec, Banka Slovenije, Agencija za zavarovalni nadzor, Tržni inšpektorat in AKOS.

Hrvaška svojo ureditev še dokončuje. Delovna skupina pod Ministrstvom za pravosodje, upravo in digitalno preobrazbo, v kateri sodeluje tudi AZOP, pripravlja izvedbeni zakon in imenuje nadzorne organe. Sredi leta 2026 enotna kontaktna točka še ni bila uradno določena, zato pred sklicevanjem na določen organ preverite trenutno stanje.

Kako AI uvesti odgovorno

Za osnove ne potrebujete pravne službe. Gradite s temi načeli:

Preglednost že v zasnovi. V vsakem agentu, ki komunicira s strankami, AI razkrijte takoj.
Človek v zanki. Ohranite osebo, ki lahko pregleda, prevlada in eskalira, zlasti pri občutljivih odločitvah.
Utemeljitev in navedba virov. Odgovarjajte iz lastnih podatkov z viri, da so odgovori preverljivi in je manj tveganja za izmišljanje.
Revizijske sledi. Beležite, kaj je sistem naredil in zakaj. To pričakuje režim visokega tveganja, želi pa vsak resen kupec.
Dostop po vlogah in EU podatkovna rezidenca. Omejite, kdo vidi kaj, in obdelavo obdržite v EU. Tu se Akt sreča z GDPR. Podrobno o tem pišemo v vodniku o AI, skladni z GDPR v EU.

Kako to upošteva Vandri

Ne prodajamo značke "certificirano po Aktu o AI", ker ta za večino poslovnih sistemov ne obstaja. Gradimo tako, da lažje dokažete svojo skladnost.

Naša platforma vCore ima EU podatkovno rezidenco in obdelavo v EU, utemeljitev z viri za manj izmišljanja, revizijsko beleženje, dostop po vlogah, nadzor s človekom v zanki in jasno razkritje AI, vgrajeno v glasovne in klepetalne agente. Pri vsakem sistemu upoštevamo načela GDPR in ISO 27001. Ko vaša pravna ali varnostna ekipa vpraša, kako se uvedba ujema z Aktom, dobite jasne odgovore, ne nalepke. Poglejte, kako je to vgrajeno v našo platformo.

Pogovorimo se

Če načrtujete projekt AI in niste prepričani, v katero stopnjo tveganja spada, nam opišite primer uporabe. Iskreno vam bomo povedali, kje je po Aktu in kakšne zaščite potrebuje. Dogovorite se za klic ali si oglejte naše rešitve.

Ta članek je splošna usmeritev, ne pravni nasvet. Za konkreten projekt razvrstitev in obveznosti potrdite z usposobljenim pravnikom ali pooblaščeno osebo za varstvo podatkov.

Akt o umetni inteligenci za slovenska podjetja: praktični vodnik