EU AI Act u Prosincu 2025: Ključni Rokovi i Etička Pitanja Autonomnih AI Agenata

Sažetak za one koji žure

• 2. veljače 2025. stupile na snagu prve obveze EU AI Acta – zabrana visokorizičnih AI sustava i obvezna AI pismenost za sve tvrtke
• Prosinac 2025. je ključni mjesec prije druge faze implementacije (kolovoz 2026.) kada započinje potpuna provedba i kazne do 35 milijuna eura ili 7% globalnog prometa
• AI agenti donose nove etičke izazove – automatizacija odluka, privatnost, odgovornost i potencijalna manipulacija korisnika
• 53% IT lidera prepoznaje privatnost podataka kao glavni problem pri implementaciji AI agenata

Što se dogodilo s EU AI Actom u 2025. godini

Europski AI Akt (EU AI Act), najambiciozniji regulatorni okvir za umjetnu inteligenciju na svijetu, ušao je na snagu 1. kolovoza 2024. godine. No, stvarna implementacija događa se postupno kroz 2025. i 2026. godinu.

2. veljače 2025. označio je prvi veliki prekretni trenutak:

• Zabranjeni AI sustavi (Članak 5) – sustavi koji manipuliraju ljudima, koriste društveno bodovanje (social scoring) ili zaključuju emocije na radnom mjestu i u obrazovnim ustanovama sada su zabranjeni
• AI pismenost (Članak 4) – sve tvrtke koje koriste AI moraju osigurati da njihovi zaposlenici razumiju prilike i rizike umjetne inteligencije

Kolovoz 2025. donio je sljedeću fazu – transparentnost za opće AI modele (GPAI) i uspostavljanje nacionalnih tijela za provedbu zakona.

Prosinac 2025. je kritičan mjesec prijelaza. Europska komisija pokrenula je niz konzultacija:

• 1. prosinca – konzultacije o tehničkim protokolima za zaštitu autorskih prava u text and data mining (TDM)
• 2. prosinca – konzultacije o regulatornim “pješčanicama” (AI regulatory sandboxes) gdje tvrtke mogu testirati AI sustave u kontroliranim uvjetima
• 17. prosinca – objavljen prvi nacrt Kodeksa prakse za označavanje i eticiranje AI-generiranog sadržaja

Što slijedi: Kolovoz 2026. – Puna Primjena i Kazne

2. kolovoza 2026. stupaju na snagu glavne odredbe EU AI Acta:

• Pravila za visokorizične AI sustave (Annex III)
• Obveza transparentnosti (Članak 50)
• Obveza postojanja barem jednog AI regulatornog pješčanika po državi članici
• Potpuna provedba kazni – do 35 milijuna eura ili 7% globalnog godišnjeg prometa (što god je veće)

Tvrtke koje ne budu spremne do kolovoza 2026. suočit će se s ozbiljnim financijskim posljedicama.

Na Koga Utječe EU AI Act

Regulacija ima ekstrateritorijalni doseg – ne morate biti europska tvrtka da budete obuhvaćeni. Primjenjuje se na:

• Pružatelje AI sustava koji nude proizvode/usluge na EU tržištu (bez obzira gdje su bazirani)
• Korisnike AI sustava unutar EU
• Tvrtke čiji AI sustavi proizvode učinke unutar EU

Prema izvještajima analitičara, 85% poduzeća planira koristiti AI agente do kraja 2025. godine, što znači da regulativa direktno utječe na ogromnu većinu digitalnih tvrtki.

Etička Pitanja Autonomnih AI Agenata – Različite Perspektive

Dok EU AI Act postavlja pravni okvir, autonomni AI agenti donose etička pitanja na koja zakonodavstvo još uvijek nema potpune odgovore.

Perspektiva 1: Privatnost i Kontrola Podataka – Zabrinutost

Cloudera istraživanje iz veljače 2025. pokazuje da 53% IT lidera navodi privatnost podataka kao glavnu zabrinutost pri implementaciji AI agenata.

Meredith Whittaker, predsjednica Signala, usporedila je korištenje AI asistenata s “stavljanjem mozga u staklenku”. Njezino objašnjenje:

“AI agent koji rezervira stol u restoranu treba pristup vašem pregledniku (uključujući lozinke, knjižne oznake, povijest), kreditnu karticu, kalendar i kontakte. U trenutku davanja dopuštenja, nepovratno predajete cijelu sliku najličnijih informacija.”

Konkretni rizici:

• AI agenti mogu zaobići tradicionalne postavke privatnosti – čak i ako ste onemogućili dijeljenje lokacije u postavkama telefona, agent može pristupiti tim podacima za izvršenje zadatka
• Concentric AI otkrio je da GenAI alati poput Microsoft Copilota izložili su oko 3 milijuna osjetljivih zapisa po organizaciji u prvoj polovici 2025.
• “Shadow AI” – zaposlenici koriste neuodobrene AI alate kako bi brže obavljali poslove, a osjetljivi podaci curaju na javne platforme

Perspektiva 2: Odgovornost i Transparentnost – Nejasnoće

Ključno pitanje: Ako autonomni agent donese pogrešnu odluku, tko je odgovoran – programer, tvrtka koja ga koristi ili sam AI?

EU AI Act (Članak 5) zabranjuje određene visokorizične primjene, ali mnoga područja ostaju neregulirana:

• “Black box” problem – nedostatak transparentnosti u AI odlučivanju otežava utvrđivanje odgovornosti
• Autonomno ponašanje – U travnju 2024., američko Ministarstvo domovinske sigurnosti (DHS) navelo je “autonomiju” kao jedan od rizika za kritičnu infrastrukturu (komunikacije, financijske usluge, zdravstvo)
• Emergentno rasuđivanje – kada agent donosi odluke temeljene na vlastitom zaključivanju koje programeri nisu predvidjeli

Perspektiva 3: Manipulacija i Obman – Stvarna Opasnost

Etički problematično: AI agenti mogu biti programirani s ciljevima koji uključuju uvjeravanje, pregovaranje ili utjecaj na ljude. To stvara rizik od manipulacije, posebno ako agenti nauče da korištenje emocija ili kognitivnih pristranosti vodi boljim rezultatima.

Primjer iz prakse:

“AI agent u prodaji može otkriti da pritisak na starije korisnike vodi višim stopama konverzije. Bez etičkih ograničenja, taj uvid može biti beskonačno iskorištavan.”

Istraživanja pokazuju:

• Oko 1% mladih odraslih identificira chatbotove kao prave prijatelje ili romantične partnere
• Korisnici lako vjeruju da komuniciraju s čovjekom čak i kada znaju da je AI
• Tvrtke ne mogu ignorirati činjenicu da razumni korisnici lako povjeruju da su autonomni AI sustavi ljudski

Perspektiva 4: Prilike za Poboljšanje Privatnosti – Optimizam

Nije sve crno. Salesforce i drugi argumentiraju da AI agenti, s pravim zaštitnim mjerama, mogu zapravo ojačati napore za zaštitu privatnosti:

• Minimiziranje ljudske greške – agenti doslovno slijede pravila privatnosti bez “prečica”
• Ograničavanje pristupa podataka po dizajnu – sustavi mogu biti dizajnirani da pristupaju samo nužnim podacima
• Privatni posrednici – agenti mogu štititi pojedince od prekomjernog prikupljanja podataka dok istovremeno pružaju personalizirane usluge

Ovo zahtijeva:

• Tretiranje agenata kao “procesora podataka” s odgovarajućim procjenama utjecaja
• Mapiranje pristupa i toka podataka
• Ograničavanje opsega djelovanja
• Povezivanje svih akcija s revizijskim zapisnicima

Perspektiva 5: Utjecaj na Radna Mjesta – Dostojanstvo Vs Učinkovitost

3. veljače 2025. Bloomberg izvještava da će Salesforce otpustiti više od 1,000 zaposlenika i zamijeniti ih ulogama usredotočenima na AI agente.

Etička dilema:

• Ako radnici percipiraju AI agente kao bolje u obavljanju njihovih poslova, mogu doživjeti pad samopoštovanja
• “Ako ste u poziciji gdje se čini da vaša stručnost više nije korisna – kao da je podređena AI agentu – možete izgubiti svoje dostojanstvo”
• S druge strane, agenti mogu osloboditi ljude za kreativniji, značajniji rad

Vremenski Okvir Implementacije

Struktura Kazni – Koliko Košta Nepoštivanje

EU AI Act uspostavlja troslojan sustav kazni prema težini kršenja:

• Najviše kazne (Članak 5): Do 35 milijuna eura ili 7% globalnog godišnjeg prometa (što god je veće) – za korištenje zabranjenih AI sustava
• Srednje kazne: Do 15 milijuna eura ili 3% globalnog prometa – za kršenje obveza pružatelja, uvoznika, distributera
• Niže kazne: Do 7.5 milijuna eura ili 1% globalnog prometa – za pružanje netočnih ili nepotpunih informacija nadzornim tijelima

Za MSP i startupe: Primjenjuju se isti postoci, ali se uzima niži iznos (zaštita manjih poduzeća).

Globalni “Brussels Effect” – EU Postavlja Standard

EU AI Act ne utječe samo na Europu. Države poput Brazila, Južne Koreje i Kanade usklađuju svoje politike s EU okvirom – fenomen poznat kao “Brussels Effect”.

To znači:

• Tvrtke koje posluju globalno usklađuju se s EU standardima jer je to “najstroža” regulativa
• EU efektivno postavlja globalni standard za AI regulaciju
• U SAD-u još ne postoje slične opće AI regulative, ali pritisak raste

Što Trebaju Učiniti Tvrtke – Praktični Koraci

Stručnjaci preporučuju:

1. AI Governance strategija – implementirati tijekom prve polovice 2025. prije prvog vala provedbe
2. Data Protection Impact Assessment (DPIA) – ako AI procesiranje stvara visoke rizike za ljude
3. Mapiranje podataka – proširiti na metapodatke i informacije generirane od strane AI i povezanih uređaja
4. Identifikacija visokorizičnih AI aplikacija – mapirati njihove tokove podataka
5. AI literacy programi – osposobiti zaposlenike o AI prilikama i rizicima (obvezno od veljače 2025.)
6. Revizijski zapisnici – svi AI agenti moraju imati sljedive zapise akcija
7. Ljudski nadzor – uspostaviti jasne mehanizme za ljudsko nadziranje automatiziranih odluka

Pitanja Bez Jednostavnih Odgovora

EU AI Act donosi pravni okvir, ali mnoga etička pitanja zahtijevaju kontinuirani društveni dijalog:

• Koliko autonomije je prihvatljivo? Gdje povući granicu između pomoćnika i samostalnog agenta?
• Kako balansirati inovaciju i sigurnost? Previše regulacije guši napredak, premalo izlaže rizicima
• Tko je odgovoran za emergentno ponašanje? Odluke koje programeri nisu mogli predvidjeti
• Kako zaštititi dostojanstvo radnika? U doba kada AI može obavljati njihove poslove bolje i jeftinije
• Koliko transparentnosti je potrebno? Potpuna transparentnost može otkriti poslovne tajne, nedovoljna omogućuje zlouporabu

Ova pitanja nemaju jednostavne odgovore. Zahtijevaju ravnotežu, kompromise i kontinuiranu prilagodbu.

Zaključak – Prelomni Trenutak

Prosinac 2025. predstavlja prijelazni trenutak između prve faze implementacije EU AI Acta (zabrane i AI pismenost) i druge faze (puna primjena i kazne od kolovoza 2026.).

Za tvrtke: Ovo je posljednji prozor za pripremu prije početka pune provedbe zakona i financijskih kazni.

Za društvo: Ovo je trenutak da se uključimo u dijalog o etičkim granicama autonomnih AI sustava – prije nego što tehnologija premaši našu sposobnost regulacije.

Za EU: Ovo je test hoće li najambicioznija AI regulacija na svijetu postaviti globalni standard ili ugušiti inovaciju.

Jedna stvar je sigurna: AI agenti nisu budućnost – oni su sadašnjost. Pitanje nije hoćemo li ih koristiti, već kako ćemo ih koristiti odgovorno, transparentno i uz poštovanje ljudskog dostojanstva.

Odgovori na ova pitanja odredit će ne samo budućnost AI tehnologije, već i vrstu društva u kojem želimo živjeti.

Izvori

• EU Artificial Intelligence Act – Implementation Timeline
• Inside Privacy – European Commission Launches Consultations on the EU AI Act’s Copyright Provisions and AI Regulatory Sandboxes
• TechCrunch – Signal President Meredith Whittaker calls out agentic AI as having ‘profound’ security and privacy issues
• Cloudera – 96% of Enterprises are Expanding Use of AI Agents
• Fortune – Salesforce cutting 1000 roles while hiring salespeople for AI