ADVERTISEMENT

Evropska unija poseže za strožijim mjerama suočena s ogorčenjem zbog zloupotrebe umjetne inteligencije (AI), navodi se u zajedničkom tekstu novinskih agencija AFP, Agerpres, ANSA, BTA, dpa, EFE i FENA u okviru European Newsrooma.

Brisel razmatra mogućnost da se stvaranje seksualnih deepfake sadržaja klasificira kao zabranjena praksa prema Aktu o umjetnoj inteligenciji, nakon skandala sa seksualiziranim slikama koje je generisao Grok AI, chatbot integrisan u platformu X Elona Muska.

Ogorčenje zbog Groka

Muskova kompanija xAI, nakon dugotrajnih međunarodnih kritika, sredinom januara uvela je nova ograničenja za seksualno sugestivne slike generisane umjetnom inteligencijom u Groku. Ovaj potez uslijedio je nakon kritika da je Grok korisnicima omogućavao da digitalno zamjenjuju žensku odjeću bikinijima te, u nekim slučajevima, stvaraju seksualizirane prikaze maloljetnika.

Prve slike ljudi koji su bez pristanka „razodijevani“ počele su kružiti nekoliko dana nakon uvođenja te funkcije, ali se njihovo širenje posebno pojačalo oko Nove godine. Prema CNN-u, samo između 5. i 6. januara Grok je korišten za generisanje najmanje 6.700 seksualnih slika. One su često uključivale žene ili maloljetnike.

„Grok sada nudi ‘začinjeni način rada’ koji prikazuje eksplicitan seksualni sadržaj, pri čemu su neki rezultati generisani s dječijim obilježjima. Ovo je nezakonito. Ovo je užasno“, rekao je tada novinarima glasnogovornik EU-a za digitalna pitanja Thomas Regnier.

Evropska komisija, koja djeluje kao digitalni nadzornik Unije, saopćila je da će uzeti u obzir nove mjere koje je poduzeo X i da će ih preispitati. Zvaničnici su upozorili da će, ako se ti koraci pokažu nedovoljnim, EU razmotriti korištenje punog opsega Akta o digitalnim uslugama (DSA).

Potpredsjednica Evropske komisije Henna Virkkunen izjavila je da Komisija razmatra izričitu zabranu ovakvih vrsta AI-generisanih seksualnih slika u okviru Akta o umjetnoj inteligenciji, klasificirajući ih kao neprihvatljive rizike.

„Zabrana štetnih praksi u oblasti umjetne inteligencije mogla bi biti relevantna za rješavanje problema seksualnih deepfake sadržaja bez pristanka i dječije pornografije“, rekla je Virkkunen na ovosedmičnom plenarnom zasjedanju Evropskog parlamenta u Strasbourgu, gdje je ujedno i povjerenica nadležna za tehnološki suverenitet, sigurnost i demokratiju. Također je navela da DSA smanjuje rizik širenja seksualnog sadržaja na internetu bez pristanka.

Podsjetila je i da je Komisija poslala zahtjev za dostavljanje informacija platformi X u vezi s Grokom, u okviru istrage protiv te platforme prema DSA-u. Od platforme je zatraženo da do kraja godine sačuva sve interne dokumente i podatke koji se na to odnose.

„Sada ispitujemo u kojoj mjeri X krši DSA i nećemo oklijevati poduzeti dodatne mjere ako dokazi to pokažu“, rekla je.

Komisija je ranije pojačala pritisak na X, koji je početkom decembra kažnjen sa 120 miliona eura zbog kršenja obaveza transparentnosti. EU je naglasila da će provoditi svoja pravila uprkos negativnim reakcijama američke administracije.

„DSA je u Evropi vrlo jasan. Sve platforme moraju dovesti svoje poslovanje u red jer je ono što se ovdje generiše neprihvatljivo, a usklađivanje s pravom EU-a nije opcija. To je obaveza“, rekao je Regnier na vrhuncu skandala početkom januara.

Prošle sedmice grupa od oko 50 zastupnika Evropskog parlamenta pozvala je Komisiju da zabrani aplikacije umjetne inteligencije koje se koriste za stvaranje golih slika na tržištu EU-a.

Ne mogu bez X-a

Uprkos kritikama platforme X, gotovo svi visoki zvaničnici EU-a i dalje tamo objavljuju sadržaje, umjesto da koriste evropske alternative, pokazuje istraživanje dpa.

Predsjednica Evropske komisije Ursula von der Leyen i drugi visoki zvaničnici još uvijek nemaju službene naloge na Mastodonu, alternativi sa sjedištem u Njemačkoj. Virkkunen je u januaru otvorila službeni nalog na Mastodonu. Visoki političari EU-a aktivni su i na Blueskyju, još jednoj platformi sa sjedištem u SAD-u koja trenutno dobija na popularnosti.

Komisija opravdava nastavak korištenja X-a njegovim dosegom: Mastodon ima oko 750.000 mjesečnih korisnika, u poređenju sa 100 miliona na X-u, prema podacima samih kompanija.

Dug pravni put ka većoj sigurnosti na internetu

Put ka zaštiti maloljetnika u EU-u dugotrajan je jer se sudaraju pitanja privatnosti, poslovnih interesa i zaštite. Više propisa se preklapa:

Chat Control

Komisija je 2022. godine predložila uredbu kojom bi se platforme obavezale na otkrivanje i prijavljivanje slika i videosnimaka zlostavljanja (materijala seksualnog zlostavljanja djece – CSAM), kao i pokušaja predatora da stupe u kontakt s maloljetnicima.

Plan, koji su podržale pojedine organizacije za zaštitu djece i koji je dobio naziv „Chat Control“, izazvao je žestoke rasprave o privatnosti unutar Unije od 27 država i doveo do optužbi za masovni nadzor.

Očekuje se da će se konačni zakon pregovarati početkom 2026. godine kako bi se uskladili pristup Evropskog parlamenta, fokusiran na privatnost, i želja Vijeća EU-a za širim dobrovoljnim ovlastima skeniranja.

Dok se privremene dobrovoljne mjere skeniranja produžavaju do aprila 2026. godine kako bi se izbjegao pravni vakuum, zastupnici Evropskog parlamenta naglasili su hitnost donošenja trajnog rješenja.

DSA

Evropska unija koristi Akt o digitalnim uslugama kako bi sankcionirala internet platforme, namećući im visoke novčane kazne, zahtijevajući trenutne operativne promjene te, kao krajnju mjeru, privremeno obustavljajući njihove usluge.

Riječ je o uredbi EU-a za sigurniji internet, koja od platformi zahtijeva suzbijanje nezakonitog sadržaja, zaštitu korisnika i veću transparentnost.

Akt o umjetnoj inteligenciji

Akt o umjetnoj inteligenciji usvojen je 2024. godine i predstavlja prvi sveobuhvatni pravni okvir u oblasti umjetne inteligencije na svijetu. Uspostavlja sistem zasnovan na procjeni rizika za regulaciju AI tehnologija unutar EU-a, s ciljem da budu sigurne, pouzdane i da poštuju osnovna prava, uz istovremeno poticanje inovacija.

Zabranjuje određene neprihvatljive AI prakse, poput društvenog bodovanja, te postavlja pravila za visokorizične primjene AI-a, kao što su kritična infrastruktura ili zapošljavanje. Također uvodi ograničenja za manipulativne upotrebe AI-a, uključujući deepfake sadržaje usmjerene na djecu.

Zabrane društvenih mreža

Francuska, koja razmatra zabranu društvenih mreža za djecu mlađu od 15 godina, od ljeta testira aplikaciju za provjeru dobi koju je razvila Evropska komisija. Ovaj alat jedan je od načina provjere starosti korisnika interneta, što predstavlja veliki izazov i za tehnološke gigante i za vlasti.

Pojedinačni napori

Španska ministrica za mlade i djecu Sira Rego početkom januara zatražila je od državnog tužilaštva da ispita može li Grok činiti krivična djela povezana sa širenjem materijala seksualnog zlostavljanja djece.

Španija trenutno razvija vlastiti zakon za zaštitu maloljetnika u digitalnom okruženju, koji jača okvir za zaštitu ličnog integriteta i privatnosti od novih oblika povreda povezanih s upotrebom tehnologija poput umjetne inteligencije, potvrđujući da najbolji interes djeteta uvijek mora imati prednost nad bilo kojim digitalnim poslovnim modelom.

Bugarska je pojačala napore u borbi protiv internet seksualnog zlostavljanja djece kroz međunarodnu policijsku saradnju, nacionalne preventivne kampanje i političke rasprave usklađene s pravom EU-a. Tokom 2025. godine bugarske vlasti učestvovale su u velikoj međunarodnoj operaciji u kojoj je ugašen Kidflix, jedna od najvećih svjetskih platformi za seksualno iskorištavanje djece, koju je između 2022. i 2025. godine koristilo gotovo dva miliona korisnika.

Rumunija ima zakonodavne mehanizme za borbu protiv materijala seksualnog zlostavljanja djece kroz krivični zakon, a vlasti nastoje proširiti i modernizirati ta pravila.

Od 2025. godine u parlamentu se vodi rasprava o važnom zakonu o zaštiti djece na internetu, poznatom kao Zakon o digitalnoj punoljetnosti. Rumunija postepeno učestvuje i u provođenju pravila EU-a o sprječavanju i suzbijanju seksualnog zlostavljanja na internetu. Zakon uvodi obaveznu provjeru dobi i roditeljski pristanak za maloljetnike (mlađe od 16 godina) za pristup internet uslugama poput društvenih mreža, platformi za igre i streaming.

Kandidatkinja za članstvo u EU-u, Bosna i Hercegovina, još uvijek nema poseban zakon koji reguliše ovo područje. U BiH se krivična odgovornost za proizvodnju, distribuciju i posjedovanje takvog materijala zasniva na krivičnim zakonima koji obuhvataju seksualno iskorištavanje djece, ali ne sadrže izričite odredbe o AI-generisanom ili simuliranom sadržaju.

Evropska unija uspostavila je niz komplementarnih alata i mjera za zaštitu svojih građana, mladih i starih, od štetnih praksi na internetu, ali slabosti uključuju izazove u provođenju, algoritamsko pojačavanje štete, neujednačenu nacionalnu primjenu te rasprave o ravnoteži između sigurnosti i privatnosti.