ADVERTISEMENT

Internet Watch Foundation (IWF) kaže da se napredak u AI odražava u ilegalnom sadržaju koji stvaraju i konzumiraju pedofili, rekavši: “U 2024. kvalitet video zapisa generiranih umjetnom inteligencijom eksponencijalno se poboljšao, a sve vrste procijenjenih AI slika izgledale su znatno realnije kako se tehnologija razvijala.”

IWF je u svom godišnjem izvještaju otkrio da je primio 245 izvještaja o slikama seksualnog zlostavljanja djece koje je stvorila umjetna inteligencija, a koje su prekršile zakon Ujedinjenog Kraljevstva 2024. – povećanje od 380% u odnosu na 51 u 2023. Izvještaji su izjednačeni sa 7.644 slike i mali broj video zapisa, što odražava višestruki materijal da jedan URL može sadržavati višestruki materijal.

Najveći udio tih slika bio je materijal "kategorije A", termin za najekstremniji tip sadržaja seksualnog zlostavljanja djece koji uključuje prodornu seksualnu aktivnost ili sadizam. Ovo je činilo 39% efektivnog AI materijala koji je vidio IWF, prenosi Guardian.

Vlada je u februaru objavila da će postati nezakonito posjedovati, kreirati ili distribuirati AI alate dizajnirane za generiranje materijala o seksualnom zlostavljanju djece, zatvarajući pravnu rupu koja je uznemirila policiju i aktiviste za sigurnost na internetu. Također će postati nezakonito da bilo ko posjeduje priručnike koji uče ljude kako da koriste AI alate da bi napravili uvredljive slike ili da im pomognu da zlostavljaju djecu.

IWF, koji vodi telefonsku liniju u Velikoj Britaniji, ali ima globalnu nadležnost, rekao je da se slike generisane umjetnom inteligencijom sve više pojavljuju na otvorenom internetu, a ne samo na "tamnom webu" - području interneta kojem pristupaju specijalizovani pretraživači. Rečeno je da se najuvjerljiviji materijal generiran umjetnom inteligencijom ne može razlikovati od stvarnih slika i video zapisa, čak i za obučene analitičare IWF-a.

Godišnji izvještaj Watchdoga također je objavio rekordne nivoe web stranica na kojima se nalaze slike seksualnog zlostavljanja djece u 2024. IWF je rekao da je prošle godine bilo 291.273 izvještaja o slikama seksualnog zlostavljanja djece, što je povećanje od 6% u odnosu na 2023. Većina žrtava u izvještajima bile su djevojčice.

IWF je također najavio da je novi sigurnosni alat dostupan manjim web stranicama besplatno, kako bi im pomogao da uoče i spriječe širenje materijala za zloupotrebu na njihovim platformama.

Alat, nazvan Image Intercept, može otkriti i blokirati slike koje se pojavljuju u bazi podataka IWF-a koja sadrži 2,8 miliona slika koje su digitalno označene kao kriminalne slike. Nadzornik je rekao da će pomoći manjim platformama da budu u skladu s novouvedenim Zakonom o sigurnosti na internetu, koji sadrži odredbe o zaštiti djece i borbi protiv ilegalnog sadržaja kao što je materijal o seksualnom zlostavljanju djece.

Derek Ray-Hill, privremeni izvršni direktor IWF-a, rekao je da je stavljanje alata na raspolaganje "glavni trenutak u online sigurnosti".

Sekretar za tehnologiju, Peter Kyle, rekao je da je porast zlostavljanja i seksualne iznude uzrokovane umjetnom inteligencijom - gdje su djeca ucjenjena zbog slanja intimnih slika - podvukao kako se "prijetnje mladim ljudima na internetu stalno razvijaju". On je rekao da je novi alat za presretanje slika "moćan primjer kako inovacija može biti dio rješenja u tome da internetski prostori budu sigurniji za djecu".