ADVERTISEMENT

Istraživači su identificirali stotine takvih računa koji u samo mjesec dana mogu dosegnuti i do 4,5 milijardi pregleda, piše The Guardian.

Neprofitna organizacija AI Forensics sa sjedištem u Parizu otkrila je 354 računa usmjerena na umjetnu inteligenciju koji su tokom jednomjesečnog perioda objavili 43 hiljade videozapisa i prikupili nevjerojatnih 4,5 milijardi pregleda.

Prema izvještaju, neki od tih računa pokušavaju manipulirati TikTokovim algoritmom objavljivanjem ogromne količine sadržaja u nadi da će postati viralan. Jedan od njih objavljivao je sadržaj čak 70 puta dnevno, što ukazuje na automatizaciju. Većina analiziranih računa pokrenuta je početkom ove godine.

Od najaktivnijih računa, polovina se fokusirala na sadržaj povezan sa ženskim tijelom.

"Ove AI žene uvijek su stereotipno privlačne, sa seksualiziranom odjećom ili dekolteom", navodi se u izvješću. Dio sadržaja širio je i lažne vijesti s antiimigrantskim narativima te materijal koji seksualizira ženska tijela, uključujući i djevojke koje su izgledale maloljetno.

Neki od videozapisa s lažnim vijestima koristili su vizualni identitet poznatih medijskih kuća poput Sky Newsa i ABC-a. Nakon što ih je Guardian prijavio TikToku, neke od tih objava su uklonjene. AI Forensics je utvrdio da polovina objavljenog sadržaja nije bila označena kao AI-generirana, a manje od 2% nosilo je službenu TikTokovu oznaku.

Istraživači upozoravaju da to povećava obmanjujući potencijal materijala te dodaju da su neki računi mjesecima izbjegavali moderaciju uprkos kršenju uvjeta korištenja. Desetine računa obuhvaćenih studijom naknadno su izbrisani, što sugerira da su ih moderatori uklonili.

Iz TikToka su poručili da su tvrdnje iz izvješća "neutemeljene" te da su istraživači izdvojili njihovu platformu zbog problema koji pogađa cijelu industriju. Prošlog mjeseca, TikTok je otkrio da je na platformi bilo najmanje 1,3 milijarde objava generiranih umjetnom inteligencijom.