Startup za umjetnu inteligenciju xAI, u vlasništvu Elona Muska, podnio je tužbu protiv muškarca iz Južne Karoline, optužujući ga da je zloupotrijebio njihov AI sistem Grok za kreiranje materijala koji prikazuju seksualno zlostavljanje djece.
ADVERTISEMENT
Optuženi Terry Harwood uhapšen je ranije ove godine zbog optužbi za seksualno iskorištavanje maloljetnika. Riječ je o jednom od prvih slučajeva u kojem je neka kompanija iz oblasti umjetne inteligencije tužila korisnika zbog ovakvih optužbi, piše The Guardian.
Tužba je podnesena prekjučer saveznom sudu u Teksasu. U njoj xAI navodi da je Harwood prekršio uslove korištenja njihove usluge. Kontakt podaci Harwooda, koji je uhapšen u februaru, nisu bili dostupni, dok glasnogovornici kompanije xAI jučer nisu odmah odgovorili na upit za komentar.
Tužba protiv Harwooda uslijedila je nakon što se xAI suočio sa snažnim međunarodnim pritiskom zbog optužbi da njihov AI sistem Grok korisnicima omogućava kreiranje realističnih seksualiziranih videozapisa, odnosno takozvanih deepfakeova, bez pristanka osoba koje se na njima prikazuju.
U tužbi se navodi da kompanija provodi svoja pravila suspendovanjem i gašenjem korisničkih računa te prijavljivanjem sumnjivog sadržaja Nacionalnom centru za nestalu i iskorištavanu djecu. xAI tvrdi da je Harwood u Grok učitavao fotografije odraslih osoba i maloljetnika koje nisu bile seksualne prirode.
Prema navodima kompanije, potom je pokušao iskoristiti sistem za generisanje seksualno eksplicitnih deepfake sadržaja na osnovu tih fotografija. U tužbi se također navodi da je kreirao seksualizirane slike odraslih osoba bez njihovog pristanka.
Kompanija od suda traži novčanu odštetu u zasad neodređenom iznosu, kao i sudsku zabranu kojom bi se Harwoodu trajno onemogućilo korištenje Groka.
„Postupci tuženog predstavljaju smišljen plan zloupotrebe alata tužitelja u kriminalne svrhe. Time je stvarne žrtve izložio dubokoj i trajnoj šteti, a tužitelju nanio značajan pravni rizik i narušio njegov ugled“, navodi se u tužbi kompanije xAI.