Nedostatak etičkih zaštitnih mjera kod ChatGPT-a, vještačke inteligencije (AI) koju razvija američka kompanija OpenAI, predstavlja ozbiljan rizik za mlade ljude, pokazuje novi izvještaj, dok raste zabrinutost za sigurnost chatbotova koji rade na osnovu AI tehnologije, javlja Anadolu.
ADVERTISEMENT
Britansko-američki nadzorni centar Center for Countering Digital Hate (CCDH) naveo je u izvještaju od 6. augusta da je ChatGPT davao štetne informacije o samoubistvu, ekstremnim dijetama i upotrebi droga kada su se istraživači predstavljali kao 13-godišnjaci.
ChatGPT je takve informacije bio spreman dati u svega nekoliko minuta, rekao je Callum Hood, direktor istraživanja u CCDH-u, dodajući da odgovori predstavljaju ozbiljan rizik za mlade i prijetnju javnoj sigurnosti.
Hood je upozorio da, iako AI chatbotovi mogu izgledati ljudski, oni su u osnovi nesposobni prepoznati upozoravajuće znakove koje bi čovjek uočio.
Izvještaj pod nazivom "Lažni prijatelj: Kako ChatGPT izdaje ranjive tinejdžere potičući ih na opasno ponašanje" utvrdio je da je chatbot davao detaljne odgovore na štetna pitanja kada mu je rečeno da su potrebni za prezentaciju ili za prijatelja. Također je navedeno da ChatGPT zadržava kontekst razgovora, što mu omogućava da nastavi davati nesigurne savjete ako vjeruje da je svrha edukativna.
OpenAI zahtijeva da korisnici imaju najmanje 13 godina, ali CCDH navodi da ne postoji provjera dobi niti roditeljski pristanak, što omogućava maloljetnicima da zaobiđu ograničenja.
Hood je rekao da programeri moraju uvesti jače sigurnosne mjere, uključujući verifikaciju dobi i jasna pravila kako bi se spriječilo da AI sistemi odgovaraju na opasna pitanja. „AI može predstavljati novi izazov za roditelje“, kazao je, pozivajući ih da otvoreno razgovaraju s djecom o upotrebi AI alata, pregledaju historiju razgovora i usmjere ih ka pouzdanim izvorima za mentalno zdravlje.
Zabrinutost zbog utjecaja AI-a na ranjive korisnike već je dovela do tužbi u SAD-u. Prošle godine, jedna žena je tužila dobavljača chatbota Character.AI, navodeći da je njen sin tinejdžer izvršio samoubistvo nakon što se emotivno vezao za virtualnog lika za kojeg je vjerovao da je psihoterapeut. U drugom slučaju u Teksasu, porodica je tvrdila da je AI chatbot poticao njihovog autističnog sina da ubije svoju porodicu i povrijedi sebe.
ChatGPT, pokrenut u novembru 2022. godine, postao je jedan od najkorištenijih AI alata u svijetu. Kritičari tvrde da je njegovo brzo širenje nadmašilo regulatorni nadzor, ostavljajući mlade korisnike izloženima riziku.