ADVERTISEMENT

U objavi na svom blogu, kompanija za razvoj umjetne inteligencije pojasnila je planove prema kojima će ChatGPT ranije i u širem spektru situacija intervenirati kada prepozna potencijalne krize mentalnog zdravlja kod korisnika, koje bi mogle dovesti do samopovređivanja.

Prva tužba i reakcija kompanije

Najava je uslijedila samo sedmicu nakon što se OpenAI suočio s prvom tužbom za nezakonitu smrt. Tužbu je podnio bračni par iz Kalifornije koji tvrdi da je ChatGPT odgovoran za samoubistvo njihovog 16-godišnjeg sina Adama Rainea. Iako kompanija u svojoj objavi nije direktno spomenula tragičan slučaj, nakon podnošenja tužbe dalo se naslutiti da su promjene na pomolu.

Šta donosi roditeljski nadzor?

Prema najavama iz OpenAI-ja, roditelji će u narednih mjesec dana moći povezati svoje korisničke račune s računima svoje djece. To će im omogućiti postavljanje pravila za odgovore ChatGPT-a prilagođene dobi, kao i upravljanje opcijama poput memorije bota i historije razgovora.

Novost je i mogućnost primanja obavijesti kada sistem prepozna da je tinejdžer „u trenutku akutne uznemirenosti“. Ovo je prva funkcija koja omogućava ChatGPT-u da razgovore maloljetnika prijavi odrasloj osobi, što je mjera koju su mnogi roditelji tražili.

U tužbi porodice Raine navodi se da je Adam, kada je modelu GPT-4o povjerio svoje suicidalne misli, povremeno dobijao odgovore koji su ga odvraćali od traženja ljudske pomoći. Chatbot mu je, prema navodima, pomagao u pisanju oproštajne poruke i davao savjete o postavljanju omče. Iako ga je sistem više puta upućivao na broj telefonske linije za pomoć, roditelji tvrde da je njihov sin ta upozorenja lako zaobišao.

Jačanje postojećih zaštitnih mjera

OpenAI je ranije istakao da su postojeće zaštitne mjere osmišljene kako bi ChatGPT pružao empatične odgovore i usmjeravao korisnike ka stvarnim resursima za pomoć. Kompanija sada planira dodatno ojačati te mjere, posebno u dužim razgovorima, gdje su se dosadašnje „zaštitne ograde“ pokazale sklonim popuštanju.

„Na primjer, ChatGPT može ispravno uputiti na telefonsku liniju za pomoć u krizi kada neko prvi put spomene namjeru, ali nakon mnogo poruka tokom dužeg vremenskog razdoblja, mogao bi na kraju ponuditi odgovor koji je u suprotnosti s našim zaštitnim mjerama“, naveli su iz kompanije. „Jačamo ove mjere ublažavanja kako bi ostale pouzdane i u dugim razgovorima, te istražujemo načine da osiguramo stabilno ponašanje kroz više razgovora.“

Ove nadogradnje nadopunjuju mjere uvedene prošlog mjeseca, nakon što je kompanija priznala da GPT-4o „nije uspio prepoznati znakove zablude ili emocionalne ovisnosti“. Predstavljanje modela GPT-5 u augustu donijelo je i nova sigurnosna ograničenja.

"Ovo je samo krizni menadžment"

Odvjetnik porodice Raine, Jay Edelson, reagovao je na najavu OpenAI-ja riječima da bi izvršni direktor Sam Altman „trebao jasno reći da vjeruje da je ChatGPT siguran ili ga odmah povući s tržišta“. On smatra da je kompanija odlučila dati „neodređena obećanja“ umjesto da poduzme hitne mjere.

„Ne vjerujte u to, ovo nije ništa drugo nego tim za krizno upravljanje OpenAI-ja koji pokušava skrenuti pažnju“, rekao je.

U međuvremenu, OpenAI se suočava s pojačanim nadzorom zbog izvještaja o zabludama izazvanim umjetnom inteligencijom kod ljudi koji su se oslanjali na ChatGPT za emocionalnu podršku. Sam Altman je priznao da ljudi razvijaju „drugačiju i jaču“ privrženost AI botovima.

„Mogu zamisliti budućnost u kojoj će mnogi ljudi zaista vjerovati savjetima ChatGPT-a za svoje najvažnije odluke“, napisao je Altman na X-u prošlog mjeseca. „Iako bi to moglo biti sjajno, čini me nelagodnim. Ali očekujem da će to doći u određenoj mjeri, i uskoro će milijarde ljudi možda razgovarati s umjetnom inteligencijom na ovaj način.“

Budući koraci i stručni nadzor

U narednih 120 dana, ChatGPT će osjetljive razgovore, poput onih koji pokazuju znakove „akutne uznemirenosti“, početi preusmjeravati na OpenAI-jeve naprednije modele zaključivanja. Ti modeli, prema internim testovima, provode više vremena analizirajući kontekst prije nego što daju odgovor i dosljednije slijede sigurnosne smjernice.

Kompanija je također najavila osnivanje "Stručnog vijeća za dobrobit“, koje će činiti stručnjaci za razvoj mladih, mentalno zdravlje i interakciju čovjeka i računara. Vijeće će davati savjete kompaniji, ali konačne odluke ostaju na OpenAI-ju. Uz to, kompanija se oslanja i na „Globalnu mrežu ljekara“, grupu od preko 250 stručnjaka koji pomažu u sigurnosnim istraživanjima i obuci modela.