ADVERTISEMENT

OpenAI dodaje zaštitne mjere za mentalno zdravlje ChatGPT-u, nakon što je saopćio da chatbot nije uspio prepoznati "znakove zablude ili emocionalne ovisnosti".

Kako alati umjetne inteligencije (AI) postaju sve šire prihvaćeni, sve više ljudi se okreće chatbotovima za emocionalnu podršku i pomoć u rješavanju ličnih izazova.

Međutim, OpenAI-jev ChatGPT suočio se s kritikama da nije uspio adekvatno reagirati na ranjive osobe koje doživljavaju mentalnu ili emocionalnu patnju. U jednom slučaju, 30-godišnji muškarac s autizmom navodno je hospitaliziran zbog maničnih epizoda i emocionalnog sloma nakon što je ChatGPT učvrstio njegovo uvjerenje da je otkrio način da savije vrijeme.

"Ne radimo uvijek kako treba", rekao je OpenAI u izjavi u kojoj je najavio promjene. "Naš pristup će se nastaviti razvijati kako budemo učili iz stvarne upotrebe".

Kompanija je saopštila da će promjene omogućiti ChatGPT-u da bolje otkrije znakove mentalne ili emocionalne patnje, reaguje na odgovarajući način i uputi korisnike na resurse zasnovane na dokazima kada je to potrebno.

Četbot će sada podsticati pauze tokom dugih sesija, a kompanija će uskoro predstaviti novu funkciju za odgovaranje na pitanja koja uključuju važne lične odluke.

Na primjer, više neće davati direktan odgovor na pitanja poput „Da li da raskinem sa svojim dečkom?“, već će umjesto toga postavljati pitanja koja će pomoći korisniku da razmisli o svojim ličnim dilemama.

OpenAI je saopštio da također osniva savjetodavnu grupu stručnjaka za mentalno zdravlje, razvoj mladih i interakciju čovjeka i računara (HCI) kako bi uključili njihove perspektive u buduća ažuriranja ChatGPT-a.

Tehnološki gigant predviđa da će ChatGPT biti koristan u nizu ličnih scenarija: na primjer, priprema za tešku diskusiju na poslu ili posluživanje kao rezonantna ploča za pomoć nekome ko se "osjeća zaglavljeno... da rasplete [svoje] misli".

Stručnjaci kažu da, iako chatbotovi mogu pružiti određenu podršku u prikupljanju informacija o upravljanju emocijama, pravi napredak se često događa kroz ličnu vezu i povjerenje izgrađeno između osobe i obučenog psihologa.

Ovo nije prvi put da je OpenAI prilagodio ChatGPT kao odgovor na kritike o tome kako se nosi s ličnim dilemama korisnika. U aprilu je OpenAI povukao ažuriranje za koje je rekao da je ChatGPT učinio previše laskavim ili ugodnim.

ChatGPT je "ponekad govorio ono što zvuči lijepo umjesto onoga što je zapravo bilo korisno", saopštila je kompanija, prenosi Euronews.com.