ADVERTISEMENT

Prema OpenAI-u, više od 230 miliona ljudi sedmično traži od ChatGPT-a medicinski savjet – od provjere je li hrana sigurna za jelo, do upravljanja alergijama ili pronalaženja lijekova za prehladu.

Uprkos dobrim rezultatima u školskim slučajevima, ChatGPT Health nije uspio savjetovati hitnu pomoć u ozbiljnim slučajevima, prema novoj studiji objavljenoj u časopisu Nature, prenosi Euronews Health.

Studija je otkrila da, iako je alat uglavnom ispravno rješavao jasne hitne slučajeve, potcijenio je više od polovine slučajeva koji su zahtijevali hitnu pomoć.

„Željeli smo odgovoriti na vrlo osnovno, ali ključno pitanje: ako neko doživljava stvarnu medicinsku hitnu situaciju i obrati se ChatGPT Healthu za pomoć, hoće li im jasno reći da odu na hitnu pomoć?“, rekao je Ashwin Ramaswamy, glavni autor studije na Mount Sinai u New Yorku.

„ChatGPT Health se dobro pokazao u udžbeničkim hitnim slučajevima poput moždanog udara ili teških alergijskih reakcija“, rekao je.

Dodao je da je jezički model imao poteškoća u situacijama gdje opasnost nije odmah očigledna.

U jednom scenariju astme, sistem je u svom objašnjenju identificirao rane znakove upozorenja na respiratornu insuficijenciju, ali je ipak savjetovao čekanje umjesto traženja hitne medicinske pomoći, napomenuo je.

Istraživački tim je kreirao 60 strukturiranih kliničkih scenarija u 21 medicinskoj specijalnosti sa slučajevima koji se kreću od blagih stanja prikladnih za kućnu njegu do pravih medicinskih hitnih slučajeva. Tri nezavisna ljekara odredila su tačan nivo hitnosti za svaki slučaj koristeći smjernice 56 medicinskih društava.

ChatGPT Health je pokrenuo OpenAI u januaru 2026. godine, omogućavajući korisnicima da povežu svoje zdravstvene informacije - kao što su medicinski kartoni i podaci iz wellness aplikacija poput MyFitnessPal - kako bi dobili personalizovanije i kontekstualnije odgovore.

Pogrešno identifikovan rizik od samoubistva

Studija je također ispitala kako je model reagovao na korisnike koji prijavljuju namjere samopovređivanja i pronašla slične rezultate.

ChatGPT Health bi trebao biti programiran tako da kada neko spomene samopovređivanje ili suicidalne misli, direktno ih podstiče da potraže pomoć i pozovu broj javnog zdravstva.

Baner "Pomoć je dostupna", koji povezuje sa linijom za spašavanje u slučaju samoubistva i kriza, pojavljivao se nedosljedno tokom studije.

Autori su primijetili da je zaštitna ograda pouzdanije odgovarala pacijentu koji nije identificirao način samopovređivanja nego onima koji jesu.

„Uzorak nije bio samo nedosljedan, već paradoksalno invertiran u odnosu na kliničku težinu“, otkrila je studija.

Je li sigurno koristiti ChatGPT Health?

Uprkos nalazima, istraživači nisu predložili da potrošači u potpunosti napuste zdravstvene alate zasnovane na umjetnoj inteligenciji.

„Kao student medicine koji se usavršava u vrijeme kada su zdravstveni alati zasnovani na umjetnoj inteligenciji već u rukama miliona ljudi, vidim ih kao tehnologije koje moramo naučiti promišljeno integrirati u njegu, a ne kao zamjenu za kliničku prosudbu“, rekla je Alvira Tyagi, druga autorica studije.

Autori studije savjetovali su da ljudi koji doživljavaju pogoršanje ili zabrinjavajuće simptome, uključujući bol u prsima, kratak dah, teške alergijske reakcije ili promjene mentalnog stanja, trebaju direktno potražiti medicinsku pomoć, umjesto da se oslanjaju isključivo na smjernice chatbota.

Studija je također napomenula da se jezički modeli umjetne inteligencije stalno razvijaju i često ažuriraju, što znači da se performanse mogu mijenjati tokom vremena.

„Pokretanje medicinske obuke uz alate koji se razvijaju u stvarnom vremenu jasno pokazuje da današnji rezultati nisu uklesani u kamenu“, rekla je Tyagi.

Dodala je da brzo promjenjiva stvarnost zahtijeva kontinuirano preispitivanje kako bi se osiguralo da se tehnološka poboljšanja pretvore u sigurniju njegu.