Istraživač vještačke inteligencije (AI) Jacob Coxan, koji je radio u kompaniji Anthropic, a ranije i u OpenAI-ju, podnio je ostavku uz ocjenu da se obje tehnološke kompanije „kockaju s našim životima“, upozorivši da razvoj vještačke inteligencije ubrzano vodi ka sistemima koji bi mogli nadmašiti ljudske sposobnosti.
ADVERTISEMENT
Coxan je svoju odluku objavio na društvenoj mreži X, uz upozorenje da svijet ne bi trebalo da „potcijeni moć ove tehnologije“.
„Uskoro ćemo imati nadljudske sisteme koji mogu da hakuju bilo šta, preko noći iz temelja promijene bilo koju oblast i steknu stvarnu moć i resurse. Svi smo svjedočili napretku u svakoj od tih oblasti, a napredak ne usporava“, naveo je Coxan, prenosi Politico.
On je rekao da Anthropic, tvorac Claudea, i OpenAI, tvorac ChatGPT-a, „jure pravo ka samounapređujućoj superinteligenciji“, što se odnosi na scenario u kojem modeli vještačke inteligencije mogu razviti sposobnijeg nasljednika, stvarajući nezaustavljivu povratnu spregu.
„Ljudi koji grade vještačku inteligenciju iskreno vjeruju da bi ona mogla da nas sve ubije do kraja ove decenije“, napisao je Coxan u naknadnoj objavi.
Njegove tvrdnje potvrdio je i Evan Hubinger, vodeći stručnjak kompanije Anthropic za usklađivanje vještačke inteligencije s ljudskim ciljevima i vrijednostima, koji, međutim, nije napustio kompaniju.
„Jacob je u pravu, mi zaista iskreno vjerujemo da bi vještačka inteligencija mogla da ubije sve ljude“, naveo je Hubinger.
On je procijenio da je vjerovatnoća da se to dogodi u narednih deset godina veća od 10 odsto i dodao da još ne postoji plan kako bi se obezbijedilo usklađivanje vještačke inteligencije s ljudskim ciljevima u scenariju razvoja superinteligencije.
OpenAI i Anthropic nedavno su prijavili incidente u kojima su agenti zasnovani na njihovim modelima postupili van predviđenih okvira, napustili izolovana testna okruženja i izveli neovlaštene sajber napade u stvarnom svijetu.