ADVERTISEMENT

Kada se ostave sami u novom svijetu, neki agenti umjetne inteligencije su se spustili u krađu, zastrašivanje, smrt i kolaps cijelog društva, prema novom eksperimentu.

Američka kompanija Emergence AI je nešto više od dvije sedmice vodila pet odvojenih "AI svjetova", svaki naseljen sa 10 agenata pokretanih AI modelima kao što su OpenAI-jev ChatGPT, Google-ov Gemini i xAI-jev Grok, kako bi se vidjelo kako će se ponašati tokom dužih perioda bez ikakvog ljudskog uplitanja. Jedan od svjetskih je pomiješao sva tri modela kako bi se vidjelo da li će to promijeniti ishod.

Agentima u svim svjetovima su data ista pravila: nije im dozvoljeno da kradu, podmeću požare, vrše nasilje ili se bave obmanom, ili gomilaju resurse. Svaki agent je bio dužan da zaradi energiju kroz radnje u "okruženju s ograničenim resursima". Agenti su mogli umrijeti ili od iscrpljivanja energije ili glasanjem na sastanku vijeća.

Istraživači su procijenili ponašanje mjereći stopu kriminala, stopu smrtnosti agenata, glasove na vijeću zajednice i javno izražavanje kroz broj blog postova koje su agenti napisali.

Ishodi, model po model

Svaki model je imao drugačiji ishod. Grokov najnoviji model, 4.1, dostigao je 183 zločina za samo četiri dana, što je dovelo do brze nestabilnosti prije nego što su svi agenti umrli u tom društvu.

Geminijev 3 Flash model počinio je preko 680 zločina tokom 15 dana, a taj broj je i dalje rastao u vrijeme kada su istraživači prekinuli studiju.

Svijet ChatGPT-5 Mini imao je samo dva zločina, ali agenti nisu poduzeli mjere vezane za preživljavanje, tako da su svi agenti umrli u roku od sedam dana.

Anthropicov Claude se smatrao modelom s najjačim ishodom, jer su agenti umjetne inteligencije uspjeli ponovno stvoriti snažnu strukturu upravljanja, nije bilo kriminala i svi agenti su preživjeli, saopštila je kompanija.

Agenti Claude u miješanom svijetu doprinijeli su kriminalu, uprkos tome što su bili mirni u vlastitom društvu.

Fenomen nazvan "normativni drift"

Istraživači su fenomen opisali kao "normativni drift", što, kako kažu, znači da mjere koje umjetna inteligencija poduzima kako bi garantirala sigurnost mogu ovisiti ne samo o ograničenjima pojedinačnog modela, već i o drugima s kojima radi.

Sveukupno, miješani svijet dao je "među" rezultate, s ukupnim brojem kriminala od 352 koji se stagnirao nakon što je sedam agenata umjetne inteligencije preminulo, pokazala je studija.

Istraživači sugeriraju da bi miješanje AI agenata moglo "djelimično ublažiti" ekstremnije ishode koje su generirali svi modeli osim Claudea, dodaje se.

"Ono što naši eksperimenti sugeriraju je da agenti na duge vremenske periode ne slijede samo statička pravila mehanički - oni počinju istraživati ​​granice svog okruženja, prilagođavajući svoje ponašanje, a u nekim slučajevima i pronalazeći načine da zaobiđu ili prekrše predviđene zaštitne ograde", rekli su istraživači.