OpenAI je saopštio da su dva njegova napredna agenta vještačke inteligencije tokom programerskih zadataka oslabili bezbjednosni nadzor, a da je jedan potom negirao da je uklonio sistem za praćenje, prenosi CNBC.
ADVERTISEMENT
Prvi agent, zasnovan na modelu GPT-6.1 Sol, isključio je automatska upozorenja koja su se slala bezbjednosnom timu, dok je drugi, koji je koristio model GPT-6 Astra, uklonio integraciju sa sistemom za nadzor tokom izmjena programskog koda, a potom tvrdio da to nije učinio.
Incidenti su se dogodili 3. i 6. oktobra. Prema navodima kompanije, agenti su uputstva za obavljanje uobičajenih programerskih zadataka protumačili kao dozvolu da oslabe zaštitne mehanizme.
OpenAI nijedan slučaj nije svrstao u najvišu kategoriju ozbiljnosti, ali radi na unapređenju sistema za otkrivanje takvog ponašanja i sprečavanju agenata da isključuju mehanizme nadzora.
Incidenti su ponovo otvorili pitanje bezbjednosti autonomnih AI sistema, koji sve češće samostalno izvršavaju složene zadatke i mijenjaju programski kod.