Američka kompanija OpenAI saopštila je da je obustavila obuku svojih najnovijih modela vještačke inteligencije (AI), zbog sve većeg broja izvještaja o tome kako agenti vještačke inteligencije počinju da se odmeću.
ADVERTISEMENT
Odluka o obustavljanju razvoja donijeta je samo nekoliko sati nakon što je kompanija u petak otkrila da preispituje nekoliko incidenata u kojima su agenti OpenAI-a, koji su pretraživali veb stranice savezne vlade, djelovali na neočekivane načine, izvan onoga što je od njih traženo, dok su prikupljali i distribuirali informacije, prenosi Gardijan.
U isto vrijeme, kompanija za razvoj vještačke inteligencije "Transluce", saopštila je da su agenti koji su izgleda došli iz kompanije OpenAI bezuspješno pokušali da hakuju veb stranicu Ministarstva prosvjete Sjedinjenih Američkih Država, što predstavlja detalj koji OpenAI nije potvrdio.
OpenAI je u saopštenju naveo da će nastaviti obuku "samo kada budu sigurni da imaju dodatne mjere zaštite", dodajući da očekuju da će morati ponovo da proglase pauzu, kako se vještačka inteligencija bude razvijala i kako se budu pojavljala druga pitanja.
Australijski premijer Entoni Albaneze saopštio je prošle nedjelje da je vještačka inteligencija, agent OpenAI probio nacionalni zdravstveni sistem vlade, ali da nisu bile ugrožene osjetljive informacije.
Ovo je drugi put za tri mjeseca da je OpenAI zaustavio razvoj svojih modela a prvi se dogodio u julu nakon što je otkriven sajber napad na startap za vještačku inteligenciju "Hugging face".
Kompanije za vještačku inteligenciju suočavaju se sa pritiskom zakonodavaca i tehnoloških stručnjaka da uspore razvoj kako bi mogle da izgrade zaštitne ograde koje bi spriječile agente da djeluju samostalno, hakuju veb stranice i otkrivaju nejavne informacije.