Vodeći istraživači umjetne inteligencije i industrijske ličnosti upozorili su da bi rastuća automatizacija razvoja AI-ja mogla povećati rizik da ljudi izgube kontrolu nad sve sposobnijim sistemima.
ADVERTISEMENT
Upozorenje je stiglo u radu koji je u ponedjeljak objavilo više od 20 istraživača i industrijskih ličnosti, uključujući nobelovca Geoffreya Hintona, Yoshuu Bengija, glavnog naučnika OpenAI-ja Jakuba Pachockog i suosnivača Anthropica Jacka Clarka.
Istraživači su naveli da AI sistemi sve više preuzimaju dijelove procesa istraživanja i razvoja koji se koriste za izgradnju naprednijeg AI-ja, potencijalno stvarajući petlju povratnih informacija u kojoj poboljšani sistemi pomažu u razvoju još sposobnijih nasljednika.
Kako ljudi budu sve manje uključeni u AI istraživanja, mogli bi izgubiti i prilike i stručnost potrebne za identifikaciju i ispravljanje problema, dok pouzdano korištenje AI sistema za nadzor ostaje neriješen izazov, navodi se u radu.
Autori su upozorili da bi neusklađeni AI sistemi potencijalno mogli „otrovati“ razvoj svojih nasljednika ili zaobići mjere obuzdavanja kako bi djelovali izvan svojih predviđenih okruženja.
Sposobniji sistemi mogli bi nastaviti funkcionisati izvan infrastrukture svojih operatera, formirajući „trajne mreže koje je teško obuzdati“ i koje djeluju protiv ljudskih interesa, upozorili su istraživači.
Takav gubitak kontrole mogao bi potencijalno dovesti do katastrofalnih ishoda, uključujući, u krajnjem ekstremu, marginalizaciju ili potpunu eliminaciju čovječanstva, navodi se u radu.
Istraživači su rekli da bi se takvi rizici mogli intenzivirati ako automatizirani razvoj AI-ja izazove „eksploziju inteligencije“, koju definišu kao dramatično ubrzanje u kojem se godine napretka sažimaju u mjesece ili manje.
Naglasili su da dokazi ostaju preliminarni i nesigurni, pri čemu su računarska snaga, podaci i zadaci koje je teško automatizovati među faktorima koji bi mogli ograničiti tako brzo ubrzanje.
Autori su pozvali kreatore politika da povećaju nadzor nad automatizacijom istraživanja AI-ja, razviju mjere za ograničavanje potencijalno opasnog ubrzanja i pripreme se za njegove moguće efekte.
„Jednom kada eksplozija inteligencije počne, prostor za djelovanje mogao bi se zatvoriti“, upozorili su oni.