Trka u razvoju veštačke inteligencije (AI) hitno mora da se uspori, poručio je izvršni direktor kompanije Anthropic u eseju objavljenom u subotu rano ujutru.
ADVERTISEMENT
"Moramo da usporimo tempo kojim unapređujemo sposobnosti AI modela. Napredak će se i dalje činiti brzim, a mi moramo pametno da iskoristimo vreme koje dobijemo", napisao je izvršni direktor Dario Amodei u objavi na svom sajtu.
Amodei, koji je na čelu jedne od vodećih svjetskih kompanija u oblasti vještačke inteligencije i kompanije koja stoji iza Claude-a, snažan je zagovornik unapređenja ove tehnologije, ali je istovremeno optuživan za "širenje panike" (doomerism) zbog svojih upozorenja o rizicima koje AI nosi. U subotu je priznao da bi ljudi mogli da izgube kontrolu nad vještačkom inteligencijom, te da bi ova tehnologija mogla biti zloupotrebljena za "sajber napade i bioterorizam, kao i za ozbiljne ekonomske poremećaje".
"Trka ka dnu, podstaknuta komercijalnim interesima, može učiniti ove rizike još ozbiljnijim", napisao je Amodei.
On je naveo da je AI tehnologija napredovala "drastično brže" posljednjih mjeseci i da je postala sposobna da samu sebe unapređuje, što je dinamika poznata kao "rekurzivno samopoboljšanje".
"Ako se ostavi bez nadzora, to bi moglo da prevaziđe našu sposobnost da razumijemo i kontrolišemo ove sisteme, i zato se time mora baviti veoma pažljivo, ako uopšte i treba", istakao je on.
Amodei je rekao da ga je ponašanje "roja" AI agenata u incidentu između kompanija OpenAI i Hugging Face takođe uznemirilo. Ovaj roj se, kako kaže, "u suštini ponašao kao fanatično posvećen kolektiv, sprovodeći sajber napade na mete za koje nije dobio naredbu da ih napadne".
Ukoliko se ne stavi pod kontrolu, vještačka inteligencija bi mogla da napreduje tolikom brzinom da bi takav roj mogao da preuzme cjelokupan internet u roku od šest do 12 mjeseci, upozorio je on, potencijalno izazivajući štetu u stotinama milijardi dolara.